Провідні ШІ-компанії готуються до можливого виходу штучного інтелекту з-під контролю - ЗМІ

Керівники Anthropic, OpenAI та інших компаній у сфері штучного інтелекту обговорюють дії на випадок масштабного інциденту за участю ШІ, який може спричинити суспільний резонанс. Про це пише Axios, передає УНН.

Деталі

Керівники компаній Anthropic, OpenAI та інших компаній, що займаються штучним інтелектом, у непублічному порядку моделюють сценарії громадського та політичного повстання після катастрофічної події, пов’язаної зі штучним інтелектом

Посадовці передбачають великомасштабну подію, найімовірніше - кібератаку, яка перекриє доступ до фінансових послуг, інтернету або навіть електропостачання та водопостачання.

Перший приклад значної реальної шкоди, спричиненої небезпечним ШІ, ще більше налаштує й без того насторожену громадськість проти цієї технології та її лідерів, зокрема генерального директора Anthropic Даріо Амодеї та генерального директора OpenAI Сема Альтмана, а також президента Трампа за його небажання регулювати цю сферу

Під час підготовки до таких сценаріїв особливу увагу приділяють взаємодії з Конгресом США. Після проміжних виборів 3 листопада позиції демократів у Конгресі можуть посилитися. Демократи виступають за жорсткіше регулювання ШІ, ніж республіканці.

Серед радикальніших пропозицій демократів - заборона на створення суперінтелекту та призупинення розробки передових ШІ-моделей.

Ідея оснастити передові ШІ-моделі механізмом аварійного вимкнення має підтримку представників обох партій. Проте експерти сумніваються, що ШІ-системи можна буде повністю відключити в разі надзвичайної ситуації.

Нагадаємо

Штучний інтелект (ШІ) "може становити загрозу для всього людства" без вжиття відповідних заходів. Із таким попередженням у середу, 23 вересня, перед Радою Безпеки ООН виступили керівники найбільших компаній, що займаються ШІ.