Ведущие компании в сфере ИИ готовятся к возможному выходу искусственного интеллекта из-под контроля - СМИ

Руководители Anthropic, OpenAI и других компаний в сфере искусственного интеллекта обсуждают действия на случай масштабного инцидента с участием ИИ, который может вызвать общественный резонанс. Об этом пишет Axios, передает УНН.

Детали

Руководители компаний Anthropic, OpenAI и других компаний, занимающихся искусственным интеллектом, в непубличном порядке моделируют сценарии общественного и политического восстания после катастрофического события, связанного с искусственным интеллектом

Чиновники предполагают крупномасштабное событие, скорее всего — кибератаку, которая перекроет доступ к финансовым услугам, интернету или даже электроснабжению и водоснабжению.

Первый пример значительного реального ущерба, причиненного опасным ИИ, еще больше настроит и без того настороженную общественность против этой технологии и ее лидеров, в частности генерального директора Anthropic Дарио Амодеи и генерального директора OpenAI Сэма Альтмана, а также президента Трампа за его нежелание регулировать эту сферу

В ходе подготовки к таким сценариям особое внимание уделяют взаимодействию с Конгрессом США. После промежуточных выборов 3 ноября позиции демократов в Конгрессе могут усилиться. Демократы выступают за более жесткое регулирование ИИ, чем республиканцы.

Среди более радикальных предложений демократов - запрет на создание сверхинтеллекта и приостановка разработки передовых моделей ИИ.

Идею оснастить передовые модели ИИ механизмом аварийного отключения поддерживают представители обеих партий. Однако эксперты сомневаются, что системы ИИ можно будет полностью отключить в случае чрезвычайной ситуации.

Напомним

Искусственный интеллект (ИИ) "может представлять угрозу для всего человечества" без принятия соответствующих мер. С таким предупреждением в среду, 23 сентября, перед Советом Безопасности ООН выступили руководители крупнейших компаний, занимающихся ИИ.