Технологические гиганты пообещали Байдену обеспечить безопасность систем ИИ

Детали 

Президент США Джо Байден заявил в пятницу, что ряд крупнейших технологических компаний, включая Amazon, Google, Meta и Microsoft, взяли на себя обязательства принять защитные меры в сфере искусственного интеллекта, произведенных при посредничестве Белого дома.

По словам Байдена, эти обязательства являются важным шагом на пути к управлению огромными возможностями и рисками, связанными с новой технологией.

Добровольные обязательства, взятые семью американскими компаниями, должны гарантировать безопасность ИИ-продуктов еще до их выпуска. Некоторые обязательства предусматривают надзор за работой коммерческих систем искусственного интеллекта, но не уточняют, кто будет проводить аудит технологии.

«Мы должны четко представлять угрозы, исходящие от новых технологий, и быть бдительными», – сказал Байден, добавив, что компании несут «фундаментальную ответственность за безопасность своих продуктов».

«Социальные сети показали нам, какой вред могут нанести мощные технологии без надлежащих мер предосторожности, – добавил президент Байден. – Эти обязательства – многообещающий шаг, но нам предстоит еще много совместной работы».

Системы генеративного искусственного интеллекта, способные создавать тексты, изображения и другие медиаданные, практически не отличающиеся от создаваемых человеком, вызвали восхищение у многих. Но одновременно с этим возникла и обеспокоенность по поводу их способности вводить людей в заблуждение и распространять дезинформацию.

Четыре упомянутых технологических гиганта, а также компания OpenAI – создатель ChatGPT – и стартапы Anthropic и Inflection взяли на себя обязательства проводить тестирование, в том числе независимыми экспертами, для защиты от основных рисков, включая биологическую безопасность и кибербезопасность.

Кроме того, в ходе тестирования будет изучаться возможность причинить вред обществу, например, предвзятости и дискриминации, а также теоретические опасности, связанные с получением контроля над физическими системами или саморепликацией ИИ.

Компании также обязались сообщать об уязвимых местах в их системах и использовать цифровые «водяные знаки», позволяющие обнаруживать изображения, созданные с помощью генеративного ИИ.

Дополнение

Некоторые сторонники регулирования ИИ назвали действия Байдена важным первым шагом, но подчеркнули, что этого недостаточно.

«Нам нужно более широкое общественное обсуждение, во время которого будут подниматься вопросы, которыми компании вряд ли будут заниматься добровольно, потому что это приведет к совершенно другим результатам, которые могут непосредственно повлиять на их бизнес-модели», – заявила Амба Як, исполнительный директор исследовательской организации AI Now.

Лидер демократического большинства в Сенате Чак Шумер заявил, что он внесет на рассмотрение законопроект по регулированию искусственного интеллекта. Он отметил, что будет работать с администрацией Байдена и коллегами из обеих партий, опираясь на обязательства, взятые в пятницу.

Взятые обязательства в основном связаны с рисками для безопасности, но не касаются других проблем, вызванных применением искусственного интеллекта, включая влияние на рабочие места и рыночную конкуренцию, природные ресурсы и авторское право на произведения человека, используемые для обучения систем ИИ.

.