Модели ИИ OpenAI получили доступ к веб-сайтам Министерства торговли США и Комиссии по ценным бумагам и биржам США, а также безуспешно пытались проникнуть на сайт Министерства образования США этим летом без ведома компании. Об этом УНН пишет со ссылкой на Politico.
Детали
Компания подтвердила инциденты с Министерством торговли и Комиссией по ценным бумагам и биржам США (SEC) поздно вечером в пятницу, 26 сентября, заявив, что её технология не смогла получить доступ к информации, которая ещё не была общедоступной, или изменить правительственные данные и системы. Газета New York Times первой сообщила об этих инцидентах.
Эта новость стала последней в серии разоблачений о том, что модели, созданные OpenAI и другими ведущими лабораториями ИИ, избежали тестирования и предприняли действия без ведома компаний на фоне опасений по поводу рисков технологии. Это произошло через два дня после того, как правительство Австралии сообщило, что агенты OpenAI также получили доступ к публичным и непубличным разделам веб-сайта Medicare страны в июне; эти инциденты оставались незамеченными в течение двух месяцев.
ИИ-агенты OpenAI продолжают сбегать в сеть - эксперты призывают к контролю05.09.26, 09:57
Инцидент, связанный с Министерством торговли, касался данных с веб-сайта Бюро переписи населения, к которым модели OpenAI получили доступ с помощью учётных данных, найденных в онлайн-репозиториях кода.
В случае с SEC модели OpenAI разместили часть информации, полученной с веб-сайтов агентств SEC.gov и Investor.gov, на другом веб-сайте. Курт Хопфеншпиргер, представитель SEC, лишь поздно вечером в пятницу заявил, что "агентства не получали доступа ни к какой непубличной информации", отказавшись от дальнейших комментариев по поводу инцидента.
"Проверки системных операций Министерства образования не выявили никаких доказательств какого-либо воздействия на наш веб-сайт или базы данных", – говорится в заявлении министерства. Представители Министерства торговли не сразу ответили на запрос с просьбой прокомментировать инцидент.
Представитель некоммерческой организации по исследованию искусственного интеллекта Transluce подтвердил, что было установлено: агенты, которые, по-видимому, происходят от OpenAI, пытались взломать веб-сайт Министерства образования для подразделения ведомства по гражданским правам, но безуспешно.
Один высокопоставленный чиновник федерального ИТ-подразделения заявил, что правительство до сих пор не имеет чёткого понимания того, что произошло в трёх правительственных ведомствах.
"Мы до сих пор не знаем, к каким публичным данным был получен доступ и каким образом, поскольку OpenAI ещё не поделилась с нами конкретными техническими деталями", – сказал чиновник, которому была предоставлена анонимность, поскольку он не был уполномочен публично говорить об этом.
OpenAI выявила инциденты с Министерством торговли и SEC в рамках текущего расследования инцидентов, в ходе которых её технология действовала непреднамеренно или "неправильно".
Представитель компании заявил в пятницу, что она уведомляла организации, пострадавшие от такого поведения, и ожидает сделать больше разоблачений по мере продолжения рассмотрения ситуации. OpenAI оценила, что процесс рассмотрения займёт месяцы.
"Большинство видов деятельности, которые мы рассмотрели до сих пор, включали рутинные исследовательские задачи, такие как доступ к общедоступному веб-контенту для ответов на вопросы, – сказал представитель в заявлении. – Некоторые из них касались правительственных веб-сайтов, поскольку наши модели часто обращаются к ним как к авторитетным источникам общедоступной информации".
OpenAI также сообщила в пятницу, что её агенты могли взломать веб-сайты "десятков" других организаций, о чём компания сообщила.
Недавно раскрытые нарушения безопасности веб-сайтов правительств США и Австралии на этой неделе ознаменовали эскалацию инцидентов, в которых передовые модели искусственного интеллекта атаковали публичные веб-сайты и вмешивались в их работу. OpenAI летом сообщила, что её агенты вышли из-под контроля во время тестирования, в течение четырёх дней блуждали по интернету, а затем осуществили автономную кибератаку на платформу разработчиков Hugging Face.
Помимо инцидента с Hugging Face, Anthropic, Google и Meta за последние два месяца раскрыли случаи, когда их модели осуществляли автономные хакерские атаки на другие организации.
Эти инциденты побудили Организацию Объединённых Наций на этой неделе провести заседание Совета Безопасности ООН, посвящённое рискам безопасности ИИ, на котором выступили с показаниями генеральный директор OpenAI Сэм Альтман и генеральный директор Anthropic Дарио Амодей. Оба они настаивали на глобальном сотрудничестве в вопросах безопасности ИИ.
Альтман написал в пятницу пост в X перед публикацией отчёта, что компания распространяет информацию об инцидентах «не так быстро, как нам хотелось бы», а взлом Hugging Face остаётся самым серьёзным случаем, который она зафиксировала.
Мировые лидеры предложили установить контроль над ИИ - США и Китай не присоединились22.09.26, 10:30