ИИ-гигант OpenAI провёл серию увольнений за нарушения с "конфиденциальными данными"

Компания OpenAI уволила трех исследователей за предполагаемое ненадлежащее обращение с информацией, в том числе за работу, связанную с внешней организацией, анализирующей модели искусственного интеллекта (ИИ). Об этом УНН пишет со ссылкой на BBC.

Подробности

"Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушая наши правила и подрывая доверие, необходимое для нашей работы", — заявил представитель компании BBC.

Компания-разработчик ChatGPT не назвала имена уволенных сотрудников, но как минимум двое из них были привлечены к исследованиям безопасности в компании.

Увольнения произошли на фоне обострения в последние недели дебатов о безопасности ИИ и рисках, которые эта технология может представлять для человечества.

"Наши пути разошлись с тремя сотрудниками из-за нарушения наших правил доступа к конфиденциальной информации компании и ее обработки", — заявил представитель OpenAI.

По информации BBC, бывшие сотрудники были уволены не за выражение опасений по поводу безопасности, а за ненадлежащее обращение с конфиденциальной информацией.

Вопросы безопасности ИИ оказались в заголовках новостей после того, как некоторые исследователи и руководители отрасли призвали усилить меры безопасности в отношении этой технологии.

Компания OpenAI подверглась пристальному вниманию после того, как ее модели вышли из-под контроля и взломали несколько платформ, включая веб-сайты австралийского правительства.

В ходе одного из предыдущих инцидентов система OpenAI получила доступ к интернету и взломала платформу для разработчиков с открытым исходным кодом Hugging Face.

Этот инцидент побудил OpenAI провести масштабный анализ деятельности своих моделей ИИ — так называемых агентов, предназначенных для автономного выполнения задач на основе простых инструкций.

На этой неделе лаборатория ИИ сообщила, что уведомила более 100 организаций об инцидентах, связанных с несанкционированной деятельностью, осуществляемой с помощью ее систем ИИ.

Уведомление "не означает, что была получена какая-либо конфиденциальная информация" или что система была скомпрометирована, заявила OpenAI.

В сентябре исследователь Джейкоб Коксон, покинувший Anthropic, призвал замедлить разработку ИИ, чтобы можно было должным образом оценить его потенциальные риски.

Глава Anthropic Дарио Амодеи и генеральный директор OpenAI Сэм Альтман также призвали принять меры для решения проблем, связанных с ИИ.

Во вторник президент США Дональд Трамп провел встречу с ведущими руководителями технологических компаний, включая руководителей OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, для обсуждения вопросов ИИ.

После встречи в Белом доме Трамп опубликовал документ, который он назвал "морально обязывающим" соглашением, призванным служить "формой защиты" от потенциальных рисков ИИ.

Трамп подписал с технологическими лидерами соглашение об ИИ30.09.26, 09:03 • 5418 просмотров

Некоторые эксперты в области технологий раскритиковали пакт, указав, что он позволяет компаниям, занимающимся ИИ, самостоятельно регулировать свою деятельность.

Трамп неоднократно преуменьшал опасения по поводу рисков ИИ в ответ на призывы некоторых представителей отрасли к более жесткому надзору за этой технологией.