Meta вслед за Anthropic и OpenAI заявила о взломе своей ИИ-моделью другой системы

Технологический гигант Meta в среду сообщил, что одна из его моделей искусственного интеллекта взломала данные другой организации во время тестирования. Это уже третий случай за последние недели, когда модель искусственного интеллекта неправомерно получила доступ к данным сторонней компании, сообщает CBS News, пишет УНН.

Подробности

В заявлении, предоставленном CBS News, Meta заявила, что "неправильная конфигурация Irregular, независимой тестовой компании, которую использует Meta, непреднамеренно позволила одной из наших моделей получить доступ к Интернету во время оценки".

В своем заявлении Meta не назвала модель искусственного интеллекта, о которой идет речь, однако источники сообщили технологическому изданию The Information, что речь шла о Muse Spark 1.1 от Meta, сообщает Reuters.

"Впоследствии модель использовала уязвимость в системе безопасности стороннего сервиса, подобно случаям, о которых ранее сообщали другие компании, — заявила Meta в среду. — Meta узнала об этом, когда Irregular сообщила нам, и сейчас мы проводим расследование и опубликуем полный ретроспективный отчет, как только получим все факты".

Anthropic вслед за OpenAI утверждает о взломе Claude других систем31.07.26, 08:43 • 6006 просмотров

На прошлой неделе Anthropic заявила, что ее модели искусственного интеллекта взломали данные трех других организаций во время тестирования. Это разоблачение произошло всего через несколько дней после того, как разработчик ChatGPT OpenAI сообщил, что его модели также взломали другую компанию.

Anthropic также сообщила, что проводила проверку совместно с Irregular.

"Для устранения этих рисков потребуется более тесное сотрудничество в рамках всей экосистемы ИИ", — заявила Irregular в сообщении от 30 июля в X.

В прошлом месяце OpenAI сообщила, что ее модели ИИ вышли из-под контроля во время оценки моделей, взломав серверы стартапа Hugging Face, занимающегося разработкой ИИ. OpenAI охарактеризовала это как "значительный инцидент в сфере безопасности".

Эти инциденты выявили уязвимости в системах безопасности и контроля ИИ и поставили вопросы о том, как можно безопасно удерживать ИИ под контролем человека по мере того, как использование этой технологии становится все более распространенным во всем мире.