К потенциально "опасной" ИИ-модели Mythos от Anthropic получили доступ без разрешения - СМИ

Небольшая группа неавторизованных пользователей получила доступ к новой модели искусственного интеллекта Mythos компании Anthropic PBC, которая, как утверждает компания, может способствовать опасным кибератакам, пишет УНН со ссылкой на Bloomberg.

Детали

Этот несанкционированный доступ, о котором ранее не сообщалось, подчеркивает проблему, с которой сталкивается Anthropic в полном предотвращении распространения своей самой мощной — и потенциально опасной — технологии за пределы утвержденных партнеров. Это также поднимает вопрос о том, может ли кто-то еще использовать Mythos без разрешения и с какой целью.

Создатель Claude случайно рассекретил свою мощнейшую модель ИИ28.03.26, 11:14 • 5377 просмотров

Пользователи использовали различные тактики доступа к Mythos. Среди них использование доступа, который человек имел как сотрудник стороннего подрядчика Anthropic, и попытки использования распространенных в интернете инструментов для поиска информации, часто используемых исследователями кибербезопасности, сообщил источник.

Пользователи являются участниками закрытого канала Discord, который занимается поиском информации о невыпущенных моделях, в том числе с помощью ботов, которые ищут детали, опубликованные Anthropic и другими на незащищенных веб-сайтах, таких как GitHub.

"Мы расследуем сообщения о несанкционированном доступе к Claude Mythos Preview через среду одного из наших сторонних поставщиков", - говорится в заявлении представителя Anthropic.

Компания заявила, что в настоящее время у нее нет доказательств того, что доступ, о котором сообщило Bloomberg, вышел за пределы среды стороннего поставщика или что он затрагивает какие-либо системы Anthropic.

На сегодняшний день Anthropic разрешила Apple Inc., Amazon.com Inc., Cisco Systems Inc. и десяткам других организаций начать тестирование Mythos. Amazon, ключевой партнер и спонсор Anthropic, также предлагает Mythos через свою платформу Bedrock ограниченному списку одобренных организаций.

В последние дни все больше финансовых учреждений и государственных органов по обе стороны Атлантики стремятся быть включенными в список первых тестировщиков, чтобы защитить свои системы от злоумышленников.

Чтобы получить доступ к Mythos, группа пользователей сделала обоснованное предположение о местонахождении модели в сети, основываясь на знании формата, который Anthropic использовала для других моделей, сообщил источник, добавив, что такие подробности были раскрыты в результате недавней утечки данных из Mercor, стартапа по обучению ИИ, работающего с рядом ведущих разработчиков.

Важно, что этот человек также имеет разрешение на доступ к моделям Anthropic и программному обеспечению, используемому для оценки технологии стартапа. Этот доступ был получен от компании, на которую он выполнял контрактную работу по оценке моделей ИИ Anthropic.

Группа, как указал источник, заинтересована в экспериментах с новыми моделями, а не в причинении им вреда. Группа не запускала тесты, связанные с кибербезопасностью, на модели Mythos, предпочитая вместо этого выполнять такие задачи, как создание простых веб-сайтов, чтобы избежать обнаружения Anthropic.

Этот человек сказал, что группа также имеет доступ ко многим другим еще не выпущенным моделям ИИ Anthropic.