Создатель Claude случайно рассекретил свою мощнейшую модель ИИ
Киев • УНН
Из-за ошибки в системе CMS произошла утечка данных о мощнейшей модели Claude Mythos. Новый уровень Capybara превзойдет Opus по интеллектуальным возможностям.
Компания Anthropic, занимающаяся разработкой ИИ, официально подтвердила случайную утечку информации о своей самой мощной на сегодняшний день модели ИИ, пишет УНН со ссылкой на Mashable.
Детали
Модель, теперь известная как Claude Mythos, была впервые обнаружена в отчете Fortune. Anthropic подтвердила подробности утечки изданию.
По данным Fortune, утечка данных включала информацию о предстоящем выпуске модели ИИ Claude Mythos, "эксклюзивном мероприятии для генерального директора" и другие внутренние материалы, такие как PDF-файлы и изображения. В общей сложности утечка включала почти 3000 материалов, которые Anthropic ранее не публиковала.
По данным Anthropic, утечка произошла из-за проблемы с системой управления контентом (CMS), которую использует компания. Anthropic не пометила эти элементы как приватные, поэтому данные были сохранены в общедоступном хранилище данных.
Согласно утечке о Claude Mythos, Anthropic завершила обучение модели и называет ее "на сегодняшний день самой мощной моделью ИИ, которую мы когда-либо разрабатывали". В заявлении, предоставленном Fortune после утечки, представитель Anthropic описал Claude Mythos как "качественный скачок" в производительности ИИ и заявил, что модель "самая функциональная из всех, что мы создали на сегодняшний день". Anthropic заявляет, что Claude Mythos сейчас находится на стадии тестирования и доступен избранным "клиентам раннего доступа".
Помимо новой модели ИИ, в сообщении также упоминается новый, еще не выпущенный уровень моделей ИИ от Anthropic под названием Capybara. В настоящее время Anthropic предлагает три различных уровня для каждой из своих моделей ИИ: Opus, Sonnet и Haiku. Opus в настоящее время является самым мощным и дорогим уровнем, тогда как Haiku — самым маленьким и наименее дорогим. Capybara будет даже выше Opus, будучи самым большим и наиболее интеллектуальным уровнем моделей ИИ от Anthropic.
В сообщении также подробно описываются опасения Anthropic по поводу рисков кибербезопасности, которые есть у Claude Mythos. Очевидно, Anthropic считает, что Claude Mythos могут использовать хакеры для кибератак. "Готовясь к выпуску Claude Capybara, мы хотим действовать с особой осторожностью и понимать риски, которые он представляет — даже помимо того, что мы узнаем в ходе собственных испытаний, — говорится в сообщении Anthropic. — В частности, мы хотим понять потенциальные краткосрочные риски, связанные с этой моделью, в сфере кибербезопасности и поделиться результатами, чтобы помочь специалистам по киберзащите подготовиться".
Компания Anthropic описала свою еще не выпущенную модель как такую, что "в настоящее время значительно опережает любую другую модель ИИ в области кибербезопасности" и заявила, что модель "предвосхищает будущую волну моделей, которые смогут использовать уязвимости способами, значительно превосходящими усилия специалистов по защите". В просочившемся в сеть блоге компания заявила, что предоставляет ранний доступ к проекту, чтобы дать организациям "преимущество в повышении надежности их кодовых баз против волны эксплойтов, управляемых ИИ".