До потенційно "небезпечної" ШІ-моделі Mythos від Anthropic отримали доступ без дозволу - ЗМІ

Невелика група неавторизованих користувачів отримала доступ до нової моделі штучного інтелекту Mythos компанії Anthropic PBC, яка, як стверджує компанія, може сприяти небезпечним кібератакам, пише УНН з посиланням на Bloomberg.

Деталі

Цей несанкціонований доступ, про який раніше не повідомлялося, підкреслює проблему, з якою стикається Anthropic у повному запобіганні поширенню своєї найпотужнішої - і потенційно небезпечної - технології за межі затверджених партнерів. Це також порушує питання про те, чи може хтось ще використовувати Mythos без дозволу і з якою метою.

Творець Claude випадково розсекретив свою найпотужнішу модель ШІ28.03.26, 11:14 • 5370 переглядiв

Користувачі використовували різні тактики доступу до Mythos. Серед них використання доступу, який людина мала як співробітник стороннього підрядника Anthropic, і спроби використання поширених в інтернеті інструментів для пошуку інформації, що часто використовуються дослідниками кібербезпеки, повідомило джерело.

Користувачі є учасниками закритого каналу Discord, який займається пошуком інформації про невипущені моделі, у тому числі за допомогою ботів, які шукають деталі, опубліковані Anthropic та іншими на незахищених веб-сайтах, таких як GitHub.

"Ми розслідуємо повідомлення про несанкціонований доступ до Claude Mythos Preview через середовище одного з наших сторонніх постачальників", - ідеться у заяві представника Anthropic.

Компанія заявила, що наразі вона не має доказів того, що доступ, про який повідомило Bloomberg, вийшов за межі середовища стороннього постачальника або що він зачіпає будь-які системи Anthropic.

На сьогодні Anthropic дозволила Apple Inc., Amazon.com Inc., Cisco Systems Inc. та десяткам інших організацій розпочати тестування Mythos. Amazon, ключовий партнер та спонсор Anthropic, також пропонує Mythos через свою платформу Bedrock обмеженому списку схвалених організацій.

В останні дні все більше фінансових установ та державних органів по обидва боки Атлантики прагнуть бути включеними до списку перших тестувальників, щоб захистити свої системи від зловмисників.

Щоб отримати доступ до Mythos, група користувачів зробила обґрунтоване припущення про місцезнаходження моделі в мережі, ґрунтуючись на знанні формату, який Anthropic використовувала для інших моделей, повідомило джерело, додавши, що такі подробиці були розкриті в результаті недавнього витоку даних з Mercor, стартапу з навчання ШІ, що працює з низкою провідних розробників.

Важливо, що ця людина також має дозвіл на доступ до моделей Anthropic та програмного забезпечення, що використовується для оцінки технології стартапу. Цей доступ було отримано від компанії, на яку він виконував контрактну роботу з оцінки моделей ШІ Anthropic. 

Група, як вказало джерело, зацікавлена ​​в експериментах з новими моделями, а не в завданні їм шкоди. Група не запускала тести, пов'язані з кібербезпекою, на моделі Mythos, воліючи замість цього виконувати такі завдання, як створення простих веб-сайтів, щоб уникнути виявлення Anthropic.

Ця людина сказала, що група також має доступ до багатьох інших ще не випущених моделей ШІ Anthropic.