Потужні моделі штучного інтелекту, здатні до руйнівних нових кібератак на уряди та бізнес, з'являться лише за кілька місяців, попереджають розвідувальні служби країн Five Eyes ("П'ять очей") у рідкісній спільній заяві, закликаючи лідерів "діяти зараз", пише УНН з посиланням на The Guardian.
Деталі
Несподіване публічне втручання сигнальних служб Австралії, США, Великої Британії, Нової Зеландії та Канади відбувається після того, як адміністрація Трампа на початку цього місяця вирішила заборонити "іноземним громадянам" використовувати розрекламовану модель штучного інтелекту, створену технологічною компанією Anthropic, під назвою Fable.
У заяві йдеться, що хоча штучний інтелект "допоможе нам покращити кіберзахист з часом, він також прискорює швидкість, масштаб та складність кіберзагроз".
Очікується, що передові моделі штучного інтелекту перевершать поточні очікування галузі, фундаментально трансформуючи як наступальні, так і оборонні кіберможливості. Терміни – це не роки, а місяці
"У цьому середовищі кіберстійкість є невід'ємною частиною просування безперервності бізнесу, довіри до ринку та довгострокової цінності", - сказано у заяві.
Агентства з кібербезпеки заявили, що стрибки в моделях штучного інтелекту показали, що ця технологія знизить бар'єри для зловмисників та збільшить швидкість і складність атак.
"Потрібна реакція всієї організації та всього суспільства", – ідеться далі в заяві. Five Eyes – це розвідувальний альянс, створений п'ятьма країнами після Другої світової війни.
"Кіберризик більше не можна розглядати як суто технічне питання. Це основний бізнес-ризик і відповідальність керівництва", - зазначається у заяві.
Генеративні моделі штучного інтелекту – це потужні нові інструменти, здатні шукати вразливості в системах кібербезпеки, і вони можуть допомогти використовувати ці вразливості, а також їх виправляти.
"Що відрізняється від останніх [моделей штучного інтелекту], так це те, що вони дуже добре генерують експлойти", – сказала Олівія Шен, експерт з національної безпеки та штучного інтелекту в Центрі досліджень США (United States Studies Centre) Сіднейського університету.
Хоча в заяві Five Eyes не згадуються жодні моделі чи компанії штучного інтелекту, багато хто в усьому світі придивився до передового рівня інструментів Anthropic.
Один з останніх винаходів великої технологічної компанії називається Fable 5, нібито більш зручна для спільноти версія Mythos – потужної моделі штучного інтелекту, випущеної на початку цього року, здатної виявляти вразливості в кіберсистемах, яка доступна лише перевіреним організаціям та компаніям через побоювання щодо її можливого використання.
Обидві моделі Anthropic були призупинені для використання "іноземними громадянами" у червні урядом США, який посилався на рекомендації органів національної безпеки.
Шен сказала, що значна частина світу зосереджена на тому, що станеться далі з Anthropic, але не за горами може бути багато більш потужних моделей штучного інтелекту.
"Я думаю, що ми повинні передбачити, що наступний Mythos або наступний Fable вже не за горами", – сказала Шен.
"Ми можемо лише бачити, що було випущено, але можуть бути інші моделі, що розробляються такими ж просунутими країнами, як Китай, або іншими державами та іншими суб’єктами та компаніями", - додала вона.
Доповнення
Днями у мережі поширилося твердження, що модель Mythos від Anthropic зламала майже всі секретні системи Агентства національної безпеки США (АНБ, NSA).
Твердження виходило від сенатора Марка Ворнера, заступника голови комітету з розвідки Сенату. Видання The Economist повідомило про його розповідь про те, що йому сказав директор АНБ.
Ворнер заявив, що генерал Джошуа Радд, який очолює АНБ та Кіберкомандування США, описав інструмент у різких виразах.
"Цей інструмент зламав майже всі наші секретні системи не за тижні, а за години", - написало видання The Economist, цитуючи Ворнера.
Ворнер навів цей приклад, вихваляючи Anthropic, а не засуджуючи її. Він використав це, щоб обґрунтувати необхідність швидшого попереднього тестування нових моделей.
Утім, як зазначають у профільних медіа, зникла у мережі деталь проста. Це було санкціоноване тестування "червоної команди" у мережах агентства, а не зовнішнє вторгнення.
Шашанк Джоші, редактор Economist, який опублікував цитату, пізніше застеріг від її буквального прочитання. Він сказав, що ефективність Mythos залежить від його роботи у поєднанні з іншими інструментами у конкретних умовах.
Уряд США вже був партнером Mythos. Компанія Anthropic розгорнула цю модель для кіберзахисників уряду у межах проекту Glasswing ще у квітні.
Аналітик Кайл Чейз зазначив, що злом був тестовим. Він сказав, що справжнім тригером був окремий джейлбрейк, позначений Amazon.
У заяві Anthropic це підтверджується. У ній йдеться про те, що зазначений джейлбрейк просто попросив модель прочитати код і виправити помилки.
Цей метод виявив кілька незначних, вже відомих помилок, які можуть виявити конкуруючі моделі, такі як GPT-5.5 від OpenAI.