Мощные модели искусственного интеллекта, способные на разрушительные новые кибератаки на правительства и бизнес, появятся всего через несколько месяцев, предупреждают разведывательные службы стран Five Eyes ("Пять глаз") в редком совместном заявлении, призывая лидеров "действовать сейчас", пишет УНН со ссылкой на The Guardian.
Детали
Неожиданное публичное вмешательство разведывательных служб Австралии, США, Великобритании, Новой Зеландии и Канады происходит после того, как администрация Трампа в начале этого месяца решила запретить "иностранным гражданам" использовать разрекламированную модель искусственного интеллекта, созданную технологической компанией Anthropic, под названием Fable.
В заявлении говорится, что хотя искусственный интеллект "поможет нам улучшить киберзащиту со временем, он также ускоряет скорость, масштаб и сложность киберугроз".
Ожидается, что передовые модели искусственного интеллекта превзойдут текущие ожидания отрасли, фундаментально трансформируя как наступательные, так и оборонительные кибервозможности. Сроки — это не годы, а месяцы
"В этой среде киберустойчивость является неотъемлемой частью продвижения непрерывности бизнеса, доверия к рынку и долгосрочной ценности", - сказано в заявлении.
Агентства по кибербезопасности заявили, что скачки в моделях искусственного интеллекта показали, что эта технология снизит барьеры для злоумышленников и увеличит скорость и сложность атак.
"Требуется реакция всей организации и всего общества", – говорится далее в заявлении. Five Eyes – это разведывательный альянс, созданный пятью странами после Второй мировой войны.
"Киберриск больше нельзя рассматривать как сугубо технический вопрос. Это основной бизнес-риск и ответственность руководства", - отмечается в заявлении.
Генеративные модели искусственного интеллекта – это мощные новые инструменты, способные искать уязвимости в системах кибербезопасности, и они могут помочь использовать эти уязвимости, а также их исправлять.
"Что отличает последние [модели искусственного интеллекта], так это то, что они очень хорошо генерируют эксплойты", – сказала Оливия Шен, эксперт по национальной безопасности и искусственному интеллекту в Центре исследований США (United States Studies Centre) Сиднейского университета.
Хотя в заявлении Five Eyes не упоминаются никакие модели или компании искусственного интеллекта, многие во всем мире присмотрелись к передовому уровню инструментов Anthropic.
Одно из последних изобретений крупной технологической компании называется Fable 5, якобы более удобная для сообщества версия Mythos – мощной модели искусственного интеллекта, выпущенной в начале этого года, способной выявлять уязвимости в киберсистемах, которая доступна только проверенным организациям и компаниям из-за опасений по поводу ее возможного использования.
Обе модели Anthropic были приостановлены для использования "иностранными гражданами" в июне правительством США, которое ссылалось на рекомендации органов национальной безопасности.
Шен сказала, что значительная часть мира сосредоточена на том, что произойдет дальше с Anthropic, но не за горами может быть много более мощных моделей искусственного интеллекта.
"Я думаю, что мы должны предвидеть, что следующий Mythos или следующий Fable уже не за горами", – сказала Шен.
"Мы можем только видеть, что было выпущено, но могут быть другие модели, разрабатываемые такими же продвинутыми странами, как Китай, или другими государствами и другими субъектами и компаниями", - добавила она.
Дополнение
На днях в сети распространилось утверждение, что модель Mythos от Anthropic взломала почти все секретные системы Агентства национальной безопасности США (АНБ, NSA).
Утверждение исходило от сенатора Марка Уорнера, заместителя председателя комитета по разведке Сената. Издание The Economist сообщило о его рассказе о том, что ему сказал директор АНБ.
Уорнер заявил, что генерал Джошуа Радд, который возглавляет АНБ и Киберкомандование США, описал инструмент в резких выражениях.
"Этот инструмент взломал почти все наши секретные системы не за недели, а за часы", - написало издание The Economist, цитируя Уорнера.
Уорнер привел этот пример, восхваляя Anthropic, а не осуждая ее. Он использовал это, чтобы обосновать необходимость более быстрого предварительного тестирования новых моделей.
Впрочем, как отмечают в профильных медиа, исчезнувшая в сети деталь проста. Это было санкционированное тестирование "красной команды" в сетях агентства, а не внешнее вторжение.
Шашанк Джоши, редактор Economist, опубликовавший цитату, позже предостерег от ее буквального прочтения. Он сказал, что эффективность Mythos зависит от его работы в сочетании с другими инструментами в конкретных условиях.
Правительство США уже было партнером Mythos. Компания Anthropic развернула эту модель для киберзащитников правительства в рамках проекта Glasswing еще в апреле.
Аналитик Кайл Чейз отметил, что взлом был тестовым. Он сказал, что настоящим триггером был отдельный джейлбрейк, отмеченный Amazon.
В заявлении Anthropic это подтверждается. В нем говорится о том, что указанный джейлбрейк просто попросил модель прочитать код и исправить ошибки.
Этот метод выявил несколько незначительных, уже известных ошибок, которые могут выявить конкурирующие модели, такие как GPT-5.5 от OpenAI.