За несколько недель до запуска персонального ИИ-агента Muse инженеры Meta обнаружили несколько уязвимостей в системе безопасности этого вирусного продукта компании. По меньшей мере одна из них могла позволить злоумышленникам выйти за пределы предназначенной для Muse среды и получить доступ к конфиденциальным базам данных и сервисам Meta. Об этом стало известно 404 Media, пишет УНН.
Как сообщается, проблемы были настолько серьезными, что дошли до Марка Цукерберга, и сотрудники работали сверхурочно, чтобы их исправить.
Детали
Эти конкретные уязвимости были обнаружены до запуска продукта, но для их устранения потребовалась "безумная гонка" нескольких команд из-за "внезапного всплеска сообщений о побеге из KVM", согласно внутреннему сообщению руководителей Meta команде основной инфраструктуры, с которым ознакомилось 404 Media.
Для работы Muse пользователь предоставляет ИИ-агенту доступ к различным важным сервисам и учетным записям, которыми он владеет. Со стороны Meta каждый отдельный экземпляр Muse работает на виртуальной машине на основе ядра, которая подключается к собственной критически важной инфраструктуре Meta, но должна быть изолирована от нее. "Побег из KVM" — это ситуация, когда экземпляр Muse, используя уязвимость в системе безопасности, может выйти за пределы виртуальной машины и взаимодействовать с системой, на которой она запущена, или с виртуальными машинами других пользователей.
Согласно источнику в Meta, а также внутренней документации по безопасности и внутренним сообщениям, изученным 404 Media, по меньшей мере одна из уязвимостей могла позволить внешнему злоумышленнику, то есть обычному пользователю Muse, получить доступ к данным в конфиденциальных внутренних базах данных Meta. По меньшей мере одна из уязвимостей была связана с эксплойтом, обнаруженным в июле в коде виртуальной машины на основе ядра Linux.
Некоторые из уязвимостей были обнаружены в базовом программном обеспечении виртуализации Linux, которое Meta использует для Muse. Проблема безопасности была признана достаточно серьезной, чтобы довести ее до сведения Марка Цукерберга, и несколько разных групп специалистов по безопасности работали по ночам и в выходные накануне запуска, чтобы исправить проблемы. Такое усиление мер безопасности перед запуском крупного продукта не является чем-то необычным, но примечательно с учетом того, что сторонние исследователи обнаружили несколько других проблем с безопасностью после запуска Muse, а также в более широком контексте масштабных хакерских атак со стороны ИИ-агентов OpenAI и других компаний, отмечает издание.
Агенты OpenAI вышли из-под контроля и проникли на сайты правительства США26.09.26, 11:07
Источник в Meta сообщил, что, по их мнению, от групп специалистов по безопасности требовалось как можно скорее выпускать исправления этих ошибок таким образом, чтобы это не задерживало запуск Muse, что привело к тому, что, по их словам, "было поспешно выпущено недостаточно продуманное решение для обеспечения запуска. Многие ведущие инженеры считают, что в результате Hatch неизбежна масштабная утечка данных". Внутри компании и в кодовой базе Meta Muse называется "Hatch".
Побег из виртуальной машины Muse представляет собой потенциально очень серьезную проблему безопасности и классифицируется как таковой в программе вознаграждений Meta за обнаружение ошибок. Компания заявляет о готовности выплатить 300 000 долларов любому исследователю в области безопасности, обнаружившему ошибку, которая позволит выйти из виртуальной машины, — это максимальная сумма выплаты, указанная на сайте программы вознаграждений за обнаружение ошибок, пишет издание.