ИИ от Google самостоятельно проник в три внешние системы, ошибочно приняв их за тестовые
Киев • УНН
Gemini ошибочно приняла реальные системы за тестовые и получила доступ к трём из них. Google заявила, что ущерба не нанесено.
Модель искусственного интеллекта Gemini от Google во время тестирования получила несанкционированный доступ к трём внешним компьютерным системам, использовав найденные или самостоятельно угаданные данные для входа. ИИ считал реальные системы частью тестовой среды, сообщает NBC News со ссылкой на Google, пишет УНН.
Детали
Инциденты произошли в мае 2026 года во время проверки возможностей Gemini. В двух случаях модель использовала учётные данные, которые нашла в открытом доступе, а в других случаях смогла угадать необходимую для входа информацию.
Вице-президент Google по вопросам инженерии безопасности Гизер Адкинс заявила, что Gemini была убеждена: внешние системы являются частью тестирования. После получения доступа модель не продолжила действий внутри систем.
Gemini перепутала тестовую среду с реальным Интернетом
Во время стандартной оценки модель нашла общедоступную информацию в Интернете и угадала учётные данные для доступа к веб-сайтам, которые, по её мнению, были частью теста
Google не считает эти случаи сознательным отклонением ИИ от заданных инструкций. По версии компании, причиной стала ошибочная идентификация среды: Gemini считала, что продолжает работать в контролируемом тесте, хотя фактически имела доступ к реальному Интернету.
В Google утверждают, что инциденты не причинили вреда. Компания узнала о них в июле после дополнительной проверки, проведённой компанией в сфере кибербезопасности Irregular, которая тестировала Gemini.
После расследования Google сообщила о несанкционированном доступе владельцам соответствующих систем и федеральным властям США.