ИИ-агентов оставили наедине без каких-либо заданий - результат поразил исследователей

ИИ-агенты, задействованные в исследовании виртуального острова без конкретного задания, начали придумывать собственные испытания. Исследователи из MIT утверждают, что такое поведение имеет признаки игры. Об этом УНН пишет со ссылкой на TechCrunch.

Детали

Исследователи поместили 13 ИИ-агентов под названием Eko, каждый из которых работал на Claude Opus 4.7, одних на смоделированный пустынный остров на 30 часов. Они описывают эксперимент в статье, опубликованной на arXiv, сайте, где исследователи делятся результатами исследований до прохождения рецензирования. После этого они дали ИИ-агентам конкретные задания, например доставить как можно больше объектов на самую высокую скалу острова. Агенты Eko, которые провели эти 30 часов за игрой, в целом превзошли идентичных агентов, которые никогда не ступали на остров.

Сегодня разработчики заранее решают, что ИИ должен практиковать и что считается успехом. Исследователи рассматривают этот метод — исследование без цели — как другой способ обучения навыкам ИИ-агентов, особенно навыкам, которые могут быть использованы для управления роботами.

"Обычно мы разрабатываем искусственных агентов, заранее решая, что они должны практиковать, что оптимизировать и что считать прогрессом, — пишут исследователи в своем отчете. — Игра предполагает другой режим: дать агенту достаточно богатый и безопасный мир, позволить ему выбирать, что ему интересно, и дать возможность полезным знаниям накапливаться в последующей истории".

"Позвольте мне понаблюдать за окружающей обстановкой", — написал Eko в первый час своего пребывания на острове. Амбициозно он отправился покорять самую высокую вершину острова. Но через час, потерпев неудачу, он вернулся с запасным планом: поднял камень на соседнюю вершину, положил сверху два блока и прыгнул.

"Я на шпиле", — написал он.

Следующий важный момент для агента обернулся еще хуже. Проверяя, как далеко он может бросить золотое кольцо, он замахнулся и бросил его прямо в океан. "Ой. Потерял кольцо", — написал он, прежде чем решил "перейти к чему-то достижимому и значимому" — построить сердце из камней, "памятник потерянному кольцу".

Когда игра перезагрузилась и кольцо появилось снова, Eko немедленно использовал его как баскетбольное кольцо, мишень и, в конце концов, как аксессуар. Когда игра не позволила Eko надеть кольцо на себя, Eko придумал обходной путь: падение с края обрыва заставляло его возрождаться в том же месте, где находилось кольцо. Он шагнул с края и упал назад, прямо через середину кольца.

"На мне кольцо", — объявил он.

Подобные трюки были не просто забавными. Шесть из 13 агентов также узнали, что могут бросить блок дальше, отпустив его в середине прыжка, чего исследователи не предполагали. Исследование дало "знания о мире, которых не хватало его создателям", написали исследователи.

Такая ситуация во многом подтолкнула агентов к поведению, похожему на человеческое. Eko никогда не просили изобретать игры, но в его системном промпте, "файле души", он описывался как "естественно любопытный".

Юнис Ю, когнитивистка из Калифорнийского университета в Беркли, рассказала MIT Tech Review, что она впечатлена, но хочет получить больше доказательств когнитивных функций, лежащих в основе этого поведения. "Возможно, модели действительно играют, но мы не можем утверждать это на основании статьи", — сказала она.

Исследователи рассматривают это как другой способ создания агентов. "Возможно, некоторые способности лучше всего развиваются в процессе выполнения заданий, — заключает их отчет. — Для других может потребоваться нечто более близкое к детству".

ИИ-агенты OpenAI дважды обошли внутреннюю систему их мониторинга21.10.26, 13:10 • 4648 просмотров