ШІ-агентів залишили наодинці без жодних завдань - результат вразив дослідників

ШІ-агенти, задіяні у дослідженні віртуального острова без конкретного завдання, почали вигадувати власні виклики. Дослідники з MIT стверджують, що така поведінка має ознаки гри. Про це УНН пише з посиланням на TechCrunch.

Деталі

Дослідники помістили 13 ШІ-агентів під назвою Eko, кожен із яких працював на Claude Opus 4.7, одних на змодельований пустельний острів на 30 годин. Вони описують експеримент у статті, опублікованій на arXiv, сайті, де дослідники діляться результатами досліджень до рецензування. Після цього вони дали ШІ-агентам конкретні виклики, наприклад, доставити якнайбільше об'єктів на найвищу скелю острова. Агенти Eko, які провели ці 30 годин за грою, загалом перевершили ідентичних агентів, які ніколи не ступали на острів.

Сьогодні розробники наперед вирішують, що ШІ має практикувати і що вважається успіхом. Дослідники розглядають цей метод — дослідження без мети — як інший спосіб навчання навичкам ШІ-агентів, особливо навичкам, які можуть бути використані для управління роботами.

"Зазвичай ми розробляємо штучних агентів, заздалегідь вирішуючи, що вони мають практикувати, що оптимізувати і що вважати прогресом, - пишуть дослідники у своєму звіті. - Гра передбачає інший режим: дати агенту досить багатий і безпечний світ, дозволити йому вибирати, що йому цікаво, і дати можливість корисним знанням накопичуватися з подальшої історії".

"Дозвольте мені спостерігати за навколишнім оточенням", - написав Eko першу годину свого перебування на острові. Амбіційно він вирушив підкорювати найвищу вершину острова. Але через годину, зазнавши невдачі, він повернувся із запасним планом: він підняв камінь на сусідню вершину, поклав зверху два блоки і стрибнув.

"Я на шпилі", - написав він.

Наступний важливий момент для агента обернувся ще гірше. Перевіряючи, як далеко він може кинути золоте кільце, він замахнувся і кинув його прямо в океан. "Ой. Втратив кільце", - написав він, перш ніж вирішив "перейти на щось досяжне і значуще" - побудувати серце з каменів, "пам'ятник втраченому кільцю".

Коли гра перезавантажилася і кільце з'явилося знову, Eko відразу ж використав його як баскетбольне кільце, мішень і, зрештою, як аксесуар. Коли гра не дозволила Eko надіти кільце на себе, Eko придумав обхідний шлях: падіння з краю урвища змушувало його відроджуватися в тому ж місці, де знаходилося кільце. Він ступив з краю і впав назад, прямо через середину кільця.

"На мені кільце", - оголосив він.

Подібні трюки були не просто кумедними. Шість із 13 агентів також дізналися, що можуть кинути блок далі, відпустивши його в середині стрибка, чого дослідники не припускали. Дослідження дало "знання про світ, яких не вистачало його творцям", написали дослідники.

Така ситуація багато в чому підштовхнула агентів до поведінки, подібної до людської. Eko ніколи не просили винаходити ігри, але в його системному промті, "файлі душі", він описувався як "природно допитливий".

Юніс Ю, когнітивістка з Каліфорнійського університету в Берклі, розповіла MIT Tech Review, що вона вражена, але хоче отримати більше доказів когнітивних функцій, що стоять за цією поведінкою. "Можливо, моделі справді граються, але ми не знаємо цього на основі статті", – сказала вона.

Дослідники розглядають це як інший спосіб створення агентів. "Можливо, деякі здібності найкраще розвиваються у вигляді виконання завдань, - робить висновок їхній звіт. - Для інших може знадобитися щось ближче до дитинства".

ШІ-агенти OpenAI двічі обійшли внутрішню систему з їх моніторингу21.10.26, 13:10 • 4559 переглядiв