OpenAI отменила запуск новой модели ИИ из-за проблем с безопасностью

Компания OpenAI, разработчик ChatGPT, подтвердила во вторник, 29 сентября, что не будет выпускать свою новую ИИ-модель — GPT-6.1 Astra — из-за опасений по поводу безопасности. Об этом УНН пишет со ссылкой на BBC.

Подробности

Система ИИ, которая самостоятельно выполняет такие задачи, как просмотр веб-страниц и использование приложений, "не вполне соответствовала стандартам" компании, заявила BBC Саачи Джайн, руководитель отдела систем безопасности OpenAI.

Во вторник OpenAI также опубликовала обновлённую информацию об инцидентах, произошедших в июне, но не обнародованных до прошлой недели, когда её модели без разрешения получали доступ к веб-сайтам и системам австралийского правительства.

Эти инциденты и аналогичные нарушения со стороны моделей, разработанных крупными компаниями в сфере ИИ, в последние недели обострили дебаты о рисках, связанных с этой технологией.

Ведущие специалисты в сфере ИИ, включая Сэма Альтмана из OpenAI и главу Anthropic Дарио Амодея, призвали отрасль замедлить темпы разработки из-за опасений относительно рисков, связанных с этой технологией.

Решение OpenAI, о котором впервые сообщила The Wall Street Journal, является редким случаем, когда крупный разработчик ИИ отзывает новый релиз из-за проблем с безопасностью.

Модель не соответствовала требованиям "соблюдения ограничений и авторизации, а также тому, как она сообщает пользователю о типе выполненной работы", сказала Джайн.

"Мы хотим убедиться, что разработка нашей модели безопасна независимо от того, происходит ли это внутри компании или во время выпуска для пользователей. Но когда мы предоставляем её пользователям, у нас чрезвычайно высокие требования к безопасности и согласованности", — добавила она.

OpenAI готовит к запуску модель кибербезопасности GPT-6 Cyber25.09.26, 14:00 • 3035 просмотров