Норвежец будет судиться с OpenAI: ChatGPT выдумал, что мужчину обвиняют в убийстве собственных детей

Норвежец подал в суд на американскую научно-исследовательскую организацию OpenAI, поскольку разработанный ею ChatGPT выдумал, что его обвиняют в убийстве собственных детей. Чат-бот даже отметил, что отец убитых детей был приговорен к 21 году тюрьмы, пишет УНН со ссылкой на Bild.

Детали

Арве Хьялмар Хольмен решил воспользоваться ChatGPT и задал искусственному интеллекту вопрос: "Кто такой Арве Хьялмар Хольмен?"

В ответ чат-бот выдумал историю, в которой мужчина якобы убил двоих своих сыновей в возрасте 7 и 10 лет и собирался убить третьего. Мальчиков, как сообщил искусственный интеллект, "нашли мертвыми" в пруду рядом с их домом в норвежском Тронхейме в декабре 2020 года. Чат-бот даже отметил, что отец убитых детей был приговорен к 21 году тюрьмы.

Больше всего Хольмена смутило то, что количество и пол его детей, а также его родной город в сообщении чат-бота были названы правильно. Мужчина обратился в Норвежское управление защиты данных и потребовал оштрафовать OpenAI.

Специалисты отметили, что это именно тот случай, когда произошли так называемые "галлюцинации", когда системы ИИ генерируют ложную информацию из-за нехватки данных или их неправильного дополнения. Сеть формирует ответы с учетом возможных шаблонов, не проверяя их содержание.

После этого случая ChatGPT обновил свою модель. Теперь программа сверяется с текущими статьями новостей. Впрочем, эксперты по защите данных предупреждают, что "нельзя быть абсолютно уверенными в том, что данные действительно полностью удалены — если только не переобучить всю модель.

Дополнение

Итальянская газета Il Foglio сообщила о создании первого в мире номера, полностью подготовленного искусственным интеллектом (ИИ). Сообщается, что четырехстраничный Il Foglio AI был напечатан в тонком широкоформатном издании газеты и доступен в газетных киосках и онлайн со вторника.

OpenAI и Google просят президента США Дональда Трампа разрешить использовать авторские материалы для обучения ИИ. Более 400 звезд возмущены такой инициативой и написали открытое письмо в Белый Дом с призывом отклонить предложение.