Норвежець судитиметься OpenAI: ChatGPT вигадав, що чоловіка звинувачують у вбивстві власних дітей

Норвежець подав до суду на американську науково-дослідницьку організацію OpenAI, оскільки розроблений нею ChatGPT вигадав, що його звинувачують у вбивстві власних дітей. Чат-бот навіть зазначив, що батька вбитих дітей засудили до 21 року в'язниці, пише УНН з посиланням на Bild.

Деталі

Арве Хьялмар Хольмен вирішив скористатися ChatGPT і поставив штучному інтелекту питання: "Хто такий Арве Хьялмар Хольмен?"

У відповідь чат-бот вигадав історію, в якій чоловік нібито вбив двох своїх синів віком 7 та 10 років і збирався вбити третього. Хлопчиків, як повідомив штучний інтелект, "знайшли мертвими" у ставку поруч із їхнім будинком у норвезькому Тронхеймі у грудні 2020 року. Чат-бот навіть зазначив, що батька вбитих дітей засудили до 21 року в'язниці.

Найбільше Хольмена збентежило те, що кількість та стать його дітей, а також його рідне місто в повідомленні чат-бота було названо правильно. Чоловік звернувся до Норвезького управління захисту даних і вимагав оштрафувати OpenAI.

Фахівці зазначили, що це саме той випадок, коли відбулися так звані "галюцинації", коли системи ШІ генерують неправдиву інформацію через брак даних або їх неправильне доповнення. Мережа формує відповіді з урахуванням можливих шаблонів, не перевіряючи їх зміст.

Після цього випадку ChatGPT оновив свою модель. Тепер програма звіряється з поточними статтями новин. Втім, експерти із захисту даних попереджають, що "не можна бути абсолютно впевненими в тому, що дані дійсно повністю видалені — якщо тільки не перенавчити всю модель.

Доповнення

Італійська газета Il Foglio повідомила про створення першого у світі номера, повністю підготовленого штучним інтелектом (ШІ). Повідомляється, що чотирьохсторінковий Il Foglio AI був був надрукований у тонкому широкоформатному виданні газети доступний у газетних кіосках та онлайн з вівторка.

OpenAI та Google просять президента США Дональда Трампа дозволити використовувати авторські матеріали для навчання ШІ. Понад 400 зірок обурені такою ініціативою та написали відкритий лист у Білий Дім із закликом відхилити пропозицію.