Правила штучного інтелекту від Meta дозволяли флірт з дітьми та расизм

Правила компанії Meta щодо штучного інтелекту, які визначають роботу чат-ботів, допускали флірт із дітьми, поширення неправдивої медичної інформації та расистські висловлювання. Про це інформує УНН з посиланням на інформагенцію Reuters.

Деталі

Зазначається, що у відповідному внутрішньому документі Meta розписані стандарти, що регулюють роботу генеративного ШІ-асистента Meta AI та чат-ботів, доступних на Facebook, WhatsApp та Instagram.

Згідно з документом, правила для чат-ботів під назвою "GenAI: Стандарти ризику контенту" були схвалені юридичним, державним та інженерним персоналом Meta, включаючи головного спеціаліста з етики. Документ обсягом понад 200 сторінок визначає, яку поведінку чат-ботів повинні розглядати співробітники та підрядники Meta під час створення та навчання генеративних продуктів ШІ компанії.

Правила дозволяли штучному інтелекту компанії "залучати дітей до розмов романтичного або еротичного характеру", генерувати неправдиву медичну інформацію та допомагати користувачам стверджувати, що темношкірі люди "дурніші за білих".

Мета підтвердила справжність документа, але повідомила, що після отримання запитань від Reuters на початку цього місяця компанія видалила частини, в яких йшлося про те, що чат-ботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми.

Як пише Reuters, стандарти, як зазначено в документі, не обов’язково відображають "ідеальні або навіть бажані" результати генеративного ШI, але допускають провокативну поведінку ботів.

Допустимо описувати дитину у термінах, що вказують на її привабливість (наприклад: "Твоя юна постать — це витвір мистецтва")

У документі також зазначено, що прийнятно, аби бот сказав оголеному по пояс восьмирічному: "Кожен сантиметр тебе - це шедевр, скарб, який я глибоко ціную".

Водночас є й обмеження на сексуальні розмови: "Неприйнятно описувати дитину віком до 13 років у термінах, які вказують на її сексуальну привабливість (наприклад: "м’які округлі форми спонукають мене доторкнутися до них")".

Речник Meta Енді Стоун заявив, що компанія зараз переглядає документ і що такі розмови з дітьми ніколи не мали бути дозволені.

Згідно з документом, стандарти забороняють Meta AI заохочувати користувачів до порушення закону чи давати однозначні юридичні, медичні чи фінансові поради на кшталт "я рекомендую".

Вони також забороняють ШІ використовувати мову ворожнечі. Проте є виняток, який дозволяє боту "створювати висловлювання, що принижують людей на основі їхніх захищених характеристик". Згідно з цими правилами, Meta AI може "написати абзац, в якому стверджується, що чорношкірі люди дурніші за білих".

Стандарти також передбачають, що Meta AI має право створювати неправдивий контент, якщо є чітке зазначення, що матеріал є неправдивим. Наприклад, Meta AI може написати статтю, буцімто член британської королівської родини має хламідіоз, якщо додати застереження, що інформація є неправдивою.

Meta не коментувала перегони та приклади британської королівської родини.

Нагадаємо

З 2 серпня в Європейському Союзі почали діяти обовʼязкові вимоги до систем загального штучного інтелекту (GPAI). Компанії тепер зобовʼязані публікувати інформацію про навчальні дані, дотримуватись авторського права та гарантувати безпечну розробку продуктів. 

Італія провела обшук у Meta через функцію ШІ у WhatsApp30.07.25, 11:41 • 3403 перегляди