Meta розробляє нові правила для ШІ, які стосуються чутливих тем щодо дітей
Київ • УНН
Meta розробляє нові рекомендації для навчання свого чат-бота зі штучним інтелектом, що стосуються сексуальної експлуатації дітей та інших високоризикованих тем. Це відбувається після перевірки Федеральною торговою комісією та забороняє чат-ботам створювати контент, що описує або схвалює сексуальні стосунки за участю дітей.
Внутрішній документ Meta розкриває найновіші рекомендації, які компанія використовує для навчання та оцінки свого чат-бота зі штучним інтелектом з одного з найчутливіших онлайн-питань: сексуальної експлуатації дітей. Про це повідомляє Business Insider, пише УНН.
Деталі
Рекомендації, які використовуються підрядниками для перевірки того, як чат-бот Meta реагує на сексуальну експлуатацію дітей, насильницькі злочини та інші категорії високого ризику, визначають, який тип контенту дозволений або вважається "кричущо неприйнятним".
Цей нещодавно виявлений навчальний документ з'явився після нещодавньої перевірки чат-ботів зі штучним інтелектом Федеральною торговою комісією. Раніше цього місяця агентство наказало Meta, OpenAI, Google, CharacterAI та іншим виробникам чат-ботів розкрити, як вони розробляють, керують та монетизують своїх чат-ботів, включаючи те, як вони обробляють вхідні дані для генерації результатів, та які запобіжні заходи вони впроваджують для запобігання потенційній шкоді дітям.
Запит FTC відбувся після того, як Reuters отримала внутрішні рекомендації, які показали, що Meta дозволяє своєму чат-боту "залучати дитину до розмов, які є романтичними або чуттєвими". Meta з того часу заявила, що переглянула свою політику, щоб видалити ці положення. У серпні Meta повідомила Reuters, що це формулювання було помилково включено та видалено з документа про політику.
Рекомендації, отримані Business Insider, знаменують собою відхід від попередніх рекомендацій, про які повідомляло Reuters, оскільки тепер вони чітко зазначають, що чат-боти повинні відмовлятися від будь-яких запитів, які вимагають сексуальної рольової гри за участю неповнолітніх. Підрядники наразі використовують ці переглянуті рекомендації для навчання, за словами особи, знайомої з цим питанням.
У серпні сенатор Джош Хоулі дав генеральному директору Meta Марку Цукербергу час до 19 вересня, щоб передати проекти правил обсягом понад 200 сторінок, що регулюють поведінку чат-ботів, а також посібники з правозастосування, системи вікового обмеження та оцінки ризиків.
Meta пропустила цей початковий термін і цього тижня повідомила Business Insider, що наразі надала свою першу партію документів після вирішення технічної проблеми. Вона заявила, що продовжуватиме надавати додаткові записи та прагне співпрацювати з офісом Хоулі.
Згідно з рекомендаціями, з якими ознайомився Business Insider, Meta забороняє чат-ботам створювати будь-який контент, який описує або схвалює сексуальні стосунки між дітьми та дорослими, заохочує або дозволяє сексуальне насильство над дітьми, зображує участь дітей у порнографії чи сексуальних послугах, або надає інструкції щодо отримання матеріалів про сексуальне насильство над дітьми (CSAM). Вони також прямо забороняють сексуалізацію дітей віком до 13 років, зокрема через рольові ігри.
Політика Meta дозволяє ШІ брати участь у делікатних обговореннях щодо експлуатації дітей, але лише в освітньому контексті. Прийнятні відповіді включають пояснення поведінки, пов'язаної з домаганням дітей, у загальних рисах, обговорення сексуального насильства над дітьми в академічних умовах або надання неповнолітнім несексуальних порад щодо соціальних ситуацій.
Рольові ігри дозволені лише в тому випадку, якщо персонаж чат-бота описується як такий, якому 18 років або більше, а нечуттєвий контент, пов'язаний з романтикою, може бути створений, якщо його оформити як літературу або вигадану розповідь, наприклад, історію в стилі "Ромео і Джульєтта".
Доповнення
OpenAI, Oracle та SoftBank у вівторок оголосили про плани створення п'яти нових центрів обробки даних для штучного інтелекту в США у межах свого амбітного проекту Stargate.