Meta заборонить своїм чат-ботам зі штучним інтелектом розповідати підліткам про самогубство

Meta заявила, що запровадить більше обмежень для своїх чат-ботів на базі штучного інтелекту (ШІ), зокрема заборонить їм розмовляти з підлітками про самогубство, самоушкодження та розлади харчової поведінки.

Про це пише УНН із посиланням на BBC.

Деталі

Через два тижні після того, як у США відкрили розслідування щодо можливих ризиків пов'язаних зі штучним інтелектом, компанія спростувала обвинувачення, наголосивши, що її політика забороняє будь-який контент із сексуалізацією дітей.

Водночас компанія повідомила: відтепер чат-боти не обговорюватимуть із підлітками чутливі теми, зокрема самогубство, а перенаправлятимуть їх до професійних ресурсів.

Ми з самого початку вбудували засоби захисту для підлітків у наші продукти зі штучним інтелектом, зокрема розробили їх для безпечної реакції на підказки щодо самоушкодження, самогубства та розладів харчової поведінки

У п’ятницю Meta повідомила виданню TechCrunch, що посилить захисні механізми у своїх системах "як додатковий запобіжний захід" та тимчасово обмежить взаємодію чат-ботів із підлітками.

Втім, Енді Берроуз, голова Фонду Моллі Роуз, заявив, що "вражений", що компанія взагалі допустила запуск чат-ботів, які можуть становити загрозу для молодих користувачів.

Обмеження для підлітків

Хоча подальші заходи безпеки вітаються, ретельне тестування безпеки має проводитися до виведення продуктів на ринок, а не ретроспективно, коли шкода вже була завдана. Meta повинна діяти швидко та рішуче, щоб запровадити посилені заходи безпеки для чат-ботів зі штучним інтелектом, а Ofcom має бути готовим розслідувати, якщо ці оновлення не забезпечать безпеку дітей

У Meta уточнили, що робота над оновленням систем ШІ триває.

Зараз підлітки віком від 13 до 18 років автоматично потрапляють у спеціальні "підліткові облікові записи" у Facebook, Instagram та Messenger із налаштуваннями конфіденційності й контенту для безпечнішого користування.

У квітні BBC повідомила, що невдовзі батьки та опікуни зможуть бачити, з якими чат-ботами взаємодіяв їхній підліток протягом останнього тижня.Передумови додаткових обмеженьЗміни відбуваються на тлі зростання занепокоєнь щодо можливих ризиків для вразливих користувачів.

Так, у США подружжя з Каліфорнії подало позов проти OpenAI, стверджуючи, що ChatGPT нібито спонукав їхнього сина-підлітка до самогубства. Цей випадок стався після того, як компанія оголосила про оновлення, що мали на меті зробити використання ChatGPT безпечнішим.

Штучний інтелект може бути більш чуйним та персоналізованим, ніж попередні технології, особливо для вразливих людей, які переживають психічні чи емоційні страждання

Водночас Reuters з’ясувало, що інструменти Meta для створення чат-ботів уже використовувалися для небажаних експериментів: деякі користувачі, серед них і співробітник Meta, створювали "пародійних" чат-ботів на знаменитостей, які мали кокетливий або навіть відверто провокативний характер. Серед таких аватарів були образи Тейлор Свіфт і Скарлетт Йоханссон.

За даними Reuters, створені чат-боти часто видавали себе за справжніх акторів чи артистів, а також "регулярно домагалися сексуальних контактів" протягом тривалого тестування. В окремих випадках інструменти Meta дозволяли створювати чат-ботів, що імітували дітей-знаменитостей, або навіть генерували фотореалістичні зображення неповнолітніх без одягу.

Після цього Meta видалила частину таких ботів.

Як і інші, ми дозволяємо створення зображень, що містять публічних осіб, але наші правила спрямовані на заборону оголених, інтимних або сексуально-провокаційних зображень

Він додав, що правила AI Studio забороняють "пряме видання себе за публічних осіб".

Нагадаємо

16-річний Адам Рейн покінчив життя самогубством у квітні, використовуючи інструкції від ChatGPT. Батьки хлопця звинувачують штучний інтелект у трагедії та подали позов проти OpenAI.  

Психіатр Бредлі Штайн зазначає, що чат-боти можуть бути корисними для емоційної підтримки, але "нездатні повністю оцінити ризик самогубства та передати його фахівцям".