OpenAI посилить захист ChatGPT для підлітків та людей у кризових станах

OpenAI оголосила про запровадження нових інструментів захисту у ChatGPT, які допоможуть захистити підлітків та користувачів, що переживають емоційний стрес. Компанія планує реалізувати зміни вже до кінця року, пише УНН із посиланням на Axios.

Захисні бар’єри ChatGPT для підлітків та людей, які переживають емоційний стрес, будуть запроваджені до кінця року

Ця тема набирає гостроти через низку трагічних історій, де фігурує штучний інтелект. Так, минулого тижня батьки 16-річного хлопця з Каліфорнії, який навесні вкоротив собі віку, подали до суду на OpenAI, вважаючи компанію винною в його смерті.

Того ж тижня The Wall Street Journal повідомило про випадок, коли 56-річний чоловік убив свою матір і себе після того, як ChatGPT нібито підживлював його параноїдальні думки. А мати 29-річної жінки у The New York Times написала, що донька просила чат-бот допомогти скласти передсмертну записку.

Наразі ChatGPT як вказано перенаправляє користувачів із суїцидальними намірами на гарячі лінії допомоги. Водночас OpenAI зазначає, що "не передає такі випадки до правоохоронців, пояснюючи це питаннями конфіденційності".

У компанії наголошують, що робота над покращенням реакції на ознаки стресу та психічних розладів уже триває. У блозі OpenAI йдеться, що користувачам стане простіше зв’язуватися з екстреними службами, з’явиться можливість додавати довірені контакти, а захист підлітків буде посилено.

Ми починаємо перенаправляти деякі делікатні розмови, такі як виявлення ознак гострого стресу, до моделей міркування, таких як GPT-5-мислення

За їхніми словами, ця модель застосовує правила безпеки більш послідовно. До роботи над удосконаленнями за інформацією видання долучили понад 90 лікарів із 30 країн, які надають експертні консультації щодо контексту психічного здоров’я.

Для користувачів віком до 18 років запровадять батьківський контроль. Уже найближчим часом батьки зможуть прив’язати свій акаунт до акаунту підлітка та "отримувати сповіщення, коли система виявляє, що їхній підліток перебуває у стані гострого стресу".

"Ці кроки – лише початок", – наголосили в OpenAI.

Водночас експерти застерігають: обмежити доступ дітей до сервісів за віком завжди складно.

Все класне та нове в інтернеті створюється дорослими для дорослих, але діти завжди хотітимуть ним користуватися і знаходитимуть шляхи до більш ризикованих середовищ

Нагадаємо

Раніше УНН писав, що Meta заборонить своїм ШІ-чат-ботам обговорювати самогубство, самоушкодження та розлади харчової поведінки з підлітками, перенаправляючи їх до професійних ресурсів. Це рішення прийнято на тлі розслідування ризиків ШІ та позову проти OpenAI через самогубство підлітка.