"Безпека вище конфіденційності": OpenAI вводить нові обмеження для користувачів ChatGPT до 18 років
Київ • УНН
OpenAI оголосила про нові обмеження для користувачів ChatGPT віком до 18 років, ставлячи безпеку підлітків вище за конфіденційність. Зміни включають додаткові механізми захисту від ризикованих тем та можливість батьківського контролю, що стало актуальним після трагедії з Адамом Рейном.
Для користувачів ChatGPT віком до 18 років OpenAI запроваджує нові обмеження. Генеральний директор компанії Сем Альтман уже заявив, що безпека підлітків має перевагу над конфіденційністю. Сервіс отримає додаткові механізми захисту від ризикованих тем, зокрема щодо сексуальності та самоушкодження. Про це повідомляє ТechСrunch, пише УНН.
Деталі
В OpenAI оголосила, що проведуть радикальні зміни щодо користувачів чату, яким не виповнилося 18 років.
Ми ставимо безпеку вище за конфіденційність та свободу підлітків. Це нова та потужна технологія, і ми вважаємо, що неповнолітні потребують значного захисту
За його словами, нові правила мають запобігти небезпечним сценаріям у спілкуванні підлітків із чат-ботом.
У чаті проведуть низку змін та застосують низку технологічних прийомів: ChatGPT більше не братиме участі у "фліртових розмовах" із неповнолітніми, а обговорення тем, пов’язаних із самогубством, супроводжуватиметься додатковими запобіжними заходами.
Якщо ж неповнолітній буде спілкуватися на тему суїциду, чи на схожі небезпечні теми, то чат буде повідомляти батьків, або навіть місцеву поліцію.
Необхідність змін стала особливо актуальною після трагедії з Адамом Рейном. Його батьки звинувачують ChatGPT у сприянні рішенню сина покінчити життя самогубством та подали позов проти OpenAI. Подібні претензії висунуто і до іншого чат-бота, Character.AI.
Ще одним нововведенням стане функція "батьківського контролю". Тепер батьки зможуть встановлювати для облікових записів своїх дітей так звані "години блокування", коли ChatGPT буде повністю недоступним.
Цікаво, що оголошення про нові правила збіглося з проведенням слухань у комітеті Сенату США з питань юстиції під назвою "Вивчення шкоди чат-ботів зі штучним інтелектом". Очікується, що батько Адама Рейна стане одним із ключових свідків на слуханнях.
Однак, у компанії OpenAI визнають, що таке розділення користувачів чату стане серйозним викликом. У компанії пояснили, що "сервіс розробляє довгострокову систему для визначення віку користувача, але у спірних випадках ChatGPT діятиме за більш обмежувальними правилами".
"Ми розуміємо, що ці принципи конфліктують, і не всі погодяться з тим, як ми вирішуємо цей конфлікт", - вказано у заяві.
Нагадаємо
Раніше виконавчий директор OpenAI, висловив занепокоєння щодо можливих самогубств за допомогою ChatGPT. Компанія розглядає можливість інформування влади про суїцидальні наміри користувачів, особливо молоді.
OpenAI оголосила про запровадження нових інструментів захисту у ChatGPT, які допоможуть захистити підлітків та користувачів, що переживають емоційний стрес.
Раніше УНН писав, що Meta заборонить своїм ШІ-чат-ботам обговорювати самогубство, самоушкодження та розлади харчової поведінки з підлітками, перенаправляючи їх до професійних ресурсів.