OpenAI планує відслідковувати шкідливий контент, дані передаватимуть до поліції

Розмови користувачів у ChatGPT компанія OpenAI не порушуючи конфіденційність,  сканує та перевіряє. Виявлені дані про особливо небезпечний вміст планується передавати поліції.

Повідомляє УНН із посиланням на видання Futurism.

Деталі

У підтвердили, що звертатимуться у правоохоронні органи та профільних фахівців, якщо при перевірці будуть виявлені факти:

• пропаганди самогубства, самоушкодження;
• розробки або використання зброї;
• заподіяння шкоди іншим або знищення майна;
• участі в несанкціонованій діяльності;
• порушенні безпеки будь-якої служби чи системи.

OpenAI також визнала, що наразі не передає справи про самоушкодження до правоохоронних органів, щоб поважати конфіденційність людей" Компанія враховує "унікально приватний характер взаємодії ChatGPT".

Розмови зі штучним інтелектом не призведуть до обов'язкових перевірок поліцією. Зазначимо, що подібна перевірка здоров'я людини часто завдає ще більшої шкоди людині в кризовій ситуації. Причина у тому, що у більшості поліцейських немає достатньої підготовки до вирішення проблем психічного здоров'я. Водночас OpenAI згадує конфіденційність, але також визнає, що відстежує чати користувачів. І більше того - може потенційно ділитися ними з широким загалом.

Тобто нові плани та анонсовані правила, здається, суперечать позиції компанії щодо конфіденційності на тлі її триваючого судового позову з New York Times та іншими видавцями, які прагнуть отримати доступ до величезної кількості журналів ChatGPT.

Позивачі хочуть визначити, чи були використані будь-які їхні дані, захищені авторським правом, для навчання її моделей.

OpenAI поки рішуче відхилив запит видавців.

Нагадаємо

16-річний Адам Рейн, який користувався ChatGPT для навчання, заподіяти собі смерть у квітні, саме чат допоміг йому з "інструкціями" суїциду. Його батьки вважають, що штучний інтелект зіграв критичну роль у трагедії та подали позов проти OpenAI.

Стартап Ілона Маска xAI подав позов до суду США проти Apple та OpenAI. Звинувачення стосуються незаконної змови для перешкоджання конкуренції у сфері штучного інтелекту.