OpenAI планирует отслеживать вредоносный контент, данные будут передаваться в полицию

Разговоры пользователей в ChatGPT компания OpenAI, не нарушая конфиденциальность, сканирует и проверяет. Выявленные данные об особо опасном содержании планируется передавать полиции.

Сообщает УНН со ссылкой на издание Futurism.

Детали

В подтвердили, что будут обращаться в правоохранительные органы и к профильным специалистам, если при проверке будут выявлены факты:

• пропаганды самоубийства, самоповреждения;
• разработки или использования оружия;
• причинения вреда другим или уничтожения имущества;
• участия в несанкционированной деятельности;
• нарушения безопасности любой службы или системы.

OpenAI также признала, что в настоящее время не передает дела о самоповреждении в правоохранительные органы, чтобы уважать конфиденциальность людей. Компания учитывает "уникально частный характер взаимодействия ChatGPT".

Разговоры с искусственным интеллектом не приведут к обязательным проверкам полицией. Отметим, что подобная проверка здоровья человека часто наносит еще больший вред человеку в кризисной ситуации. Причина в том, что у большинства полицейских нет достаточной подготовки для решения проблем психического здоровья. В то же время OpenAI упоминает конфиденциальность, но также признает, что отслеживает чаты пользователей. И более того - может потенциально делиться ими с широкой общественностью.

То есть новые планы и анонсированные правила, кажется, противоречат позиции компании по конфиденциальности на фоне ее продолжающегося судебного иска с New York Times и другими издателями, которые стремятся получить доступ к огромному количеству журналов ChatGPT.

Истцы хотят определить, были ли использованы какие-либо их данные, защищенные авторским правом, для обучения ее моделей.

OpenAI пока решительно отклонил запрос издателей.

Напомним

16-летний Адам Рейн, который пользовался ChatGPT для обучения, покончил с собой в апреле, именно чат помог ему с "инструкциями" суицида. Его родители считают, что искусственный интеллект сыграл критическую роль в трагедии и подали иск против OpenAI.

Стартап Илона Маска xAI подал иск в суд США против Apple и OpenAI. Обвинения касаются незаконного сговора для препятствования конкуренции в сфере искусственного интеллекта.