Anthropic донесла на пользователя в полицию из-за чата с Claude
Киев • УНН
Anthropic сообщила полиции о чатах женщины с планами «стрельбы» в офисе шерифа. Ей предъявили тяжёлое обвинение во Флориде.
В США женщину Карли Мишель Хеллер арестовали в Бонита-Спрингс в штате Флорида после того, как она якобы рассказала чат-боту Anthropic Claude о своём плане "устроить стрельбу" в ближайшем офисе шерифа. Об этом сообщает Futurism, пишет УНН.
Подробности
По данным WINK News, Хеллер предъявили обвинение в письменной угрозе насилием — тяжком преступлении второй степени во Флориде — после того, как внутреннее программное обеспечение Anthropic пометило её чаты для проверки человеком. После проверки сотрудником Anthropic, как сообщает WINK, компания пришла к выводу, что планы Хеллер представляют собой реальную угрозу, и в конце концов сообщила об этом местной полиции.
Как заявил шериф округа Ли Кармин Марчено местным журналистам, женщина призналась, что использовала Claude как "дневник", по-видимому, не зная, что историю её переписки могут прочитать сотрудники Anthropic.
Как отмечает издание, существует реальное противоречие между конфиденциальностью пользователей и ответственностью компаний, занимающихся искусственным интеллектом, за предотвращение актов насилия. Например, после массовой стрельбы в Тамблер-Ридж в Канаде в феврале быстро выяснилось, что преступник активно использовал ChatGPT для планирования стрельбы.