Anthropic донесла на користувача в поліцію через чат з Claude
Київ • УНН
Anthropic повідомила поліції про чати жінки з планами "стрілянини" в офісі шерифа. Їй висунули тяжке обвинувачення у Флориді.
У США жінку Карлі Мішель Геллер заарештували в Боніта-Спрінгс у штаті Флорида після того, як вона нібито розповіла чат-боту Anthropic Claude про свій план "влаштувати стрілянину" у найближчому офісі шерифа. Про це повідомляє Futurism, пише УНН.
Деталі
За даними WINK News, Геллер висунули обвинувачення в письмовій загрозі насильства — тяжкому злочині другого ступеня у Флориді — після того, як внутрішнє програмне забезпечення Anthropic позначило її чати для перевірки людиною. Після перегляду співробітником Anthropic, як повідомляє WINK, компанія дійшла висновку, що плани Геллер є реальною загрозою, і зрештою повідомила про це місцеву поліцію.
Як заявив шериф округу Лі Кармін Марчено місцевим журналістам, жінка зізналася, що використовувала Claude як "щоденник", мабуть, не знаючи, що історію її листування можуть прочитати співробітники Anthropic.
Як зазначає видання, існує реальна суперечність між конфіденційністю користувачів та відповідальністю компаній, які займаються штучним інтелектом, за запобігання насильницьким подіям. Наприклад, після масової стрілянини в Тамблер-Рідж у Канаді у лютому швидко з'ясувалося, що злочинець активно використовував ChatGPT для планування стрілянини.