В США хотят выяснить, можно ли обвинить ChatGPT в убийстве - AFP
Киев • УНН
Прокуратура Флориды расследует роль ChatGPT в стрельбе в университете. Чат-бот предоставил нападавшему советы по выбору оружия и максимизации ущерба.
В США штат Флорида хочет выяснить, можно ли обвинить ChatGPT в убийстве, сообщает AFP, пишет УНН.
Детали
"Прежде чем открыть огонь в кампусе Университета штата Флорида в прошлом году, убив двух человек и ранив шестерых, Феникс Икнер вел беседу. Не с другом, родителем или кем-либо, кто мог бы отговорить его от этого, а с чат-ботом на основе искусственного интеллекта", - говорится в публикации.
Согласно доказательствам, собранным генеральным прокурором Флориды, "студент спросил у ChatGPT, какое оружие и боеприпасы лучше всего подойдут для его нападения, а также когда и где он сможет нанести наибольший ущерб".
По словам следователей, "чат-бот ответил на его вопросы".
Теперь генеральный прокурор Джеймс Утмайер хочет выяснить, делает ли это OpenAI преступником.
"Если бы по ту сторону экрана был человек, мы бы предъявили ему обвинение в убийстве", - сказал он, объявляя о начале уголовного расследования в отношении создателя ChatGPT, компании OpenAI, и оставляя открытой возможность предъявления обвинений компании или ее сотрудникам.
"Дело, связанное со стрельбой в апреле 2025 года, поставило перед юридическим сообществом провокационный вопрос: могут ли создатели искусственного интеллекта нести уголовную ответственность за роль, которую их ИИ сыграл в преступлении - или даже в самоубийстве?" - указывается в публикации.
Юридические эксперты говорят, что это реалистичный, хотя и очень сложный вопрос.
Уголовное преследование корпораций возможно в соответствии с законодательством США, хотя и остается относительно редким явлением.
Юридические эксперты, опрошенные AFP, говорят, что два наиболее вероятных обвинения - это халатность или неосторожность - последнее предполагает преднамеренный выбор игнорировать известные риски или обязательства по обеспечению безопасности.
Такие обвинения часто рассматриваются как проступки, а не как тяжкие преступления, что означает более мягкие приговоры в случае осуждения.
Тем не менее, планка высока.
"Поскольку это такой нестандартный вопрос, более убедительное и однозначное дело, вероятно, будет включать внутренние документы, которые признают эти риски и, возможно, не воспринимают их достаточно серьезно", - сказал Мэтью Токсон, профессор права в Университете Юты.
"Теоретически, можно привлечь к ответственности и без этого, - добавил он. - Но на практике, я думаю, это будет сложно".
Компания OpenAI со своей стороны настаивает на том, что ChatGPT не несет ответственности за нападение.
"Мы постоянно работаем над усилением наших мер безопасности для выявления вредоносных намерений, ограничения злоупотреблений и надлежащего реагирования при возникновении угроз безопасности", - заявила компания.
Для тех, кто стремится к привлечению к ответственности, гражданский иск может предложить более жизнеспособный путь.
Такой подход может подтолкнуть компании к более тщательному проектированию своей продукции - или, по крайней мере, заставить их учитывать человеческую цену ошибок, сказал Токсон.
В США уже было подано несколько гражданских исков против платформ ИИ - многие из них связаны с самоубийствами - хотя ни один из них пока не привел к принятию решения против компаний.
В декабре семья Сюзанны Адамс подала иск против OpenAI в калифорнийский суд, утверждая, что ChatGPT способствовал убийству пенсионерки из Коннектикута ее собственным сыном.
Новые версии ChatGPT ввели дополнительные меры защиты, признал Мэтью Бергман, юрист-основатель Центра защиты жертв социальных сетей.
"Я не говорю, что это адекватные меры предосторожности, но действуют дополнительные меры предосторожности", – сказал он.
Уголовное осуждение, даже с умеренным наказанием, все равно может нанести серьезный ущерб, включая "значительное влияние на репутацию", сказал Токсон.
Но для Брэндона Гарретта, профессора права в Университете Дьюка, судебное преследование - каким бы драматичным оно ни было - не является заменой нормативно-правовой базы, которую Конгресс и администрация Трампа до сих пор не смогли создать. Это, по его словам, было бы "гораздо более разумной системой".