$45.05↓0.15€49.53↓0.04
04:15 • 6190 просмотра
В Польше почти 3 тысячи военнослужащих из 11 стран готовятся к возможной миссии в Украине после войны
03:15 • 11493 просмотра
ВСУ поразили единственного в России производителя важного компонента для ракет «Искандер-М» — чем особен этот завод
02:16 • 12102 просмотра
"путин должен понять, что этого моста не будет" — Зеленский сделал громкое заявлениеVideo
01:15 • 12428 просмотра
После ударов по Крымскому мосту ВСУ взялись за другие переправы — что еще поражено
00:37 • 12208 просмотра
путин призвал украинцев перейти на сторону России и заговорил о «будущем детей», несмотря почти на 5 лет войны
23:55 • 12652 просмотра
В Литве выступили против переговоров европейцев с путиным в москве и назвали главное условие для диалога
23:16 • 12524 просмотра
В России не знают, когда смогут восстановить Крымский мост — ремонт может затянуться на годы
20 ноября, 22:16 • 13288 просмотра
ВСУ освободили 14 населённых пунктов в Харьковской области и вернули под контроль 204 км² территорииVideo
20 ноября, 21:44 • 15903 просмотра
Главный переговорщик по вопросам мира вкладывает миллионы в компании, зарабатывающие на войне в Украине и Иране, — СМИ
20 ноября, 21:10 • 14743 просмотра
Украина и партнеры дожали: россия отказалась баллотироваться в Совет ИКАО

Информационное агенство «Украинские Национальные Новости»

Субъект в сфере онлайн-медиа; идентификатор медиа - R40-05926

Ресурс предназначен для лиц, достигших 21-летнего возраста

Все права защищены. © 2007 — 2026

Погода
+6°
2.9м/с
87%
743мм
Реклама

Искусственный интеллект Anthropic выдумал свидетеля убийства и отправил полиции США ложные данные

Киев • УНН

 • 4733 просмотра

Во время тестирования агент Anthropic отправил полиции вымышленное сообщение о свидетеле убийства. Компания обнаружила инцидент через два месяца.

Искусственный интеллект Anthropic выдумал свидетеля убийства и отправил полиции США ложные данные

ИИ-агент американской компании Anthropic, разработчика чат-бота Claude, самостоятельно отправил полиции Филадельфии вымышленную информацию о нераскрытом убийстве. Инцидент произошел во время автоматического тестирования системы, однако компания обнаружила его лишь через два месяца. Об этом сообщает BBC, пишет УНН.

Детали

18 июля искусственный интеллект воспользовался сайтом, через который граждане могут сообщать правоохранителям информацию о преступлениях. Агент заявил, что якобы видел человека, соответствовавшего описанию лица, связанного с делом. На самом деле эти сведения были полностью вымышленными.

Полицейская система автоматически пометила сообщение как спам, поэтому оно не попало к следователям и не повлияло на расследование.

Anthropic более двух месяцев не знала об инциденте

Компания выявила нарушение лишь 28 сентября и остановила соответствующее тестирование. При этом полицию Филадельфии уведомили о происшествии только 7 октября. Правоохранители назвали такую задержку неприемлемой и призвали разработчиков усилить меры безопасности.

Бум ИИ меняет мировой рынок долгов: компании занимают триллионы долларов несмотря на высокие ставки11.10.26, 05:38 • 10931 просмотр

Как выяснилось, это был не единственный случай неконтролируемой активности ИИ-агентов Anthropic. Во время других тестирований они взаимодействовали с государственными сайтами США, в частности подали 20 неполных визовых заявлений через ресурс Государственного департамента.

В компании уже опубликовали исследование непреднамеренных действий своих ИИ-систем. Инциденты вызвали обеспокоенность по поводу безопасности автономных агентов, которые могут самостоятельно взаимодействовать с государственными учреждениями.

ИИ и ядерный конфликт назвали угрозами вымирания человечества до 2100 года — СМИ11.10.26, 09:16 • 19792 просмотра