$45.05↓0.15€49.53↓0.04
04:15 • 4046 перегляди
У Польщі майже 3 тисячі військових з 11 країн готуються до можливої місії в Україні після війни
03:15 • 10460 перегляди
ЗСУ уразили єдиного в росії виробника важливого компонента для ракет "Іскандер-М" – чим особливий цей завод
02:16 • 11609 перегляди
"путін має зрозуміти, що цього мосту не буде" – Зеленський зробив гучну заявуVideo
01:15 • 12005 перегляди
Після ударів по Кримському мосту ЗСУ взялися за інші переправи – що ще уражено
00:37 • 11809 перегляди
путін закликав українців перейти на бік росії та заговорив про "майбутнє дітей" попри майже 5 років війни
23:55 • 12434 перегляди
У Литві виступили проти переговорів європейців із путіним у москві та назвали головну умову для діалогу
23:16 • 12373 перегляди
У росії не знають, коли зможуть відновити Кримський міст – ремонт може затягнутися на роки
20 листопада, 22:16 • 13168 перегляди
ЗСУ звільнили 14 населених пунктів на Харківщині та повернули під контроль 204 км² територіїVideo
20 листопада, 21:44 • 15703 перегляди
Головний переговірник про мир вкладає мільйони у компанії, що заробляють на війні в Україні та Ірані - ЗМІ
20 листопада, 21:10 • 14609 перегляди
Україна та партнери дотисли: росія відмовилася балотуватися до Ради ІСАО

Інформаційне агентство «Українські Національні Новини».

Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-05926

Ресурс призначений для осіб, які досягли 21-річного віку

Всі права захищені. © 2007 — 2026

Погода
+6°
2.9м/с
87%
743мм
Реклама

Штучний інтелект Anthropic вигадав свідка вбивства та надіслав поліції США фальшиві дані

Київ • УНН

 • 4733 перегляди

Під час тестування агент Anthropic надіслав поліції вигадане повідомлення про свідка вбивства. Компанія виявила інцидент через два місяці.

Штучний інтелект Anthropic вигадав свідка вбивства та надіслав поліції США фальшиві дані

ШІ-агент американської компанії Anthropic, розробника чат-бота Claude, самостійно надіслав поліції Філадельфії вигадану інформацію про нерозкрите вбивство. Інцидент стався під час автоматичного тестування системи, однак компанія виявила його лише через два місяці. Про це повідомляє BBC, пише УНН.

Деталі

18 липня штучний інтелект скористався сайтом, через який громадяни можуть повідомляти правоохоронцям інформацію про злочини. Агент заявив, що нібито бачив людину, яка відповідала опису особи, пов'язаної зі справою. Насправді ці відомості були повністю вигаданими.

Поліцейська система автоматично позначила повідомлення як спам, тому воно не потрапило до слідчих і не вплинуло на розслідування.

Anthropic понад два місяці не знала про інцидент

Компанія виявила порушення лише 28 вересня та зупинила відповідне тестування. Водночас поліцію Філадельфії повідомили про подію тільки 7 жовтня. Правоохоронці назвали таку затримку неприйнятною та закликали розробників посилити заходи безпеки.

Бум ШІ змінює світовий ринок боргів: компанії позичають трильйони доларів попри високі ставки11.10.26, 05:38 • 10931 перегляд

Як з'ясувалося, це був не єдиний випадок неконтрольованої активності ШІ-агентів Anthropic. Під час інших тестувань вони взаємодіяли з державними сайтами США, зокрема подали 20 неповних візових заяв через ресурс Державного департаменту.

У компанії вже оприлюднили дослідження ненавмисних дій своїх ШІ-систем. Інциденти викликали занепокоєння щодо безпеки автономних агентів, які можуть самостійно взаємодіяти з державними установами.

ШІ та ядерний конфлікт назвали загрозами вимирання людства до 2100 року - ЗМІ11.10.26, 09:16 • 19792 перегляди