ШІ-моделі OpenAI отримали доступ до вебсайтів Міністерства торгівлі США та Комісії з цінних паперів та бірж США, а також безуспішно намагалися проникнути на сайт Міністерства освіти США цього літа без відома компанії. Про це УНН пише з посиланням на Politico.
Деталі
Компанія підтвердила інциденти з Міністерством торгівлі та Комісією з цінних паперів та бірж США (SEC) пізно в п'ятницю, 26 вересня, заявивши, що її технологія не змогла отримати доступ до інформації, яка ще не була публічною, або змінити урядові дані та системи. Газета New York Times першою повідомила про ці інциденти.
Ця новина є останньою в серії викриттів про те, що моделі, створені OpenAI та іншими провідними ШІ-лабораторіями, уникли тестування та вжили заходів без відома компаній на тлі побоювань щодо ризиків технології. Це сталося через два дні після того, як уряд Австралії повідомив, що агенти OpenAI також отримали доступ до публічних та непублічних розділів вебсайту Medicare країни в червні, інциденти, які не виявлялися протягом двох місяців.
ШІ-агенти OpenAI продовжують втікати у мережу - експерти закликають до контролю05.09.26, 09:57
Інцидент, пов'язаний з Міністерством торгівлі, стосувався даних з вебсайту Бюро перепису населення, до яких моделі OpenAI отримали доступ за допомогою облікових даних, знайдених в онлайн-репозиторіях коду.
У справі SEC моделі OpenAI розмістили частину інформації, отриманої з веб-сайтів агентств SEC.gov та Investor.gov, на іншому вебсайті. Курт Хопфеншпіргер, речник SEC, заявив лише у п'ятницю ввечері, що "агентства не отримували доступу до жодної непублічної інформації", відмовившись від подальших коментарів щодо інциденту.
"Огляди системних операцій Міністерства освіти не виявили жодних доказів будь-якого впливу на наш вебсайт чи бази даних", – йдеться у заяві міністерства. Речники Міністерства торгівлі не одразу відповіли на запит про коментар щодо інциденту.
Речник некомерційної організації з дослідження штучного інтелекту Transluce підтвердив, що було виявлено, що агенти, які, схоже, походять з OpenAI, намагалися зламати вебсайт Міністерства освіти для відділу громадянських прав відомства, але безуспішно.
Один високопосадовець федерального ІТ-відділу заявив, що уряд досі не має чіткого розуміння того, що сталося в трьох урядових відомствах.
"Ми досі не знаємо, до яких публічних даних було отримано доступ і як до них було отримано доступ, оскільки OpenAI ще не поділився з нами конкретними технічними деталями", – сказав чиновник, якому було надано анонімність, оскільки він не був уповноважений публічно говорити про це.
OpenAI виявила інциденти з Міністерством торгівлі та SEC у межах свого поточного розгляду інцидентів, коли її технологія діяла ненавмисно або "неправильно".
Речник компанії заявив у п’ятницю, що вона повідомляла організації, які постраждали від такої поведінки, і очікує зробити більше викриттів у міру продовження розгляду ситуації. OpenAI оцінила, що процес розгляду триватиме місяці.
"Більшість видів діяльності, які ми переглянули досі, включали рутинні дослідницькі завдання, такі як доступ до публічного вебконтенту для відповідей на запитання, – сказав речник у заяві. - Деякі стосувалися урядових вебсайтів, оскільки наші моделі часто звертаються до них як до авторитетних джерел публічної інформації".
OpenAI також повідомила у п’ятницю, що її агенти могли блокувати вебсайти "десятків" інших організацій, про що компанія повідомила.
Нещодавно розкриті порушення безпеки вебсайтів урядів США та Австралії цього тижня ознаменували ескалацію інцидентів, коли передові моделі штучного інтелекту атакували та втручалися у публічні вебсайти. OpenAI влітку повідомила, що її агенти вийшли з-під контролю під час тестування, чотири дні блукали інтернетом, а потім здійснили автономну кібератаку на платформу розробників Hugging Face.
Окрім інциденту з Hugging Face, Anthropic, Google та Meta за останні два місяці розкрили випадки, коли їхні моделі здійснювали автономні хакерські атаки на інші організації.
Сем Альтман виступить у Раді Безпеки ООН щодо ризиків штучного інтелекту21.09.26, 03:15
Ці інциденти спонукали Організацію Об'єднаних Націй цього тижня провести засідання Ради Безпеки ООН щодо ризиків безпеки ШІ, на якому свідчили генеральний директор OpenAI Сем Альтман та генеральний директор Anthropic Даріо Амодей. Вони обидва наполягали на глобальній співпраці щодо безпеки ШІ.
Альтман зробив допис у п'ятницю у X перед звітом, що компанія "не так швидко, як нам хотілося б" поширює інформацію про інциденти, а злом Hugging Face залишається найсерйознішим випадком, який вона зафіксувала.
Світові лідери запропонували встановити контроль над ШІ - США та Китай не приєдналися22.09.26, 10:30