Вразливість OpenAI дозволяє викрадати дані Google Диска без взаємодії з користувачем

Якщо найновіші генеративні моделі ШІ можна легко підключити до особистих даних, з метою персоналізованих відповідей на запитання, тоді ці зв’язки можуть бути зловживані - достатньо лише один "заражений" документ. Про це повідомляє звіт дослідників безпеки на хакерській конференції Black Hat у Лас-Вегасі, передають Wired та УНН.

Деталі

У OpenAI виявлено вразливість - ідеться про нюанси у Connectors, що дозволяє підключати ChatGPT до інших сервісів. "Один заражений документ може виточити "секретні" дані через ChatGPT", - кажуть дослідники безпеки Майкл Баргурі та Таміра Ішая Шарбата у своєму звіті.

Вказується, що саме "слабкість "у конекторах OpenAI дозволила витягти конфіденційну інформацію з облікового запису Google Диска за допомогою атаки непрямого впровадження запиту.

У демонстрації атаки, що отримала назву AgentFlayer, Баргурі показує, як можна було витягти секрети розробника у вигляді ключів API, які зберігалися в демонстраційному обліковому записі Диска.

До речі, витягувати дані з Google Drive начебто можна без будь-якої взаємодії з користувачем, додають фахівці.

"Ми не голосували за ChatGPT": прем'єр Швеції зізнався, що консультується зі штучним інтелектом у своїй роботі06.08.25, 04:56 • 5098 переглядiв

Користувачеві не потрібно нічого робити, щоб його дані були скомпрометовані, і йому не потрібно нічого робити, щоб дані були викрадені", — розповідає WIRED Баргурі, технічний директор компанії Zenity, що спеціалізується на безпеці. "Ми продемонстрували, що це відбувається абсолютно без жодних кліків; нам потрібна лише ваша електронна адреса, ми ділимося з вами документом, і все. Тож так, це дуже, дуже погано

OpenAI представила Connectors для ChatGPT як бета-функцію на початку 2025 року. На веб-сайті OpenAI перелічено щонайменше 17 різних сервісів, які можна пов'язати з її обліковими записами. Це пояснюється так:

Система дозволяє перенести ваші інструменти та дані в ChatGPT і шукати файли, отримувати дані в режимі реального часу та посилатися на вміст прямо в чаті

Важливо зазначити, що після повідмлення про вразливість, компанія швидко вжила заходів для запобігання використанню техніки, яку застосовував дослідник (ідеться про Майкл Баргурі) для вилучення даних через Connectors.

Механізм атаки передбачає, що одночасно можна вилучити лише обмежену кількість даних — повні документи не можуть бути вилучені в рамках атаки.

Коментар

Проблема ілюструє, чому важливо розробляти надійний захист від атак швидкого впровадження, каже Енді Вен, старший директор з управління продуктами безпеки в Google Workspace, але він також додає, що ситуація на насправді не є специфічною для Google.

Нещодавно у Google були вдосконалені заходи безпеки на основі штучного інтелекту.

Нагадаємо

OpenAI незабаром випустить GPT-5, наступну версію своєї ШІ-моделі. Попередні тестувальники відзначають її можливості, але вважають стрибок від GPT-4 менш значним, ніж від GPT-3 до GPT-4.

Хакери зламали ШІ-бот McDonald's завдяки паролю 12345612.07.25, 00:06 • 8211 переглядiв