Meta услід за Anthropic і OpenAI заявила про злам своєю ШІ-моделлю іншої системи

Технологічний гігант Meta у середу повідомив, що одна з її моделей штучного інтелекту зламала дані іншої організації під час тестування. Це вже третій випадок за останні тижні, коли модель штучного інтелекту неправомірно отримала доступ до даних сторонньої компанії, повідомляє CBS News, пише УНН.

Деталі

У заяві, наданій CBS News, Meta заявила, що "неправильна конфігурація Irregular, незалежної тестової компанії, яку використовує Meta, ненавмисно дозволила одній з наших моделей отримати доступ до Інтернету під час оцінювання".

У своїй заяві Meta не назвала назву моделі штучного інтелекту, про яку йдеться, але джерела повідомили технологічному виданню The Information, що це стосувалося Muse Spark 1.1 від Meta, повідомляє Reuters.

"Модель згодом використала вразливість безпеки в сторонньому сервісі, подібно до випадків, про які повідомлялося раніше, з іншими компаніями, – заявила Meta у середу. - Meta дізналася про це, коли Irregular повідомила нас, і зараз ми проводимо розслідування та опублікуємо повну ретроспективу, щойно отримаємо всі факти".

Anthropic услід за OpenAI стверджує про злам Claude інших систем31.07.26, 08:43 • 5829 переглядiв

Минулого тижня Anthropic заявила, що її моделі штучного інтелекту зламали дані трьох інших організацій під час тестування. Це викриття сталося лише через кілька днів після того, як виробник ChatGPT OpenAI повідомив, що її моделі також зламали іншу компанію.

Anthropic також повідомила, що провела перевірку спільно з Irregular.

"Для вирішення цих ризиків буде потрібна більш тісна співпраця в межах усієї екосистеми ШІ", - заявила Irregular у повідомленні від 30 липня у X.

Минулого місяця OpenAI повідомила, що її моделі ШІ вийшли з-під контролю під час оцінки моделей, зламавши сервери стартапу Hugging Face, що займається розробкою ШІ. OpenAI охарактеризувала це як "значний інцидент у сфері безпеки".

Ці інциденти виявили вразливості в системах безпеки та контролю ШІ та порушили питання про те, як можна безпечно тримати ШІ під контролем людини у міру того, як використання цієї технології стає все більш поширеним у всьому світі.