Технологічні гіганти пообіцяли Байдену забезпечити безпеку систем ШІ

Деталі 

Президент США Джо Байден заявив у п'ятницю, що низка найбільших технологічних компаній, включаючи Amazon, Google, Meta і Microsoft, взяли на себе зобов'язання вжити захисних заходів у сфері штучного інтелекту, вироблених за посередництва Білого дому.

За словами Байдена, ці зобов'язання є важливим кроком на шляху до управління величезними можливостями та ризиками, пов'язаними з новою технологією.

Добровільні зобов'язання, взяті сімома американськими компаніями, мають гарантувати безпеку ШІ-продуктів ще до їх випуску. Деякі зобов'язання передбачають нагляд за роботою комерційних систем штучного інтелекту, але не уточнюють, хто проводитиме аудит технології.

«Ми повинні чітко становити загрози, що походять від нових технологій, і бути пильними», – сказав Байден, додавши, що компанії несуть «фундаментальну відповідальність за безпеку своїх продуктів».

«Соціальні мережі показали нам, яку шкоду можуть завдати потужні технології без належних запобіжних заходів, – додав президент Байден. – Ці зобов'язання – багатообіцяючий крок, але ми маємо ще багато спільної роботи».

Системи генеративного штучного інтелекту, здатні створювати тексти, зображення та інші медіадані, що практично не відрізняються від створюваних людиною, викликали захоплення у багатьох. Але одночасно з цим виникла і стурбованість з приводу їхньої здатності вводити людей в оману та поширювати дезінформацію.

Чотири згадані технологічні гіганти, а також компанія OpenAI – творець ChatGPT – та стартапи Anthropic та Inflection взяли на себе зобов'язання проводити тестування, у тому числі незалежними експертами, для захисту від основних ризиків, включаючи біологічну безпеку та кібербезпеку.

Крім того, в ході тестування вивчатиметься можливість заподіяти шкоду суспільству, наприклад, упередженості та дискримінації, а також теоретичні небезпеки, пов'язані з отриманням контролю над фізичними системами або самореплікацією ШІ.

Компанії також зобов'язалися повідомляти про вразливі місця в їхніх системах та використовувати цифрові «водяні знаки», що дозволяють виявляти зображення, створені за допомогою генеративного ШІ.

Доповнення

Деякі прихильники регулювання ШІ назвали дії Байдена важливим першим кроком, але наголосили, що цього недостатньо.

«Нам потрібно ширше громадське обговорення, під час якого будуть підніматися питання, якими компанії навряд чи займатимуться добровільно, тому що це призведе до зовсім інших результатів, які можуть безпосередньо вплинути на їхні бізнес-моделі», – заявила Амба Як, виконавчий директор дослідницької організації AI Now.

Лідер демократичної більшості у Сенаті Чак Шумер заявив, що він внесе на розгляд законопроект щодо регулювання штучного інтелекту. Він зазначив, що працюватиме з адміністрацією Байдена та колегами з обох партій, спираючись на зобов'язання, взяті у п'ятницю.

Взяті зобов'язання в основному пов'язані з ризиками для безпеки, але не торкаються інших проблем, викликаних застосуванням штучного інтелекту, включаючи вплив на робочі місця та ринкову конкуренцію, природні ресурси та авторське право на твори людини, які використовуються для навчання систем ШІ.