США та росія послабили правила для бойового ШІ: машини можуть отримати більше свободи вирішувати, кого атакувати
Київ • УНН
У проєкті правил ООН прибрали обов’язкову перевірку цілі людиною перед ударом. Це може посилити ризик помилкових атак і жертв серед цивільних.
США та росія домоглися послаблення низки запропонованих обмежень на використання штучного інтелекту у смертоносній автономній зброї. Зокрема, з документа прибрали вимогу, за якою людина мала перевіряти обрану ШІ військову ціль перед ударом, повідомляє The Washington Post, пише УНН.
Деталі
Йдеться про переговори в ООН щодо майбутніх міжнародних правил застосування автономної зброї. За даними видання, вони стали найбільшим за останні роки просуванням до потенційної глобальної угоди у цій сфері.
Однак під час фінального етапу переговорів американська та російська делегації домоглися вилучення одразу кількох запобіжників. Зокрема, з тексту прибрали вимоги, щоб системи працювали "передбачувано" та "надійно", а також положення про врахування етичних аспектів застосування бойового ШІ.
Чим це може загрожувати людям
Найбільше занепокоєння викликало вилучення положення, яке передбачало перевірку людиною військової цілі, визначеної штучним інтелектом, перед завданням удару.
Простими словами, йдеться про ризик появи бойових систем, у яких алгоритм зможе самостійно знаходити та обирати ціль, а людський контроль над остаточним рішенням буде слабшим або взагалі не буде гарантований міжнародними правилами.
Це може означати, що машини зможуть приймати рішення про життя та смерть без контролю людини
За її словами, наслідками можуть стати більша кількість жертв серед цивільних, складність із визначенням відповідального за помилковий удар та швидший перехід до автоматизованої війни.
Особлива небезпека полягає у швидкості таких систем. Якщо держави масово розгорнуть автономну зброю, алгоритми потенційно зможуть виявляти цілі та реагувати значно швидше за людей. У разі помилки, хибної ідентифікації або некоректних даних часу на втручання людини може залишитися значно менше.