США и Россия ослабили правила для боевого ИИ: машины могут получить больше свободы решать, кого атаковать
Киев • УНН
Из проекта правил ООН убрали обязательную проверку цели человеком перед ударом. Это может усилить риск ошибочных атак и жертв среди гражданского населения.
США и Россия добились ослабления ряда предложенных ограничений на использование искусственного интеллекта в смертоносном автономном оружии. В частности, из документа убрали требование, согласно которому человек должен был проверять выбранную ИИ военную цель перед ударом, сообщает The Washington Post, пишет УНН.
Детали
Речь идет о переговорах в ООН относительно будущих международных правил применения автономного оружия. По данным издания, они стали крупнейшим за последние годы продвижением к потенциальному глобальному соглашению в этой сфере.
Однако на финальном этапе переговоров американская и российская делегации добились исключения сразу нескольких предохранителей. В частности, из текста убрали требования, чтобы системы работали "предсказуемо" и "надежно", а также положение об учете этических аспектов применения боевого ИИ.
Чем это может угрожать людям
Наибольшую обеспокоенность вызвало исключение положения, предусматривавшего проверку человеком военной цели, определенной искусственным интеллектом, перед нанесением удара.
Простыми словами, речь идет о риске появления боевых систем, в которых алгоритм сможет самостоятельно находить и выбирать цель, а человеческий контроль над окончательным решением будет слабее или вообще не будет гарантирован международными правилами.
Это может означать, что машины смогут принимать решения о жизни и смерти без контроля человека
По ее словам, последствиями могут стать большее количество жертв среди гражданского населения, сложности с определением ответственного за ошибочный удар и более быстрый переход к автоматизированной войне.
Особая опасность заключается в скорости таких систем. Если государства массово развернут автономное оружие, алгоритмы потенциально смогут обнаруживать цели и реагировать значительно быстрее людей. В случае ошибки, ошибочной идентификации или некорректных данных времени на вмешательство человека может остаться значительно меньше.