Руководители ведущих AI-компаний предупредили ООН о рисках искусственного интеллекта для человечества
Киев • УНН
Главы OpenAI, Anthropic и Hugging Face призвали ООН усилить контроль и стандарты безопасности ИИ. Они предупредили о глобальных рисках.
Искусственный интеллект (ИИ) "может представлять угрозу для всего человечества" без принятия соответствующих мер. С таким предупреждением в среду, 23 сентября, перед Советом Безопасности ООН выступили руководители крупнейших компаний, занимающихся ИИ. Об этом сообщает DW, пишет УНН.
Сейчас необходима чрезвычайная осторожность
По его словам, системы могут развиваться быстрее, чем институты, или же привести к сосредоточению власти в руках слишком узкого круга лиц. "Отрасль не должна подвергать себя чрезмерным технологическим рискам лишь потому, что преимущества слишком значительны и существенны, чтобы снижать темпы", — сказал Альтман.
Глава OpenAI также призвал правительства сотрудничать между собой и с представителями отрасли при принятии решений, которые будут определять технологическое будущее.
Генеральный директор Anthropic Дарио Амодеи, в свою очередь, подчеркнул необходимость "еще более строгих стандартов безопасности". "Мы будем замедлять темпы развития настолько, насколько это необходимо, чтобы убедиться, что каждая следующая технология ИИ, которую мы выпускаем, действительно безопасна", — заявил он.
Я даже считаю, что при ненадлежащем управлении ИИ может представлять угрозу для всего человечества
В свою очередь генеральный директор Hugging Face Клеман Деланг, которая недавно стала целью кибератаки со стороны автономного программного обеспечения OpenAI, отметил, что его компания также применяла эту технологию для отражения атак.
Миру как никогда нужен ИИ с открытым исходным кодом, чтобы защитить себя
Напомним
Лидеры ООН призывают усилить надзор за ИИ и создать глобальные предохранители. Трамп выступает против регулирования и поддерживает термин "сверхинтеллект".