Папа Лев призвал к "разоружению" ИИ и сравнил его угрозу с Вавилонской башней

Папа Лев XIV в понедельник призвал к "разоружению" искусственного интеллекта в своем долгожданном манифесте о быстро развивающейся технологии и предупредил о "новых формах рабства", стоящих за его ростом, пишет УНН со ссылкой на AFP.

Детали

Лев, первый Папа из США, предостерег от "гонки за все более мощными алгоритмами и большими наборами данных, обусловленной желанием обеспечить геополитическое или коммерческое господство".

Он лично представил свою первую энциклику "Magnifica Humanitas" в Ватикане вместе с экспертами по искусственному интеллекту, включая Кристофера Олаха, соучредителя американского гиганта Anthropic.

Папа Лев представит первую энциклоку об ИИ вместе с сооснователем Anthropic19.05.26, 09:45 • 3842 просмотра

Anthropic ведет судебную тяжбу с американскими военными после того, как выступила против использования ее технологии для смертоносной автономной войны и массового наблюдения.

На презентации Олах сказал, что компании, занимающиеся искусственным интеллектом, работают "в рамках набора стимулов и ограничений, которые иногда могут противоречить правильным действиям".

Он приветствовал вклад внешних игроков, таких как Католическая церковь, чтобы "направить события в лучшем направлении", заявив, что "вопросы, поднимаемые искусственным интеллектом, шире, чем исследовательское сообщество в области искусственного интеллекта".

В энциклике Лев также забил тревогу по поводу оружия, управляемого искусственным интеллектом, заявив, что "недопустимо доверять смертоносные" решения технологиям.

Лев неоднократно конфликтовал с Белым домом из-за войны с Ираном и использования религии для оправдания конфликта.

Теория "справедливой войны", которую недавно поддержала администрация Трампа, была "устаревшей", написал Лев, добавив, что "ни один алгоритм не может сделать войну морально приемлемой".

По данным Организации Объединенных Наций, стоимость искусственного интеллекта может достичь 4,8 триллиона долларов к 2033 году, увеличившись в 25 раз за десятилетие, при этом доходы от него сосредотачиваются в руках ограниченного количества людей.

"Разоружить искусственный интеллект означает освободить его от менталитета "вооруженной" конкуренции", – написал Папа.

"Разоружить не означает отвергнуть технологии, а предотвратить их доминирование над человечеством", – написал Лев.

Он добавил, что ИИ должен быть "дружественным к человеку", доступным для всех и открытым для обсуждения и дебатов.

Глава 1,4 миллиарда католиков мира сделал этот острый вопрос краеугольным камнем своего папства, посвятив ему свою первую энциклику – документ, который закладывает основу для церковного учения и долгосрочных дебатов.

В манифесте упоминается ряд культурных гигантов, от греческого философа Платона до Бетховена и его Девятой симфонии, даже цитируется персонаж из "Властелина колец" Дж. Р. Р. Толкина.

"Magnifica Humanitas" была подписана 15 мая, в 135-ю годовщину энциклики 1891 года Льва XIII, которая заложила основы социальной доктрины Церкви во время промышленной революции.

Лев предупредил о новых формах рабства, подпитывающих технологическую революцию, отметив, что "ничто в мире искусственного интеллекта не является нематериальным или магическим".

"Каждая, казалось бы, немедленная и безупречная реакция... зависит от молчаливой работы миллионов людей", от модераторов контента, вынужденных смотреть тревожные материалы, до детей, добывающих редкоземельные элементы, от которых зависит искусственный интеллект.

Они "покрыты шрамами, ранены и истощены, чтобы вычислительный поток мог бесперебойно продолжаться", написал он.

Большая эффективность или инновации не оправдывают "цепочку эксплуатации, которая намеренно скрывается", написал понтифик, в то время как необходимо сделать больше, чтобы уменьшить влияние искусственного интеллекта на окружающую среду и "защитить наш общий дом".

Как отмечает The Wall Street Journal, Папа Лев сравнил угрозу ИИ с библейской "Вавилонской башней".

Понтифик предупредил, что искусственный интеллект "угрожает нормализовать античеловеческое видение" и заявил, что необходимо противостоять концентрации огромной цифровой власти в руках нескольких частных лиц.

Риск, по его словам, заключается в том, что люди будут сведены "к простым винтикам в системе, стремящейся к все большей эффективности".

Лев использовал два библейских образа, чтобы описать выбор, стоящий перед человечеством.

"Главный выбор - это не "да" или "нет" технологиям, а скорее строительство Вавилона или восстановление Иерусалима", - написал он.

Папа Лев XIV считает ИИ ключевой угрозой человечеству: детали18.06.25, 14:04 • 3191 просмотр

Как указывает AFP, он также выразил беспрецедентные извинения за роль Ватикана в работорговле и в содействии оправданию рабства, назвав это "раной в христианской памяти".

"За это, от имени Церкви, я искренне прошу прощения", – написал Лев.

Документ опубликован после нескольких лет изучения Церковью технологий, связанных с искусственным интеллектом. Эксперты говорят, что "Magnifica Humanitas" может оказаться таким же влиятельным, как и "Laudato Si" Папы Франциска, климатический манифест 2015 года, который вызвал политическую и гражданскую реакцию во всем мире.