Папа Римский Лев XIV опубликовал первый значительный теологический текст своего понтификата, предупредив о растущей силе искусственного интеллекта и призвав к более жесткому регулированию этой технологии.
Опубликованная в понедельник энциклика «Magnifica Humanitas» объемом 42 300 слов является самым масштабным заявлением Папы Льва на сегодняшний день о перспективах и опасностях ИИ — теме, к которой он неоднократно обращался за год, прошедший с момента его избрания. Сформулированный как призыв к защите человечества в быстро автоматизирующемся мире, текст призывает правительства, корпорации и частных лиц замедлить темпы технологического развития и обеспечить, чтобы ИИ оставался под этическим и политическим контролем. Он представил энциклику в Ватикане вместе с Кристофером Ола, сооснователем Anthropic, что стало символическим жестом диалога между церковным руководством и индустрией ИИ.
В документе Папа подчеркнул, что он не выступает против инноваций. Вместо того чтобы отвергать технический прогресс, он написал, что «технологии не следует рассматривать сами по себе как враждебную человечеству силу», но ими необходимо руководствоваться с помощью ответственного и этичного использования. Однако он предупредил, что без более надежных защитных механизмов искусственный интеллект может углубить неравенство, ослабить человеческую волю и передать принятие критически важных решений все дальше из рук человека.
«Призыв к благоразумию, тщательной оценке и даже, иногда, к более медленным темпам внедрения ИИ не означает противодействия прогрессу, — написал Лев. — Напротив, это проявление ответственной заботы о человеческой семье».
Папа поднял вопрос об ИИ как о центральной проблеме с самого начала своего понтификата, заявив Коллегии кардиналов вскоре после своего избрания, что Церковь будет противостоять рискам, которые искусственный интеллект представляет для «человеческого достоинства, справедливости и труда», — теме, к которой он возвращался в речах на протяжении всего первого года своего пребывания на посту понтифика.
Внимание Льва к ИИ также отражено в самом его папском имени, которое он выбрал в честь Папы Льва XIII, чья энциклика 1891 года «Rerum Novarum» была посвящена социальным последствиям промышленной революции и заложила основы современного католического социального учения о труде и технологиях. Лев XIV провел прямую параллель между текущим моментом технологического развития и тем, с которым столкнулся его тезка более века назад, описав ИИ как начало «новой промышленной революции».
Подробнее: Имя Папы Льва несет в себе предупреждение о росте ИИ
Вот что нужно знать о его первой энциклике и о том, как она развивает идеи, выдвинутые предыдущими папами.
Что такое энциклика?
Энциклика — один из самых значимых учительных документов, которые может издать Папа. Традиционно написанные как письма католическим епископам и всей Церкви, энциклики содержат авторитетное руководство по важнейшим моральным, социальным или политическим вопросам и часто формируют католическую мысль на поколения вперед, влияя даже на дискуссии, выходящие далеко за пределы Ватикана.
Наиболее очевидная параллель новой энциклике Льва «Magnifica Humanitas» — это энциклика Папы Льва XIII «Rerum Novarum». Написанная в эпоху промышленной революции, эта знаковая энциклика была посвящена правам рабочих, экономическому неравенству и социальным последствиям быстрой индустриализации, выступая за защиту труда и предупреждая как против нерегулируемого капитализма, так и против социализма. Она стала основополагающим текстом современного католического социального учения, и нынешний Папа напрямую обратился к этой значимости в своей недавно опубликованной энциклике.
«Этим документом мой возлюбленный предшественник дал импульс размышлениям об обществе, экономике и политике, которые теперь известны как „Социальное учение Церкви“», — написал он. «Когда некоторые возражали, что Церковь не должна тратить энергию на мирские дела, а вместо этого сосредоточиться на передаче послания о вечной жизни, Лев XIII ответил с реализмом и мудростью, сказав, что провозглашение Евангелия не может игнорировать конкретную жизнь людей».
Лев XIV выразил желание «присоединить свой голос к этой живой традиции» своей первой энцикликой, которую он официально подписал 15 мая, ровно через 135 лет после публикации «Rerum Novarum», что еще больше подчеркивает параллели между документами.
«Magnifica Humanitas» также продолжает более широкую традицию папских текстов, обращенных к главным глобальным проблемам. Энциклика Папы Иоанна XXIII 1963 года «Pacem in Terris» была посвящена ядерным угрозам и миру во всем мире в период Холодной войны. Энциклика Папы Павла VI «Humanae Vitae», опубликованная в 1968 году, вызвала десятилетия дебатов о контроле над рождаемостью и церковной власти. Совсем недавно экологическая энциклика Папы Франциска 2015 года «Laudato Si'» представила изменение климата как моральную и духовную проблему.
О чем предупреждает Папа Лев и к чему призывает в «Magnifica Humanitas»
В энциклике Лев описал риски, которые, по его мнению, представляет искусственный интеллект, и предложил меры реагирования, которые правительства, компании и общество в целом могли бы предпринять для их устранения.
Перекликаясь с ориентированными на работника проблемами «Rerum Novarum», он предупредил, что быстрая автоматизация может вытеснить работников и изменить рынки труда таким образом, что это рискует оставить многих в «вынужденном бездействии», подрывая как человеческое достоинство, так и социальную стабильность.
«Стремление к большей прибыли не может оправдывать решения, которые систематически жертвуют рабочими местами», — написал он. Он также выразил обеспокоенность по поводу дезинформации, создаваемой ИИ, и особенно ее влияния на детей и молодежь, а также по поводу концентрации власти в развивающейся технологической сфере в руках небольшого числа компаний.
Некоторые из самых сильных формулировок в документе были направлены на влияние, которое ИИ может оказать на ведение войны. Он предупредил, что искусственный интеллект облегчает ведение конфликтов и позволяет вести их с большей психологической дистанцией. «Растущая легкость, с которой могут быть развернуты автономные системы вооружений, — написал он, — делает войну более „осуществимой“ и менее подконтрольной человеку».
Однако, даже предупреждая об опасностях, исходящих от технологии, Лев также описал потенциал ИИ как «дара, который может облегчить страдания и открыть новые возможности» — при условии, утверждал он, что он будет направлен на человекоцентричные ценности, а не на прибыль или концентрацию контроля.
С этой целью он утверждал, что правительства не могут оставлять будущее ИИ на откуп только частным компаниям или «„невидимой руке“ рынка». Вместо этого он призвал к созданию «надежных правовых рамок, независимого надзора, информированных пользователей и политической системы, которая не отказывается от своей ответственности» за обеспечение того, чтобы технология служила общему благу.
Он призвал к принятию мер для противодействия различным рискам, которые, по его мнению, несет ИИ, включая образование, чтобы помочь людям, и особенно студентам, лучше справляться с растущим использованием ИИ, а также подчинение использования технологии в военных целях «самым строгим этическим ограничениям».
Утверждая, что «мы не можем считать ИИ морально нейтральным», он также написал, что «ответственность должна быть четко определена на каждом этапе», чтобы можно было установить, «кто должен „отчитываться“ за решения, обосновывать их, контролировать их и, при необходимости, оспаривать их и исправлять любой причиненный вред».
Помимо нормативных гарантий, он призвал к тому, что он описал как «разоружение» ИИ путем «освобождения» его от экономической и военной конкуренции и «монополистического контроля» и придания его более широкому обсуждению и дискуссиям.
«Необходимо, — написал он, — более активное политическое участие, способное замедлить ход событий, когда все ускоряется, и защитить возможности сообществ по-прежнему участвовать и задавать вопросы».