ЛОС-АНДЖЕЛЕС (AP) — На фоне растущей обеспокоенности по поводу искусственного интеллекта и его стремительной интеграции в общество, технологические компании все чаще обращаются к религиозным лидерам за советом о том, как формировать технологию — что является удивительным поворотом на фоне давнего скептицизма Кремниевой долины в отношении организованной религии.
Лидеры различных религиозных групп встретились на прошлой неделе с представителями таких компаний, как Anthropic и OpenAI, на инаугурационном круглом столе «Завет веры и ИИ» в Нью-Йорке, чтобы обсудить, как лучше всего привить мораль и этику быстро развивающейся технологии. Мероприятие было организовано базирующимся в Женеве Межконфессиональным альянсом за безопасные сообщества, который стремится решать такие проблемы, как экстремизм, радикализация и торговля людьми. Ожидается, что этот круглый стол станет первым из нескольких по всему миру, в том числе в Пекине, Найроби и Абу-Даби.
Руководители технологических компаний должны осознавать свою власть — и свою ответственность — за принятие правильных решений, заявила баронесса Джоанна Шилдс, ключевой партнер инициативы. Она работала техническим руководителем в Google и Facebook, прежде чем перейти в британскую политику.
«Регулирование не поспевает за этим», — сказала она. «Этот диалог, эта прямая связь так важны, потому что люди, которые это создают, понимают силу и возможности того, что они строят, и хотят делать это правильно — большинство из них».
Цель этой инициативы, по словам Шилдс, — в конечном итоге «создать набор норм или принципов», основанных на мнении разных групп и вероисповеданий, от христиан до сикхов и буддистов, которым компании будут следовать.
Впереди вызовы
На встрече присутствовали различные религиозные группы, включая представителей Индуистского храмового общества Северной Америки, Международного сообщества бахаи, Сикхской коалиции, Греческой православной архиепископии Америки и Церкви Иисуса Христа Святых последних дней, широко известной как мормонская церковь.
До того, как эти компании начали информационно-разъяснительную работу, некоторые традиции уже выпустили свои собственные этические руководства по использованию ИИ. Церковь Иисуса Христа Святых последних дней в своем руководстве дала условное одобрение технологии. «ИИ не может заменить дар божественного вдохновения или индивидуальную работу, необходимую для его получения. Однако ИИ может быть полезным инструментом для улучшения обучения и преподавания», — говорится в нем.
Южная баптистская конвенция, крупнейшая протестантская конфессия в США, приняла резолюцию в 2023 году: «Мы должны активно участвовать в формировании этих новых технологий, а не просто реагировать на вызовы ИИ и других новых технологий после того, как они уже затронули наши церкви и общины».
Одна из проблем создания общего списка принципов заключается в том, что мировые религии, несмотря на общие точки соприкосновения, различаются в своих ценностях и потребностях. «Религиозные общины по-разному расставляют приоритеты», — сказала раввин Диана Герсон, участница круглого стола и заместитель исполнительного вице-президента Нью-Йоркского совета раввинов.
Это партнерство подчеркивает растущий союз между верой и технологиями, рожденный в попытке создать моральный ИИ — спорная концепция, которая ставит вопросы о том, возможно ли это и что это означает.
«Мы хотим, чтобы Клод поступал так, как поступил бы глубоко и умело этичный человек на месте Клода», — заявляет Anthropic в публичной «Конституции Клода», написанной для своего чат-бота. Эта конституция была создана при помощи множества религиозных и этических лидеров.
В этом зарождающемся альянсе Anthropic была наиболее напористой, по крайней мере публично, в своих усилиях по привлечению религиозных лидеров. Этот шаг последовал за публичным спором в марте с Пентагоном по поводу военного использования искусственного интеллекта после того, как Anthropic заявила, что ограничит использование своей технологии для разработки автономного оружия или массовой слежки за американцами.
«В этом есть элемент PR. Лозунг был „Двигайся быстро и ломай вещи“. И они сломали слишком много вещей и слишком много людей», — сказал Брайан Бойд, представитель по связям с верующими в США некоммерческой организации Future of Life Institute. «Есть как моральное обязательство со стороны компаний, которое они с опозданием признают, так и, я думаю, у некоторых членов компаний — искреннее стремление к самопознанию».
Появляется скептицизм
Но другие сторонники регулирования и безопасности ИИ не уверены в искренности этих усилий.
«В лучшем случае это отвлекающий маневр. В худшем — это отвлечение внимания от действительно важных вещей», — сказала Румман Чоудхури, генеральный директор некоммерческой организации Humane Intelligence и научный посланник США по ИИ при администрации Байдена.
Чоудхури говорит, что не склонна считать религию лучшим местом для поиска ответов на вопросы, связанные с ИИ и этикой, но думает, что понимает, почему компании все чаще обращаются к ней.
«Я думаю, что наивное представление, которое бытовало в Кремниевой долине последние пару лет в отношении генеративного ИИ, заключалось в том, что мы сможем прийти к неким универсальным принципам этики», — сказала она. «Они очень быстро поняли, что это неправда. Это нереально. Так что теперь они, возможно, рассматривают религию как способ справиться с неоднозначностью этически серых ситуаций».
Непонятно, в какой степени эти печально известные своей непрозрачностью компании претворяют в жизнь то, что слышат от религиозных лидеров — и как могут выглядеть эти действия. Но некоторые критики опасаются, что разговоры о создании этичных версий технологии отвлекают от более широких дискуссий об ИИ и его роли в обществе.
«Под видом: „Мы собираемся построить все это. Это само собой разумеется. И когда мы будем строить эти вещи таким образом, как нам убедиться, что конечный результат будет, возможно, хорошим“», — сказал Дилан Бейкер, ведущий инженер-исследователь Института распределенных исследований ИИ. «Это как: „Подождите, подождите, подождите. Нам нужно спросить, хотим ли мы вообще создавать эти вещи“».
___
Освещение религии Associated Press получает поддержку через сотрудничество AP с The Conversation US при финансировании Lilly Endowment Inc. AP несет полную ответственность за этот контент.
```