Чего не хватает искусственному интеллекту и что почти ни один бенчмарк по-настоящему не формализует и не штрафует осмысленно, так это целостности (integrity).
Пока другие мчатся к большему количеству искусственного интеллекта внутри самого искусственного интеллекта, реальный вызов нашей эпохи — это гонка за большей Искусственной Целостностью (Artificial Integrity), а не за интеллектом.
Чего не хватает одному лишь интеллекту.
Три измерения составляют Искусственную Целостность: этическая целостность, моральная целостность и социальная целостность.
Этическая целостность спрашивает, к чему должен стремиться ИИ. Она касается согласования целей оптимизации с человеческим процветанием, фундаментальными правами, долгосрочной устойчивостью общества и предотвращением вредных внешних эффектов, создаваемых краткосрочной эффективностью или стимулами вовлеченности. Этическая целостность требует, чтобы цели ИИ оставались совместимыми с человеческой автономией, психологическим благополучием, экологической устойчивостью и демократической стабильностью.
Знакомый пример — система рекомендаций в социальных сетях, оптимизированная исключительно для максимизации внимания. Такая система может увеличивать показатели вовлеченности, одновременно усиливая зависимость, поляризацию, тревожность и дезинформацию. Система остается телеологически эффективной, но этически несогласованной.
Моральная целостность спрашивает, как ИИ распознает человеческие существа и реальность. Она касается сохранения человеческого достоинства, несводимости, контекстуальной сложности, уязвимости и свободы воли перед лицом редуктивных вычислительных представлений, которые превращают личности в профили, вероятности, поведенческие оценки или предсказуемые категории. Моральная целостность требует, чтобы системы ИИ признавали пределы абстракции и избегали отношения к людям просто как к манипулируемым структурам данных.
Мы можем видеть это в системе найма на основе ИИ, которая сводит кандидатов к показателям продуктивности, оценкам личности или ключевым словам в резюме. Такая система может систематически игнорировать личные жизненные пути, преодоленные трудности, моральный облик или контекстуальный интеллект. Человек становится статистическим объектом, а не человеческим субъектом.
Социальная целостность спрашивает, что ИИ узаконивает в качестве знания и истины. Она касается валидации достоверного знания, распределения эпистемической власти, прозрачности стандартов доказательств, включения разнообразных перспектив и сохранения заслуживающего доверия коллективного понимания в обществе. Социальная целостность требует сопротивления концентрации информационной власти в непрозрачных системах, которые определяют, что является видимым, достоверным или социально приемлемым.
Это становится очевидным, когда поисковый ассистент на основе генеративного ИИ представляет статистически доминирующие точки зрения как объективную истину, делая невидимыми точки зрения меньшинств, новые исследования или культурно отличные формы знания. Со временем общественное понимание формируется меньше за счет открытого обсуждения и больше за счет алгоритмической вероятности и легитимности, определяемой платформой.
Интеллект нельзя свести к одной лишь аналитической логике, потому что сам интеллект не является исключительно логическим. Он требует телеологических, онтологических и эпистемологических форм логической структуры. Таким же должен быть и Искусственный Интеллект.
Этическая Целостность телеологична. Этические системы рушатся, когда рушится целостность целей: когда эффективность заменяет цель, когда полезность переопределяет смысл, когда действия теряют ориентацию на благо. Этическая целостность становится зависимой от условий, при которых индивиды и институты определяют, преследуют и сохраняют достойные цели.
Моральная Целостность онтологична. Моральные системы рушатся, когда рушится целостность бытия: фрагментация себя, рассогласование между ценностями и действиями, эрозия аутентичности, потеря внутренней согласованности. Моральная целостность становится зависимой от условий, при которых индивиды сохраняют единство между тем, кто они есть, во что они верят и как они действуют.
Социальная Целостность эпистемологична. Социальные системы рушатся, когда рушится эпистемическая целостность: дезинформация, манипуляция, асимметрия знания, потеря доверия. Социальная целостность становится зависимой от условий, при которых общества производят и подтверждают истину.
Эти триадические измерения формируют Искусственную Целостность. И Искусственная Целостность рушится, когда этическая цель, моральное признание и социальная легитимность становятся внутренне дефектными или взаимно несовместимыми. Дефекты возникают, когда одно измерение искажено или отсутствует. Межмерные конфликты возникают, когда измерения противоречат друг другу.
Иногда достаточно всего лишь имени.
Давайте рассмотрим пример.
Девичья фамилия, замененная на фамилию мужа. Документ, удостоверяющий личность, который больше идеально не совпадает с базой данных. Административное изменение, совершенно обыденное в жизни миллионов женщин.
И внезапно цифровое существование становится аномалией.
Аккаунт заблокирован. Средства заморожены. Бесконечные процедуры верификации. Автоматизированное подозрение.
У этого даже есть название, которое на первый взгляд парадоксально трудно отвергнуть: «KYC» — «Know Your Customer» («Знай своего клиента»).
Но для женщин, испытывающих это на себе, ничто не кажется менее похожим на то, чтобы быть узнанной или признанной. Напротив, это ощущается как технологическая система, принципиально неспособная распознать проживаемую реальность женщин.
Это опыт, о котором сообщают многие женщины, столкнувшиеся с процедурами верификации таких платформ, как PayPal и других подобных.
Потому что социокультурные предубеждения, встроенные в эти технологические системы, являются лишь видимым симптомом более глубокой проблемы: технологическая индустрия, все еще в значительной степени создаваемая мужчинами, структурированная вокруг моделей мышления и допущений, самих по себе сформированных преимущественно мужскими перспективами.
В реальном мире замужняя женщина, сменившая фамилию, очевидно, остается тем же человеком. В алгоритмическом мире это уже не обязательно так. Потому что машина оптимизирует то, чему ее научили оптимизировать. И способность правильно интерпретировать удостоверения личности женщин — где административные условности могут отображать фамилии после замужества по-разному или непоследовательно — не является систематической частью того, для оптимизации чего была спроектирована машина.
Вот так возникает современный технологический мизогиния: через безразличие. Через системы, развернутые по всему миру без того, чтобы кто-то серьезно спросил: «Что происходит с женщинами, которые меняют фамилию после замужества или решают сохранить фамилию, используемую в быту, после развода?»
И, что еще хуже, без того, чтобы кто-то, женщины или мужчины, подверг сомнению шаблон, сознательно или бессознательно запрограммированный в машину, как только сама реальность обнажает несогласованность этого шаблона.
Когда эти женщины обращаются в службу поддержки, они могут снова столкнуться с той же стеной. Стеной, укрепленной пассивным принятием, иногда даже со стороны других женщин. Потому что алгоритмический авторитет начал подавлять критическое мышление, а иногда и самые элементарные формы здравого смысла.
Это новый технологический порядок: порядок, в котором люди могут все чаще защищать несогласованность, абсурд и даже несправедливость всякий раз, когда они кажутся подтвержденными машиной, роботом или алгоритмом, несмотря на тот факт, что «человеко-ориентированные технологии» никогда не были более модными в качестве лозунга.
В лучшем случае эти сбои называют «багами». Но настоящий баг кроется прежде всего в том, как мы проектируем сами системы.
Этот случай особенно поучителен, поскольку он иллюстрирует все три измерения провала Искусственной Целостности одновременно, когда технологическая оптимизация отрывается от реальностей, которым она призвана служить.
Что еще более важно, он также раскрывает межмерный конфликт между этической целью, моральным признанием и социальной легитимностью.
Это не провал одной лишь машины, но провал более широкой технологической логики, которая все чаще путает вычислительную согласованность с человеческой истиной.
Система спроектирована в первую очередь для оптимизации предотвращения мошенничества, процедурной согласованности, масштабируемости, автоматизированного соблюдения требований и операционной эффективности. Ни одна из этих целей сама по себе не является незаконной.
Согласованность не учитывает реальность
Любая крупномасштабная финансовая или цифровая платформа требует форм верификации, способных надежно работать в миллионах взаимодействий.
С точки зрения этической целостности, проблема не в том, что система не функционирует. Напротив, она функционирует с замечательной процедурной согласованностью. Проблема в том, что ее приоритеты оптимизации остаются слишком узкими, чтобы учесть все человеческие последствия ее работы. Система успешно оптимизирует процедурную согласованность и эффективность соблюдения требований, одновременно перекладывая психологический стресс, издержки достоинства и непропорциональное бремя на тех самых индивидов, которых она якобы защищает. Таким образом, этический провал проистекает не из неисправности, а из отсутствия соразмерности между тем, что система оптимизирует, и тем, что на самом деле требует человеческое благополучие.
С точки зрения моральной целостности, провал становится еще более фундаментальным, поскольку система раскрывает пределы самой вычислительной абстракции. Проблема больше не просто в том, что делает машина, но в том, как машина представляет реальность. Человеческая идентичность трактуется как стабильное административное соответствие, а не как непрерывная социальная и проживаемая реальность, способная развиваться во времени. Контекстуальная человечность исчезает за процедурной читабельностью, сформированной машинно-читаемой согласованностью. В этот момент человек рискует стать вторичным по отношению к целостности самого рабочего процесса.
С точки зрения социальной целостности, случай показывает, как алгоритмические системы все больше формируют распределение легитимности в обществе. Проблема в том, что алгоритмическая валидация постепенно приобретает большую власть, чем человеческая интерпретация, институциональное признание и даже здравый смысл. Информационная легитимность медленно мигрирует от социального понимания к непрозрачным вычислительным процедурам. По мере того как это происходит, сами люди могут начать интернализировать результаты работы машины как по своей сути более достоверные, чем их собственное суждение.
Следствием является не только технологическая зависимость, но и эпистемологическая зависимость. Это более широкий цивилизационный сдвиг, в котором общества рискуют перестроиться вокруг ограничений вычислительной читабельности. Более глубокая опасность не просто в том, что машины неправильно понимают людей или иногда совершают ошибки. Человеческие системы всегда содержали ошибки. Более глубокая опасность в том, что общества постепенно начинают адаптироваться к тому, что машины могут легко обработать. Адаптировать свою идентичность, поведение и социальные реалии к репрезентативным пределам машин.
Когда это происходит, сложность становится нежелательной, поскольку она сопротивляется стандартизации. Двусмысленность становится подозрительной, поскольку она нарушает вычислительную определенность. Контекстуальная человечность становится операционным трением, поскольку ее нельзя легко перевести в машинно-читаемую согласованность. Сами люди медленно начинают испытывать давление, заставляющее их соответствовать пределам того, что алгоритмически вычислимо, вместо того чтобы технологические системы проектировались вокруг реалий человеческой жизни и пределов человеческого самовыражения. Это одно из коварных последствий коллапса Искусственной Целостности.
Система заявляет этически, что создает безопасность и доверие, в то время как морально дестабилизирует непрерывность идентичности и социально замещает человеческое суждение процедурным авторитетом. Индивидууму одновременно говорят, что система существует для ее защиты, и заставляют ее неоднократно оправдывать свою идентичность перед машиной, неспособной понять проживаемую реальность, которую она якобы верифицирует. Другими словами, система становится телеологически согласованной, онтологически редуктивной и эпистемологически доминирующей одновременно.
Вот почему опыт, порождаемый такими системами, кажется столь глубоко иррациональным тем, кто ему подвергается. Противоречие находится не внутри отдельной технической функции. Оно встроено в сами отношения между оптимизацией, репрезентацией и легитимностью.
Искусственный интеллект отражает ценности, упущения, слепые зоны, а иногда и привилегии, встроенные в мировоззрение тех, кто его создает. Это не просто языковая модель. Это уже модель мира. И реальный вопрос становится: у кого он учится своему способу видеть мир?
Автор иллюстрации: Спасибо Сабрине Габриэлли за творческую иллюстрацию, www.mynameisbri.com, Instagram: @bribbry
Эта статья была первоначально опубликована на Forbes.com