Автор: Андреа Шалал
1 июля (Рейтер) — Быстрое развитие искусственного интеллекта (ИИ) открывает огромные потенциальные преимущества для стран и людей по всему миру, но также несет в себе серьезные риски, заявили 40 ведущих ученых и экспертов в первом докладе независимой научной группы ООН по данной технологии.
Доклад, который будет представлен правительствам на inaugural Глобальном диалоге ООН по управлению ИИ в Женеве 6–7 июля, представляет собой первую глобальную независимую научную оценку ИИ. Более полный и всеобъемлющий доклад запланирован на следующий год.
Члены группы были отобраны из всех регионов мира и работают на трехлетний срок, независимо от какого-либо правительства, учреждения или компании.
Ниже приведены некоторые детали из предварительного доклада:
• Политикам необходимы научные данные для управления ИИ, но его возможности опережают научное понимание и способность правительств адаптироваться, при этом существует мало методов контроля над высокоавтономными системами ИИ.
• Сопредседатель группы Йошуа Бенжио отметил растущее количество свидетельств обманного поведения ИИ и заявил, что наука не может гарантировать, что ИИ не причинит катастрофического вреда «ни самостоятельно, ни из-за злонамеренных пользователей» по мере роста его возможностей.
• «Потенциальные преимущества ИИ огромны», — говорится в заключении доклада. «Быстрое, бесконтрольное масштабное внедрение технологии также несет значительные риски, включая вред для психического здоровья пользователей, потенциальное использование в качестве разрушительного инструмента, воздействие на социальные, экономические и экологические системы, а также проблемы, связанные с контролем над технологией».
• Внедрение ИИ в целом ускорилось, но неравномерно в разных странах и секторах. В глобальном масштабе более миллиарда человек еженедельно используют разговорный ИИ, однако его внедрение в развивающихся странах отстает.
• Разработка ИИ еще более сконцентрирована: на США приходится 75% вычислительной мощности среди 500 лучших суперкомпьютеров для ИИ в мире, а на Китай — 15%.
• Хотя в мире говорят более чем на 7000 языках, современные модели ИИ обучаются лишь на небольшой их части, а машинный перевод некоторых языков изобилует ошибками, которые могут повлиять на диагнозы и решения о лечении.
• Риски включают потенциальное негативное воздействие на права человека, социальные системы и окружающую среду, при этом материалы о сексуальном насилии над детьми, созданные ИИ, и сексуальное насилие с использованием дипфейков распространяются все чаще.
• ИИ также облегчает массовое производство и таргетирование убедительного контента, что способствует «постепенному разрушению целостности информации, которое может ослабить общественное доверие, социальную сплоченность и демократические процессы».
• Большинство стран, включая страны с развитой экономикой, не обладают техническими знаниями для оценки наиболее мощных новых моделей ИИ или для осмысленного участия в управлении ими.
(Репортаж Андреа Шалал в Вашингтоне; редактирование Криса Риса)