Автор: Оливия Ле Пуадевен
ЖЕНЕВА, 9 июля (Рейтер) - Агентство ООН по цифровым технологиям в четверг объявило о новой инициативе по повышению доверия к агентам искусственного интеллекта, поскольку всё более автономные системы ИИ вызывают обеспокоенность по поводу подотчётности и человеческого контроля.
Агенты ИИ — это новое поколение систем искусственного интеллекта, предназначенных для самостоятельных действий от имени пользователей, выполняющих задачи от планирования и покупок до сложных бизнес-процессов.
Хотя они могут повысить производительность, они также несут риск того, что агенты ИИ будут выдавать себя за людей и принимать несанкционированные решения, согласно данным Международного союза электросвязи (МСЭ).
Для устранения этих рисков МСЭ заявил на саммите «ИИ во благо» в Женеве, что создаст Фокус-группу.
Эта группа разработает рамки, направленные на обеспечение идентифицируемости, надёжности и подчинения агентов ИИ значимому человеческому контролю, особенно в таких чувствительных областях, как финансовые транзакции и критически важная инфраструктура.
«Агенты ИИ скоро будут вести переговоры, совершать сделки и принимать решения от нашего имени», — заявила сопредседатель Фокус-группы Дебора Компарин, добавив, что необходимы общие международные основы для установления того, кем являются эти агенты, а также как и когда им можно доверять.
В состав группы войдут технические, политические и юридические эксперты. Первое заседание состоится в Париже в ноябре, а второе — в Женеве в январе.
(Репортаж Оливии Ле Пуадевен)