Лаборатория искусственного интеллекта США Anthropic показала наилучший результат в полугодовом рейтинге безопасности, однако, согласно отчету, опубликованному во вторник, в глобальном масштабе индустрия не справляется с "экзистенциальными" угрозами.
Meta поднялась на две позиции до четвертого места, в то время как xAI опустилась на три позиции до седьмого места, оказавшись сразу перед китайской DeepSeek и французской Mistral, занявшей последнее место, согласно данным базирующегося в США аналитического центра по безопасности ИИ Future of Life Institute, который ранжировал девять ведущих мировых компаний в сфере ИИ.
Семь исследователей и экспертов по управлению определили рейтинги на основе общедоступных данных и информации, предоставленной компаниями.
Они оценили усилия по шести различным категориям: оценка рисков, текущий вред, структуры безопасности, экзистенциальная безопасность, управление и подотчетность, а также обмен информацией.
Ни одна компания не получила оценку "A" ни в одной категории, в то время как Anthropic получила наилучший общий балл "C+."
Mistral была включена в список впервые, однако когда AFP попросила ее прокомментировать последнее место, компания заявила, что методология отчета не подходит для ее подхода к разработке моделей ИИ.
Французская компания разрабатывает так называемые открытые модели, которые позволяют пользователям загружать и изменять их. Многие из ее конкурентов разрабатывают закрытые модели ИИ, включая Anthropic, OpenAI и Google DeepMind, которые также включены в отчет.
"Я был очень разочарован, обнаружив, что они оказались на последнем месте, особенно учитывая, что Европа действительно... была лидером в области безопасности ИИ," — сказал AFP Макс Тегмарк, профессор Массачусетского технологического института и президент Future of Life.
"Мы связывались много-много раз," — продолжил Тегмарк, — но Mistral не ответила на опрос организации.
Alibaba, xAI и DeepSeek также не ответили на ее опрос, сообщила организация.
Три китайских разработчика, включенные в отчет, также производят открытые модели и оказались в нижней половине рейтинга: DeepSeek (пятое место), Alibaba Cloud (шестое место) и Z.ai (восьмое место).
- 'Сомнительные' практики -
В отчете отмечается, что несколько компаний, которые ранее запрещали использование своих технологий в военных целях, "постепенно изменили курс," включая Anthropic, которую отчет критикует за "сомнительное военное взаимодействие."
Правительство США использовало технологию Anthropic в военных операциях в Венесуэле и Иране за последний год, согласно сообщениям различных СМИ — хотя компания недавно подверглась запрету со стороны Пентагона из-за разногласий по безопасности ИИ.
Все девять компаний терпят неудачу, когда дело доходит до борьбы с "экзистенциальными" угрозами, такими как стремление к созданию моделей, достигающих человеческого уровня интеллекта, известного как "искусственный общий интеллект" или AGI, говорится в отчете.
Хотя "конструктивные попытки существуют," усилия в целом "совершенно неадекватны."
Другие риски включают возможное неправомерное использование модели для осуществления кибератаки или выполнения задач, потенциально вредных для человека.
Anthropic недавно оказалась в центре внимания после выпуска своей самой мощной на сегодняшний день модели под названием Mythos.
В начале апреля базирующаяся в Сан-Франциско компания выпустила Mythos только для нескольких доверенных организаций из-за ее способности раскрывать кибер-уязвимости злоумышленникам.
Однако к 12 июня правительство США заблокировало Anthropic доступ к Mythos для иностранцев по соображениям национальной безопасности.
Администрация Трампа в конечном итоге сняла запрет пару недель спустя, 30 июня.
tu/smb/arp