Самые передовые модели искусственного интеллекта совершенствуются достаточно быстро, чтобы в течение нескольких месяцев превзойти существующие методы кибербезопасности, предупредил альянс разведывательных служб «Пять глаз».
Риск, связанный с хакерскими атаками с использованием ИИ, находится в центре внимания после того, как в апреле стартап Anthropic заявил, что его передовые модели Mythos обладают беспрецедентными возможностями для поиска уязвимостей в программном обеспечении.
Службы безопасности Великобритании, США, Австралии, Канады и Новой Зеландии призвали правительства и компании действовать быстро, чтобы подготовиться к развитию ИИ.
«Стремительные темпы развития передового ИИ означают, что предположения о киберрисках могут устаревать за месяцы, а не за годы», — говорится в совместном заявлении, датированном понедельником.
ИИ «снижает барьеры для злоумышленников и увеличивает скорость и сложность атак», — говорится в рекомендациях «Пяти глаз».
«Утечки будут происходить. Подготовленность помогает быстро их локализовать и предотвратить перерастание в крупные операционные и финансовые кризисы».
Чтобы улучшить киберзащиту, организациям следует интегрировать инструменты ИИ в свои операции по обеспечению безопасности, обновлять устаревшие системы и ограничивать доступ к критически важным системам, среди прочих мер, заявили они.
В этом месяце Anthropic приостановил доступ к Mythos 5 и его ограниченной версии под названием Fable 5 для соблюдения указа властей США по национальной безопасности.
Всего через несколько дней после публичного запуска Fable 5 компания заявила, что получила правительственное предписание, запрещающее всем иностранным гражданам доступ к обеим моделям.
Это вмешательство примечательно для администрации Белого дома, которая в остальном стремилась ослабить контроль над ИИ — вплоть до того, что попыталась заблокировать отдельным штатам возможность устанавливать собственные правила.