Глава OpenAI Сэм Олтмен присоединился к руководителям конкурирующих компаний в сфере ИИ, призвав к принятию новых законов, которые могли бы помочь предотвратить использование искусственного интеллекта для создания биологического оружия.
К господину Олтмену присоединились Дарио Амодеи из Anthropic, Демис Хассабис из Google DeepMind и Мустафа Сулейман из Microsoft AI, подписав открытое письмо в поддержку правил, которые обяжут компании, продающие синтетическую ДНК, проверять клиентов и заказы.
Подписавшие утверждают, что это поможет помешать злоумышленникам использовать генетический материал для создания опасного биологического оружия.
«Хотя проблема не нова, темпы прогресса в области искусственного интеллекта — новые. Системы ИИ теперь превосходят вирусологов уровня PhD в вопросах, касающихся узкоспециализированных лабораторных процедур в их собственных областях знаний», — говорится в письме.
«Наряду с невероятными преимуществами для науки и медицины существует реальная вероятность того, что барьеры знаний, которые исторически мешали злоумышленникам получить биологическое оружие, будут существенно ослаблены».
Письмо под названием «В поддержку обязательного скрининга и ведения записей при синтезе нуклеиновых кислот» описывает себя как «редкий момент согласия между заинтересованными сторонами, которые часто находятся в противоречии».
Господин Олтмен и господин Амодеи недавно столкнулись по вопросам безопасности ИИ, в последний раз после того, как глава Anthropic заявил, что не может «морально уступить» требованиям Военного департамента США использовать его технологии для слежки и создания автономного оружия.
OpenAI впоследствии заключила сделку с Пентагоном, хотя позже Олтмен признал во внутренней служебной записке, что это объявление выглядело «оппортунистическим и небрежным».
Ранее в этом году на сцене саммита India AI Impact Summit в Нью-Дели эти два технологических лидера были единственными из 14 человек на групповом фото, кто не держался за руки.
Господин Амодеи ранее работал в OpenAI, прежде чем покинуть компанию в 2021 году из-за опасений по поводу безопасности ИИ. В том же году он основал Anthropic вместе с шестью другими бывшими сотрудниками OpenAI.