Биологическое оружие по почте: звучит как сюжет из антиутопии. Однако лидеры в области искусственного интеллекта все чаще опасаются, что мощные модели ИИ могут быть использованы для создания высококонтагиозных вирусов или токсинов, которые затем можно заказать онлайн у поставщиков услуг по синтезу генов.
В необычном проявлении единства всей отрасли самые ярые конкуренты технологической индустрии совместно подписали открытое письмо, призывающее Конгресс ввести обязательную проверку всех заказов на синтетическую ДНК и РНК — строительные блоки вирусов и других патогенов, таких как бактерии. Их предупреждение бескомпромиссно: по мере того как модели ИИ становятся умнее, технические барьеры, не позволяющие биологическому оружию попасть не в те руки, стремительно разрушаются.
Коалиция, стоящая за этой инициативой, читается как справочник «Кто есть кто» в технологической элите. Организованная Фондом американских инноваций и Институтом прогресса, в список подписавших вошли Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic, Демис Хассабис из Google DeepMind, Мустафа Сулейман из Microsoft AI, а также Александр Ван, главный директор по ИИ в Meta, наряду с генеральным директором Stripe Патриком Коллисоном и десятками экспертов по биобезопасности.
Это уже второе тревожное письмо об ИИ, опубликованное недавно, но оно привлекло гораздо меньше внимания. В более раннем письме, подписанном многими из тех же светил, Anthropic предупреждал, что передовые модели ИИ демонстрируют признаки возможного выхода из-под контроля человека, и призывал к скоординированным международным усилиям по внедрению защитных мер.
Предупреждение о биологическом оружии гораздо более насущно. Исторически создание разрушительного биологического агента требовало узкоспециализированных, труднодоступных институциональных знаний. Генеративные модели ИИ обладают этими знаниями и угрожают демократизировать этот опыт. В письме предупреждается, что барьеры, мешающие злоумышленникам получить биологическое оружие, могут просто исчезнуть. В нем цитируется исследование Microsoft, показывающее, что ИИ создал более 75 000 опасных вариантов белков, которые обошли глобальные системы скрининга.
Компании в области синтетической биологии специализируются на «печати» пользовательских генетических последовательностей, используя нуклеотиды для создания последовательностей на основе цифровых чертежей, отправленных клиентами. Вы отправляете цифровой файл, содержащий желаемую последовательность ДНК, через веб-сайт компании, и они доставляют физический генетический материал по вашему адресу. Если кто-то создаст опасный вирус с помощью ИИ, он сможет заказать генетический код по почте и получить физический биологический материал прямо к порогу своего дома.
Чтобы закрыть эту брешь, коалиция требует единого, незыблемого федерального стандарта, обязывающего компании в области синтетической биологии проверять личности клиентов, проверять генетические последовательности на наличие опасного материала и вести строгие журналы покупок, чтобы предоставить следователям документальный след, если что-то проскочит.
Время этой инициативы совпадает с «Законом о модернизации и инновациях в области биобезопасности 2026 года» — двухпартийным законопроектом, внесенным в феврале сенаторами Томом Коттоном, республиканцем от Арканзаса, и Эми Клобушар, демократом от Миннесоты. Предложение нацелено именно на эту проблему, предписывая тщательную проверку клиентов и заказов, делая при этом исключения для безвредных, рутинных исследовательских материалов.
ШЭНЬЧЖЭНЬ, КИТАЙ — 29 АПРЕЛЯ: Логотип компании Twist Bioscience Corporation (NASDAQ: TWST), американской компании в области синтетической биологии и биотехнологий, специализирующейся на синтезе ДНК и геномных решениях.
Некоторые отраслевые гиганты, такие как Twist Bioscience и Ansa Biotechnologies, уже делают это на добровольной основе в рамках Международного консорциума по синтезу генов. Но добровольное соблюдение — это лоскутное решение. Как выразился Джеймс Дигганс, вице-президент Twist по политике и биобезопасности, компании, способные печатать ДНК, несут фундаментальную ответственность за то, чтобы точно знать, «что вы производите и для кого вы это производите».
Законодательная инициатива появляется на фоне усугубляющихся рисков. Исследователи уже продемонстрировали, что публичные модели ИИ можно спровоцировать на раскрытие практических знаний о превращении патогенов в оружие.
Конечно, полного консенсуса нет. Противники, особенно небольшие биотехнологические фирмы, утверждают, что определение «опасных» комбинаций нуклеиновых кислот часто субъективно, и что высокие затраты на соблюдение требований могут подавить инновации. Предыдущие законопроекты о скрининге тихо умирали в комитетах именно по этим причинам.
Но сторонники утверждают, что этот момент принципиально иной, потому что призыв к действию исходит с обеих сторон уравнения риска — от людей, создающих «мозги» (ИИ), и от людей, печатающих физический материал (ДНК).
Безусловно, биологический терроризм остается периферийной угрозой. Данные показывают, что на биологические агенты приходится всего 0,02 процента исторических террористических атак. Но низкая вероятность компенсируется катастрофической тяжестью последствий. Ингаляционная форма сибирской язвы при отсутствии лечения имеет уровень смертности, близкий к 100 процентам. США уже усвоили этот урок на горьком опыте во время рассылки писем со спорами сибирской язвы в 2001 году, в результате которой погибли пять человек, десятки заразились и была парализована работа почтовой службы. Дезактивация только офиса сенатского здания Харта заняла три месяца и обошлась в 27 миллионов долларов.
Сможет ли Конгресс действовать достаточно быстро, чтобы принять закон до окончания текущей сессии, остается открытым вопросом. Но само существование этого письма подчеркивает серьезность момента. Компании, движущие революцию ИИ, соревнуются друг с другом за право совершить следующий прорыв, но в вопросе биобезопасности они внезапно единогласно выкрикивают одно и то же предупреждение.
Эта статья была первоначально опубликована на Forbes.com