Биологическое оружие на основе ИИ: новая угроза глобальной безопасности
Демонстрация в Белом доме
В 2023 году биохимик и бывший инспектор ООН по вооружениям Рокко Казагранде вошёл в Белый дом с небольшой коробкой, в которой находились ингредиенты для создания потенциально смертоносного вируса. Эти компоненты были предоставлены чат-ботом на основе ИИ. Целью этой демонстрации было не нанести вред, а привлечь внимание официальных лиц США к новой угрозе — созданию биологического оружия с помощью ИИ. Казагранде объяснил, как инструменты на базе ИИ, такие как ChatGPT, могут помочь террористам в создании опасных вирусов, что подчёркивает необходимость быстрого реагирования на эти угрозы.
Надвигающаяся угроза
После презентации обеспокоенность по поводу биологического оружия, созданного с помощью ИИ, распространилась среди национальных агентств безопасности. Представители различных ведомств запросили демонстрации, осознав, что США не готовы к появлению такого оружия, созданного с помощью ИИ. Способности ИИ значительно возросли, что создаёт потенциальную возможность разработки биологического оружия в нетрадиционных условиях, таких как домашние лаборатории, представляя серьёзную угрозу глобальной безопасности.
Технологические достижения и риски
ИИ, в сочетании с достижениями в области синтетической биологии, позволяет быстро и недорого создавать биологическое оружие. Такие технологии, как облачные лаборатории и печать ДНК, облегчают создание такого оружия без использования традиционной лабораторной инфраструктуры. Модели ИИ могут предоставлять информацию о манипуляциях с вирусами и токсинами, что увеличивает необходимость надзора и регулирования для предотвращения злоупотреблений.
Ответные меры правительства
В ответ на эти угрозы администрация Байдена сосредоточила своё внимание на биологической угрозе со стороны ИИ. К июлю 2023 года крупные компании в сфере ИИ обязались оценивать риски, связанные с ИИ, что привело к изданию обширного указа в октябре. Указ предусматривал усиление контроля за инструментами ИИ в области биобезопасности и создание института безопасности ИИ. Однако критики утверждают, что эти меры слишком сильно зависят от добровольного соблюдения компаниями и недостаточно эффективны для обеспечения выполнения.
Дискуссия о регулировании ИИ
Продолжаются споры о том, как лучше всего регулировать ИИ и его потенциальную возможность создавать биологическое оружие. В то время как некоторые выступают за более жёсткий контроль за инструментами ИИ, другие подчеркивают необходимость регулирования лабораторий и материалов. Учёные подчеркивают важность ответственного использования ИИ для улучшения исследований и инноваций. Напряжённость между потенциальными преимуществами и рисками ИИ остаётся ключевой темой в политических дискуссиях, в том числе из-за опасений по поводу использования биологии в военных целях.
Заключение
Потенциал ИИ в создании биологического оружия представляет серьёзную угрозу глобальной безопасности. Хотя технологические достижения предоставляют значительные преимущества, они также требуют надёжного надзора и международного сотрудничества для предотвращения злоупотреблений. Баланс между инновациями и безопасностью будет иметь решающее значение в управлении будущим ИИ в области биотехнологий. Мировое сообщество должно оставаться бдительным, чтобы обеспечить ответственное использование ИИ для защиты человечества от новых угроз.