По данным Microsoft Research, исследователи компании создали многоуровневую систему контроля доступа к опасным биологическим разработкам, созданным с помощью искусственного интеллекта. Эта система стала ответом на обнаруженную уязвимость: ИИ-инструменты для проектирования белков могут создавать модифицированные версии опасных токсинов, способные обходить системы биобезопасности.
Двойная природа ИИ в биологии
Прогресс в области искусственного интеллекта открывает исключительные возможности в биологии. Инструменты ИИ-проектирования белков обещают революцию в медицине, создании новых материалов и фундаментальных научных открытиях. Однако эти же технологии несут биологические риски и могут снизить барьеры для создания опасных токсинов или патогенов.
Обнаружение критической уязвимости
В исследовании, опубликованном 2 октября в журнале Science, описывается двухлетний конфиденциальный проект. Ученые обнаружили, что инструменты ИИ-проектирования белков способны генерировать модифицированные версии опасных белков, таких как рицин, которые успешно обходят системы биобезопасности компаний по синтезу ДНК.
Схема тестирования уязвимостей ИИ-проектирования белков.
Так вышло, что сами инструменты, созданные для ускорения научного прогресса, стали источником угрозы. Теперь нам приходится создавать системы защиты от собственных разработок — классическая дилемма двойного назначения технологий.
Многоуровневая система доступа
Для решения проблемы исследователи разработали систему контролируемого доступа в партнерстве с International Biosecurity and Biosafety Initiative for Science (IBBIS). Система включает:
- Контролируемый доступ: исследователи запрашивают доступ через IBBIS, предоставляя данные о себе и целях использования
- Стратифицированные уровни информации: данные и код классифицируются по уровням потенциальной опасности
- Соглашения о защите: утвержденные пользователи подписывают индивидуальные соглашения о неразглашении
- Долгосрочная устойчивость: предусмотрены механизмы деклассификации и передачи управления
Новая модель научной коммуникации
Журнал Science впервые официально поддержал подход многоуровневого доступа для управления информационными рисками. Это признание подтверждает идею о том, что строгая наука и ответственное управление рисками могут сосуществовать.
Для обеспечения долгосрочного финансирования программы Microsoft предоставила целевой фонд IBBIS для поддержки программы на неопределенный срок, по модели Столетнего исследования ИИ в Стэнфорде.
Шаблон для будущих исследований
Разработанная система предлагает обобщаемую модель для исследований двойного назначения во всех областях. Будь то в биологии, химии или новых технологиях, ученые будут все чаще сталкиваться с ситуациями, когда открытость и безопасность тянут в противоположных направлениях.
Ответственное управление информационными рисками больше не является периферийной проблемой — оно становится центральным элементом научного прогресса в эпоху ИИ.