В условиях стремительного перехода военных к автономным системам возникла критическая уязвимость: невозможность проверить, что ИИ-модель на дроне или ракетной системе не была изменена противником. Решая эту проблему доверия, оборонный гигант Raytheon интегрировал технологию криптографического стартапа Lagrange для обеспечения целостности военного искусственного интеллекта.
Криптографическая гарантия в условиях боевых действий
Сотрудничество сосредоточено на технологии DeepProve от Lagrange, системе, основанной на Zero-Knowledge криптографии — области, ранее доминировавшей в блокчейн-приложениях. Согласно заявлению стартапа, технология теперь встроена в экосистему Raytheon, специально нацелившись на проверку оборонных приложений, где целостность данных имеет первостепенное значение.
Ядро этого сотрудничества решает дилемму «черного ящика», присущую моделям глубокого обучения. Если противник «отравит» обучающие данные или изменит веса модели во время передачи на тактическое устройство, последствия могут быть катастрофическими — от дружественного огня до провала критически важной разведки.
Технология DeepProve обеспечивает защищенную от несанкционированного доступа информацию, фактически создавая цифровой отпечаток для ИИ-моделей, который доказывает их целостность без раскрытия лежащих в основе проприетарных алгоритмов или классифицированных данных.
Использование Zero-Knowledge доказательств для верификации ИИ в военных системах — это элегантное решение фундаментальной проблемы доверия. Математическая гарантия целостности алгоритма становится важнее любой периметровой защиты, особенно когда речь идет о системах, принимающих решения о применении силы.
Тридцатимиллиардный разрыв доверия
Финансовые контуры этого партнерства подчеркивают огромные капиталовложения в доверенную автономию. При бюджете ИИ Пентагона в 30 миллиардов долларов, охватывающем все от прогнозируемого обслуживания до автономных ведомых систем, рынок «гарантий ИИ» быстро расширяется.
Для Raytheon ставки являются как конкурентными, так и тактическими. Поскольку новые игроки, такие как Anduril и Palantir, бросают вызов доминированию традиционных оборонных подрядчиков, действующие компании находятся под давлением, чтобы продемонстрировать, что их оборудование не только кинетическое, но и интеллектуальное, и безопасное.
Защита цифровой цепи поражения
Операционные последствия этой технологии распространяются на тактический край — удаленные, отключенные среды, где пропускная способность низкая, а глушение частое. В этих сценариях проверка целостности команды затруднена.
Технология Lagrange позволяет создавать «легковесные» доказательства, которые можно проверять на оборудовании с ограниченной вычислительной мощностью. Это означает, что рой дронов теоретически может проверять обновления своей логики наведения в полете без необходимости постоянного высокоскоростного соединения с центральным сервером командования.
Ключевые возможности технологии DeepProve:
- Математическое доказательство выполнения алгоритма
- Защита от манипуляций с обучающими данными
- Легковесная верификация на устройствах с ограниченными ресурсами
- Автоматический отказ при обнаружении изменений
От блокчейна к полю боя
Траектория Lagrange от криптографического стартапа, вероятно укорененного в секторе децентрализованных финансов или Web3, до поставщика Raytheon иллюстрирует растущую двойную природу технологий, сохраняющих конфиденциальность.
Zero-Knowledge доказательства изначально популяризировались для масштабирования блокчейнов, таких как Ethereum. Однако лежащая в основе математика — доказательство знания секрета без раскрытия самого секрета — идеально подходит для классифицированных сред. Военным необходимо проверять, что союзники или подрядчики запускают правильное программное обеспечение, без необходимости раскрывать исходный код или классифицированные обучающие данные каждому узлу в сети.
Ирония ситуации в том, что технологии, созданные для анонимных криптовалютных транзакций, теперь защищают самые секретные военные алгоритмы. Криптография снова доказывает свою универсальность — от защиты финансовой приватности до обеспечения национальной безопасности.
Эта архитектура «необходимости знать» является центральной для стратегии Пентагона Joint All-Domain Command and Control. Поскольку разнородные системы ВВС, ВМС и Армии пытаются обмениваться данными в реальном времени, поверхность атаки расширяется экспоненциально.
Аудируемость как стратегическое преимущество
Помимо непосредственной безопасности, партнерство решает надвигающееся регуляторное препятствие: аудируемость ИИ. Поскольку правительство США движется к регулированию безопасности ИИ, оборонные агентства должны гарантировать, что их автономные системы соответствуют Законам вооруженного конфликта.
Это требует неизменяемого аудиторского следа того, почему ИИ принял конкретное решение. Технология Lagrange способствует этому, генерируя проверяемые доказательства процесса вычислений. Если дрон поражает цель, командиры могут математически доказать, что система выполняла действительный, авторизованный код в момент взаимодействия.
По сообщению WebProNews, это партнерство знаменует собой важный сдвиг в подходе оборонных подрядчиков к проверке программного обеспечения, переход от периметровой безопасности к внутренней алгоритмической верификации.