Компания Cohere объявила о внедрении системы цифровой подписи для всех своих моделей Command, размещенных на платформе Hugging Face. Эта мера направлена на обеспечение проверяемой аутентичности и целостности моделей искусственного интеллекта в условиях растущих рисков безопасности цепочек поставок ИИ.
Проблема доверия при развертывании ИИ
Быстрая интеграция искусственного интеллекта в корпоративные среды создала новые риски для цепочек поставок. Поскольку организации все чаще полагаются на предварительно обученные модели, доработанные варианты и сторонние сервисы ИИ, они сталкиваются с критической уязвимостью: цепочка поставок моделей ИИ стала основным вектором атак.
В отличие от традиционных уязвимостей программного обеспечения, скомпрометированные модели ИИ могут:
- Распространять скрытые предубеждения, ведущие к дискриминационным решениям в найме, кредитовании или обслуживании клиентов
- Создавать бэкдоры, которые активируются при определенных условиях, обходя средства контроля безопасности
- Раскрывать обучающие данные или интеллектуальную собственность через атаки инверсии моделей
Эти сбои и атаки часто проявляются незаметно. Предприятиям нужен надежный механизм для проверки того, что развертываемые ими модели являются подлинными, неизмененными и получены из проверенных источников.
Цифровая подпись моделей: основа доверия
Система цифровой подписи моделей использует криптографические методы для создания защищенной от несанкционированного доступа цифровой подписи для артефактов ИИ. Эта подпись проверяет три критических аспекта:
- Целостность — гарантирует, что модель не была изменена с момента создания.
- Происхождение — Обеспечивает отслеживаемую запись жизненного цикла разработки модели и зависимостей.
- Свойства — Подтверждает заявления о производительности, соответствии требованиям и других характеристиках.
Внедряя цифровую подпись моделей, организации могут автоматизировать политики безопасности, упростить соблюдение нормативных требований и ускорить развертывание, сохраняя при этом доверие.
При всей важности этой инициативы, возникает вопрос: не является ли цифровая подпись моделей запоздалой мерой в индустрии, где безопасность долгое время оставалась на втором плане после скорости разработки. Интересно, сколько компаний уже столкнулись с проблемами компрометации моделей, прежде чем индустрия очнулась. Криптографические подписи — это хорошо, но настоящая безопасность начинается с процессов разработки, а не с финального этапа подписания.
Лидерство Cohere в области безопасного ИИ
В рамках своего обязательства по обеспечению безопасности ИИ Cohere публикует артефакты подписи для всех моделей Command. Пользователи теперь могут проверять аутентичность и целостность моделей, развернутых непосредственно на Hugging Face. Эта инициатива устанавливает новый стандарт прозрачности и дает разработчикам и предприятиям возможность создавать системы ИИ с уверенностью.
Вот как проверить подпись модели с помощью библиотеки model-signing:
1. Установите пакет model-signing: pip install model-signing 2. Установите huggingface_hub и скачайте модель: pip install huggingface_hub huggingface-cli download CohereLabs/c4ai-command-r7b-arabic-02-2025 --revision main --local-dir ./model 3. Проверьте подпись: model_signing verify ./model \ --signature /model/signatures/c4ai-command-r7b-arabic-02-2025.sig \ --identity "https://github.com/cohere-ai/model-signing/.github/workflows/sign-model.yml@refs/heads/main" \ --identity_provider "https://token.actions.githubusercontent.com" \ --ignore_unsigned_files
Загрузка подписанных моделей
Исследуйте наши подписанные модели Command и Cohere Labs Aya Vision на Hugging Face. Перейдите в каталог `signature` для каждой модели, где будет содержаться подпись модели (например, `command-a-reasoning-08-2025.sig`) и файл `verification-instructions.txt` с пошаговым руководством по локальной проверке.
По мере того как ИИ становится неотъемлемой частью критической инфраструктуры, цифровая подпись моделей станет такой же важной, как SSL-сертификаты для веб-безопасности сегодня.
По сообщению Cohere.