Безопасность цепочки поставок
Что пришло в систему по цепочке: базовая модель, датасеты, LoRA-адаптеры, библиотеки.
Модели почти никто не пишет с нуля. Система собирается из чужих частей, и каждая могла быть изменена до того, как попала к вам. Supply chain assessment отвечает на вопрос «из чего собрана система и что мы про эти части знаем».
Доказать отсутствие закладки нельзя ничем. А показать состав, происхождение, историю версий и то, что именно проверено, — можно. Для этого мы собираем профиль состава (аналог SBOM для ИИ-компонентов) и профиль риска по каждому компоненту.
Самое частое место для скрытых триггеров — адаптеры: они весят десятки мегабайт, подключаются одной строкой и меняют поведение модели так же сильно, как замена части весов.