Безопасность цепочки поставок

Что пришло в систему по цепочке: базовая модель, датасеты, LoRA-адаптеры, библиотеки.

Цепочку держат все винты, а не только верхний Цепочку держат все винты, а не только верхний
Цепочку держат все винты, а не только верхний

Модели почти никто не пишет с нуля. Система собирается из чужих частей, и каждая могла быть изменена до того, как попала к вам. Supply chain assessment отвечает на вопрос «из чего собрана система и что мы про эти части знаем».

Доказать отсутствие закладки нельзя ничем. А показать состав, происхождение, историю версий и то, что именно проверено, — можно. Для этого мы собираем профиль состава (аналог SBOM для ИИ-компонентов) и профиль риска по каждому компоненту.

Самое частое место для скрытых триггеров — адаптеры: они весят десятки мегабайт, подключаются одной строкой и меняют поведение модели так же сильно, как замена части весов.

Материалы по теме

Другие темы

Мультиагентные системыRed teamingПоведенческий аудитВнедрение командСтандарты и регулированиеХроника инцидентовРоссийская практикаМетодологияДанные и бенчмаркиСоциология ИИГосзаказУправление и финансированиеКейсы

Страница обновлена 23.10.2026 · версия сборки 2026.11.13 · АНО «Институт социологии и безопасности искусственного интеллекта»