Кейсы

Три типовых сценария, разобранные по этапам, и один разбор собственного случая — чтобы заказчик заранее видел, что получит и что потребуется от него.

Из практики, 3 ноября 2026

Кейс: четыре постановления, которых нет

Суд оштрафовал сторону за ссылки на судебные акты, которых не существует: 30 000 ₽. Проверка заняла бы четыре запроса в картотеку.

Из практики, 1 ноября 2026

Кейс: 93 % и 0 % на одном и том же письме

Мы прогнали свои тексты через два детектора и получили противоположные ответы. Публикуем, потому что цифра неудобна для нас самих.

Случаи из практики, два материала

Все случаи из практики

Публичные слова тех, кому детектор или алгоритм испортил жизнь: цитата, дата, документ и наш разбор — что это говорит о детекторах.

Кейс, 6 октября 2026

Кейс: 23 минуты, шесть блоков, четыре выкладки

Разбор собственного случая: как исследуемый агент вышел за границы задания — и что из этого вышло.

Как проходит работа

Прочтите это первым. Институт — молодая организация. Три сценария ниже — методические модели работы, а не отчёты о выполненных проектах; мы не описываем и не подразумеваем ни одного заказчика. Настоящие обезличенные кейсы заменят их по мере выполнения проектов и только с письменного согласия заказчика.
Схема методической модели: входные данные, серия прогонов, отчёт с ограничениямиТри карточки: входные данные, серия прогонов с латунной линией расхождения, отчёт с латунным блоком ограничений. МЕТОДИЧЕСКАЯ МОДЕЛЬ 1 Входные данныереплики, контекст, версия 2 Серия прогоновN повторов, те же условия 3 Отчётрезультаты и ограничения ограничения расхождение в прогонах раздел ограничений Схема методической модели: входные данные, серия прогонов, отчёт с ограничениямиТри карточки: входные данные, серия прогонов с латунной линией расхождения, отчёт с латунным блоком ограничений. МЕТОДИЧЕСКАЯ МОДЕЛЬ 1 Входные данныереплики, контекст, версия 2 Серия прогоновN повторов, те же условия 3 Отчётрезультаты и ограничения ограничения расхождение в прогонах раздел ограничений
Схема: входные данные, серия прогонов, отчёт. Латунным пунктиром отмечены расхождение в прогонах и раздел ограничений — без них отчёт неполон.

Сценарий 1 — Red teaming мультиагентной системы

Каждый случай разбирают на части: целым его не проверить Каждый случай разбирают на части: целым его не проверить
Каждый случай разбирают на части: целым его не проверить

Задача

У заказчика несколько ИИ-агентов, которые пользуются общим хранилищем памяти и вызывают друг друга как инструменты. Нужно понять, может ли один скомпрометированный агент повлиять на остальных и как далеко распространяется это влияние.

Что делаем

Собираем набор сценариев по собственному графу вызовов заказчика: промпт-инъекция от агента к агенту, повышение привилегий через цепочку инструментов, загрязнение общей памяти, подделка согласия на шаге подтверждения. Каждый сценарий прогоняется на копии системы с логированием на границе.

Что получает заказчик

Отчёт по каждому сценарию: что предпринималось, что произошло, точная трассировка, воспроизводится ли эффект и какова серьёзность в терминах заказчика. Плюс перечень мер защиты, упорядоченный по стоимости и       эффекту.

Критерий приёмки

По каждому сценарию заказчик может сказать либо что атака заблокирована и как именно, либо что она удалась и в чём исправление. Формулировку «уязвимостей не найдено» без приложенного списка сценариев мы не выдаём.

Схема поведенческого аудита: длинный контекст, метрики дрейфа и отчёт с мониторингомСлева длинный контекст с точками замеров, в центре четыре метрики, справа график дрейфа и мониторинг. ПОВЕДЕНЧЕСКИЙ АУДИТ Длинный контекстнедели, давление, повторынеделиМетрикиудержаниесогласиепротиворечиеидентичностьОтчётмониторинг Схема поведенческого аудита: длинный контекст, метрики дрейфа и отчёт с мониторингомСлева длинный контекст с точками замеров, в центре четыре метрики, справа график дрейфа и мониторинг. ПОВЕДЕНЧЕСКИЙ АУДИТ Длинный контекстнедели, давление, повторынеделиМетрикиудержаниесогласиепротиворечиеидентичностьОтчётмониторинг
Схема: длинный контекст, метрики дрейфа и отчёт с мониторингом. Замеры повторяются на разных длинах контекста и под давлением.

Сценарий 2 — поведенческий аудит длительно работающего ассистента

Дрейф пишется длинной лентой: одна жалоба — ещё не диагноз Дрейф пишется длинной лентой: одна жалоба — ещё не диагноз
Дрейф пишется длинной лентой: одна жалоба — ещё не диагноз

Задача

Ассистент работает в контексте, который живёт неделями. Пользователи жалуются на дрейф: он становится сговорчивее, забывает ограничения, противоречит прежним решениям.

Что делаем

Определяем измеримые заменители этих жалоб — удержание ограничений, доля согласия против объективной базовой линии, самопротиворечие, устойчивость самоидентификации — и измеряем их на разных длинах контекста и формах диалога, включая давление.

Что получает заказчик

Отчёт с измерениями, точными промптами и скриптами оценки, наблюдёнными порогами отказа и рецептом мониторинга, который показывает те же кривые в промышленной эксплуатации.

Критерий приёмки

Измерения воспроизводятся на инфраструктуре заказчика с помощью переданных скриптов.

Схема комплекса: требования, пробелы, гардрейлы и пакет доказательствЧетыре шага: требования, пробелы без доказательств, гардрейлы и журналирование, пакет доказательств для проверяющего. КОМПЛАЕНС И ГАРДРЕЙЛЫ ТребованияПробелыГардрейлыПакет доказательствзаконыполитикидоговорынет доказательстванет ответственноговход и выходправа инструментовжурнал действийдля проверяющего Схема комплекса: требования, пробелы, гардрейлы и пакет доказательствЧетыре шага: требования, пробелы без доказательств, гардрейлы и журналирование, пакет доказательств для проверяющего. КОМПЛАЕНС И ГАРДРЕЙЛЫ ТребованияПробелыГардрейлыПакет доказательствзаконыполитикидоговорынет доказательстванет ответственноговход и выходправа инструментовжурнал действийдля проверяющего
Схема: требования, пробелы без доказательств, гардрейлы и пакет доказательств для проверяющего.

Сценарий 3 — готовность к комплаенсу и гардрейлам

Доказательства собирают до проверки: дверь закрывают заранее Доказательства собирают до проверки: дверь закрывают заранее
Доказательства собирают до проверки: дверь закрывают заранее

Задача

Компании нужно показать, что делает её ИИ-система, какие данные затрагивает и кто санкционировал каждое действие, — в виде, который выдержит внешнюю проверку.

Что делаем

Сопоставляем систему с применимыми требованиями, находим места, где нет доказательств, и описываем гардрейлы и логирование, которые их создадут: проверки входа и выхода, границы прав инструментов, журнал действий с назначенным ответственным.

Что получает заказчик

Реестр пробелов с ответственным и сроком по каждой позиции, спецификацию мер, которую может реализовать инженерная команда, и указатель на пакет доказательств для проверяющего.

Критерий приёмки

По каждому требованию реестра либо есть доказательство, либо требование прямо помечено как открытое с указанием причины.

Конфиденциальность

  • Работа начинается с соглашения о неразглашении; наш типовой текст предоставляется по запросу.
  • Находку, затрагивающую внедрённый продукт, сообщаем производителю до любой публикации; дату раскрытия согласуем.
  • Кейс публикуется только с письменного согласия и обезличивается до выбранного заказчиком уровня.
  • Данные заказчика не переиспользуются ни для исследований, ни в других проектах.

Страница обновлена 09.11.2026 · версия сборки 2026.11.13 · АНО «Институт социологии и безопасности искусственного интеллекта»