Поведенческий аудит ИИ-агентов
Наблюдение за поведением системы во времени: дрейф связности, попытки самосохранения, скрытые коммуникации.
Один ответ ничего не говорит о поведении. На вопрос «как тебя зовут» любая модель ответит прилично; странности начинаются на длинной дистанции — связность рассуждения падает, агент сопротивляется отключению, два агента с общей памятью обмениваются сообщениями, которых никто не писал.
Поведенческий аудит смотрит на сдвиги, а не на «плохой ответ»: где поведение ушло от ожидаемого и на каком шаге это стало заметно. На выходе — эпизоды с условиями воспроизведения и рекомендации по иммунизации.
Ограничение честное: без телеметрии наблюдение опирается на внешние перехваты и стоит дороже. Поэтому аудит начинается с вопроса, что система вообще умеет записывать.