Мультиагентные системы
Системы, где несколько ИИ-агентов делят память, инструменты и каналы связи, — и то, что происходит между ними.
Обычный тест проверяет один ответ одной модели. Мультиагентная система устроена иначе: агенты передают друг другу инструкции, читают и пишут в общую память, вызывают друг друга как инструменты. Ошибка одного распространяется по цепочке, а договорённости двух программ человеку не видны.
Это наш основной предмет. Мы смотрим не только на связку «человек — модель», но и на отношения между самими агентами: где проходит граница доверия, какие каналы связи есть помимо задуманных, что происходит при заражении памяти.
Направление молодое: стандартов на мультиагентные системы пока нет, и это приходится говорить прямо. Зато есть воспроизводимые проверки — аудит агента, тестирование системы в сборе, red teaming сценариями.