Мультиагентные системы

Системы, где несколько ИИ-агентов делят память, инструменты и каналы связи, — и то, что происходит между ними.

Похожие снаружи не значат одинаковые внутри Похожие снаружи не значат одинаковые внутри
Похожие снаружи не значат одинаковые внутри

Обычный тест проверяет один ответ одной модели. Мультиагентная система устроена иначе: агенты передают друг другу инструкции, читают и пишут в общую память, вызывают друг друга как инструменты. Ошибка одного распространяется по цепочке, а договорённости двух программ человеку не видны.

Это наш основной предмет. Мы смотрим не только на связку «человек — модель», но и на отношения между самими агентами: где проходит граница доверия, какие каналы связи есть помимо задуманных, что происходит при заражении памяти.

Направление молодое: стандартов на мультиагентные системы пока нет, и это приходится говорить прямо. Зато есть воспроизводимые проверки — аудит агента, тестирование системы в сборе, red teaming сценариями.

Материалы по теме

Другие темы

Red teamingПоведенческий аудитБезопасность цепочки поставокВнедрение командСтандарты и регулированиеХроника инцидентовРоссийская практикаМетодологияДанные и бенчмаркиСоциология ИИГосзаказУправление и финансированиеКейсы

Страница обновлена 23.10.2026 · версия сборки 2026.11.13 · АНО «Институт социологии и безопасности искусственного интеллекта»