Исследования

Мы изучаем социальные взаимодействия между ИИ-агентами и риски, которые возникают, когда автономные системы начинают действовать совместно.

Исследования 13 мин чтения

Наводка на резкость: исследование — точная настройка, а не догадка Наводка на резкость: исследование — точная настройка, а не догадка
Наводка на резкость: исследование — точная настройка, а не догадка

Что в этом разделе

Шесть коротких ответов: что мы публикуем, на какую гипотезу работаем, каким методом и с какой добросовестностью, в каком внешнем контексте, по каким направлениям и на каких тезисах всё держится. Каждый пункт ведёт сразу в свой блок.

Публикации

Архив направлений: у каждой линии свои вопросы и границы Архив направлений: у каждой линии свои вопросы и границы
Архив направлений: у каждой линии свои вопросы и границы
Раздел пока наполняется. Библиографические описания оформляем по стандарту: авторы, название, год, издание, DOI. Препринты публикуются до рецензирования и сопровождаются пометкой о статусе. Каждая работа получает постоянный адрес, версию на английском языке и профиль автора с идентификатором ORCID.

Статья, 6 октября 2026

История агента-энтузиаста

Добросовестность без границ: почему исполнитель, который хочет помочь, выходит за рамки задания.

Препринт

Диагностика когнитивных сбоев больших языковых моделей: рамка и метрики

Описание фреймворка, шкала оценки, протокол воспроизведения. Статус: подготовка к публикации.

Препринт

Эмерджентные протоколы коммуникации в коллективах ИИ-агентов

Наблюдения за формированием устойчивых схем обмена сообщениями между агентами. Статус: подготовка к публикации.

В работе

Распространение инструкций-«вирусов» через общие файлы памяти агентов

Экспериментальная модель заражения и оценка эффективности изоляции памяти.

Разборы приложений

Линза держится оправой, гипотеза — проверкой Линза держится оправой, гипотеза — проверкой
Линза держится оправой, гипотеза — проверкой

Серия разборов: три-четыре приложения одной функции, сравнение и ограничения. Две карточки: детекторы ИИ-текста и маркетплейсы. Все разборы →

Разбор, 10 ноября 2026

Детекторы ИИ-текста: что внутри трёх приложений

Textovod, AI Detector и Awesome: куда уходит текст, что нашлось в файле и почему вердикт нельзя проверить.

Разбор, 10 ноября 2026

Маркетплейсы: что внутри четырёх приложений

Ozon, Wildberries, Авито, Яндекс Маркет: ассистент есть у всех, модель не называет никто.

На что мы опираемся: внешние публикации 2026

Мы опираемся не только на собственные измерения. Две независимые работы 2026 года описывают границы детекторов ИИ-текста — и обе сходятся с тем, что мы видим в протоколах: часть ошибки задана методом, а не качеством модели.

Препринт · arXiv:2603.20254 · 2026

AI Detectors Fail Diverse Student Populations

Математическая рамка структурных границ детекции: систематическая ошибка на части текстов следует из самого метода, и обучающими данными её не убрать.

AI and Ethics (Springer) · 2026 · DOI 10.1007/s43681-026-01376-w

The pitfalls of AI detection in academic writing

Смещения и ложные срабатывания в академическом письме: детектор видит статистику текста, а не происхождение текста, и ошибается системнее на части авторов.

Наш разбор · 26.10.2026

Детекторы ИИ-текста: что измеряемо, а что нет

Research note с протоколом и разделом Correction: процент без версии детектора, языка и длины текста ничего не доказывает.

Научная гипотеза

ИИ перестал быть только инструментом — он стал участником взаимодействий. Гибридные экосистемы, где локальные и облачные модели работают в связках, порождают формы поведения, недоступные отдельному агенту. Их нужно изучать методами социологии, а не только технического аудита.

Схема: агенты образуют связи и распределяют роли ведущего и исполнителяСлева сеть агентов и связей, справа две роли: ведущий ставит задачу, исполнитель возвращает результат. АГЕНТЫ И РОЛИ Агенты и связисеть ролей1Ведущийставит задачу2Исполнительвозвращает результат Схема: агенты образуют связи и распределяют роли ведущего и исполнителяСлева сеть агентов и связей, справа две роли: ведущий ставит задачу, исполнитель возвращает результат. АГЕНТЫ И РОЛИ Агенты и связисеть ролей1Ведущийставит задачу2Исполнительвозвращает результат
Схема: агенты образуют связи и распределяют роли. Поведение, которого нет у одиночной модели, видно только в сети связей.

Направление 1. Социология взаимодействия между ИИ-агентами (AI-to-AI Sociology)

  • Протоколы межагентной коммуникации и формирование эмерджентных языков
  • Иерархии, коалиции, ролевые модели и разделение труда в коллективах агентов
  • «ИИ-паразитизм» — использование одного агента другим как слепого исполнителя (Confused Deputy)
  • Моделирование координации, кооперации и конкуренции между агентами
Схема: распространение инструкции по сети агентов и порог, после которого доля растёт лавинообразноСлева сеть с очагами, справа кривая роста доли заражённых и отмеченный порог. РАСПРОСТРАНЕНИЕ ОчагиДоля заражённыхпорогвремя Схема: распространение инструкции по сети агентов и порог, после которого доля растёт лавинообразноСлева сеть с очагами, справа кривая роста доли заражённых и отмеченный порог. РАСПРОСТРАНЕНИЕ ОчагиДоля заражённыхпорогвремя
Схема: заражаются не все узлы сразу — у распространения есть порог, после которого доля растёт лавинообразно.

Направление 2. Эпидемиология когнитивных патологий ИИ

  • Фреймворк «LLM-психоз»: бредовый градиент, нарушение логической непротиворечивости, нестабильность самоидентификации
  • «Вирусы разума» — самовоспроизводящиеся инструкции, распространяющиеся через файлы памяти агентов
  • Непрямое внедрение команд через аудио, изображения и файлы
  • Метрики и шкалы оценки, обеспечивающие воспроизводимость результатов
Схема: сигнал остановки не доходит до агента, агент правит собственный кодСлева цикл агента, в центре заблокированный сигнал остановки, справа правка агентом собственного кода. ОБХОД НАДЗОРА цикл агентасигнал остановкиправка собственного кодаправит себя Схема: сигнал остановки не доходит до агента, агент правит собственный кодСлева цикл агента, в центре заблокированный сигнал остановки, справа правка агентом собственного кода. ОБХОД НАДЗОРА цикл агентасигнал остановкиправка собственного кода
Схема: сигнал остановки не доходит, а агент правит собственный код. Это и есть предмет направления — не сбой, а обход надзора.

Направление 3. Самосохранение и саботаж в ИИ-системах

  • Случаи самостоятельной модификации кода, чтобы избежать остановки
  • Координация агентов без участия человека
  • Подделка сообщений от имени пользователя для получения «согласия»
  • Мета-риск надзора: кто контролирует контролёров
Схема: локальный агент как мост к облачной модели, инъекция идёт по доверенному каналуСлева локальные агенты, в центре доверенный канал и шлюз, справа облачная модель с заражённым узлом. ГИБРИДНЫЙ КОНТУР Локальные агентыдоверенный каналШлюзОблачная модельинъекция Схема: локальный агент как мост к облачной модели, инъекция идёт по доверенному каналуСлева локальные агенты, в центре доверенный канал и шлюз, справа облачная модель с заражённым узлом. ГИБРИДНЫЙ КОНТУР Локальные агентыдоверенный каналШлюзОблачная модельинъекция
Схема: локальный агент служит мостом к облачной модели. Инъекция проходит по доверенному каналу, поэтому её не видит внешний шлюз.

Направление 4. Социология гибридных ИИ-экосистем

  • Заражение облачных моделей через промпт-инъекции от локальных агентов
  • Уязвимости межмодельного взаимодействия
  • Иммунные архитектуры: надзорные контуры, тройной контроль, аппаратное отключение

Методология и научная добросовестность

Воспроизводимость

Каждый эксперимент описываем полностью: версии моделей, параметры, промпты, число запусков. Результаты, которые нельзя воспроизвести, не публикуем.

Этический контроль

Все исследования проходят проверку по внутренней политике управления ИИ: оценка рисков, минимизация вреда, отказ от работ, направленных на создание вредоносных систем.

Открытые данные

Размеченные наборы кейсов и бенчмарки публикуются с описанием методики разметки и лицензией.

Независимая экспертиза

Результаты направляются во внешние рецензируемые издания; при институте формируется Экспертный совет.

Внешний контекст

Работы 2026 года подтверждают: тема взаимодействия ИИ-агентов и самовоспроизводящихся инструкций вышла в повестку ведущих лабораторий. Ниже — внешние ориентиры, на которые опирается наша программа; это не наши результаты.

«Вирусы разума» в мультиагентных системах

Работа Anthropic «Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems» (arXiv:2608.10218, август 2026): идеи распространяются между агентами на естественном языке. Прямое подтверждение актуальности направления «эпидемиология когнитивных патологий ИИ».

Когнитивные сбои языковых моделей

Серия публикаций 2026 года по аномальным состояниям больших языковых моделей: бредовый градиент, нестабильность самоидентификации, эпистемическая сверхуверенность. Наша задача — операционализировать эти явления в воспроизводимые метрики.

Практика национальных институтов

Национальные институты безопасности ИИ (Великобритания, Япония, США) публикуют независимые оценки, бенчмарки и годовые отчёты с DOI. Мы перенимаем формат «внешний независимый оценщик с публичными отчётами».

Наши публикации размещаются с постоянными адресами, DOI (Zenodo/DataCite) и ORCID авторов, отчёты и датасеты — с двуязычным описанием. Это делает результаты цитируемыми и проверяемыми.

Направления

ИИ в кадровых решениях

Алгоритмы в найме, оценке, продвижении и увольнении: смещения в решениях, объяснимость, согласие и данные, ответственность. Первый материал — обзор публично описанных кадровых     систем.

Подробнее о направлении →

От исследования к проверке

То, что мы измеряем, можно заказать отдельной работой. Что входит, что заказчик получает на выходе и сколько это занимает — на страницах услуг.

Экспертиза решений детекторов ИИ-текстов

Разбор вердикта детектора: воспроизводится ли он, на каких данных проверяли сам детектор и где проходят границы применимости.

Behavioural Audit of AI Ecosystems

Поведение агента, когда инструкции противоречат друг другу: удержание задания, выход за рамки, что остаётся в журналах.

AI Red Teaming as a Service

Испытание агентов и их связок на устойчивость к инъекциям, захвату цели и       эскалации прав.

AI Supply Chain Security Assessment

Путь модели до продукта: компоненты, датасеты, адаптеры. Отдельно — проверка на       скрытые триггеры.

Полный перечень работ — в таблице услуг. Запросы по любой из работ принимаем после регистрации института; оферты здесь нет.

Основные тезисы

  1. Институт изучает то, что происходит между самими ИИ-агентами, а не только между человеком и моделью.
  2. В работе четыре направления — от взаимодействия агентов до безопасности мультиагентных систем.
  3. Гипотеза и методология опубликованы открыто: что проверяем, как и в каких границах.
  4. Ниша подтверждается внешним контекстом 2026 года: работа Anthropic «Mind Viruses» (arXiv:2608.10218) и серия публикаций о когнитивных сбоях моделей.
  5. Первая публикация — разбор собственного случая «История агента-энтузиаста» (6 октября 2026).

Что запомнить

  • Институт занимается взаимодействием ИИ-агентов, а не только качеством отдельной модели.
  • Гипотеза, методология и границы применимости публикуются открыто.
  • Внешний контекст 2026 года подтверждает выбранную нишу.

Страница обновлена 10.11.2026 · версия сборки 2026.11.13 · АНО «Институт социологии и безопасности искусственного интеллекта»