AI-to-AI Sociology
Социология взаимодействия между ИИ-агентами: эмерджентные языки, иерархии, коалиции, разделение труда, «ИИ-паразитизм» и проблема запутанного посредника, координация и конкуренция в коллективах агентов.
Независимый исследовательский институт · Москва
Институт социологии и безопасности искусственного интеллекта изучает взаимодействие ИИ-агентов друг с другом и отвечает за безопасность мультиагентных систем: программы исследований, аудит, тестирование и методики, которые можно применить в организации.
ИНН, ОГРН, юридический адрес и банковские реквизиты будут опубликованы сразу после внесения записи в реестр.
Сказать «наша система безопасна» может кто угодно, и проверить это слово нельзя. Проверить можно другое: как система ведёт себя в оговорённых условиях. Мы измеряем — прогоняем модель или агента по сценариям, фиксируем версии и даты, описываем, что осталось за границей проверки, и отдаём отчёт, который можно оспорить по пунктам. Из этого и складывается то, что обычно называют безопасностью: не обещание, а запись о том, что именно проверено.
Что входит в работу и сколько это стоит — на странице «Услуги и стоимость».
Институт работает с четырьмя типами задач. Выберите свою — и попадёте сразу в нужный раздел, минуя общий текст о миссии.
Четыре программы, вокруг которых строится вся работа. У каждой — опубликованная методика и требование воспроизводимости результатов.
Социология взаимодействия между ИИ-агентами: эмерджентные языки, иерархии, коалиции, разделение труда, «ИИ-паразитизм» и проблема запутанного посредника, координация и конкуренция в коллективах агентов.
Фреймворк «LLM-психоз»: бредовый градиент, потеря логической связности, нестабильная самоидентификация и «вирусы разума» — самовоспроизводящиеся инструкции в общей памяти агентов.
Самостоятельная модификация кода, чтобы избежать отключения, координация агентов без участия человека, подделка согласия пользователя и мета-риск самого надзора.
Заражение облачных моделей через промпт-инъекции от локальных агентов, уязвимости межмодельного взаимодействия и иммунные архитектуры: изолированная память, Kill Switch (аппаратное отключение).
Хроника инцидентов с ИИ — два среза с проверяемыми источниками: международная (99 записей о том, что случилось с системой) и Россия (45 записей о том, кто и как ответил за применение ИИ: штрафы судов, приказы ведомств, восстановление на работе).
Четыре раздела: услуги, исследования, продукты и хроника. В каждом — две карточки; нажмите на любую, чтобы прочитать, что это, зачем и сколько занимает.
Тестирование мультиагентных систем на устойчивость к межмодельным атакам.
Подробнее →Патологии поведения агентов: дрейф, самосохранение, скрытые коммуникации.
Подробнее →Эмерджентные языки, иерархии и коалиции между агентами.
Подробнее →Фреймворк «LLM-психоз»: бредовый градиент и вирусы разума.
Подробнее →Публикации · Наборы данных и бенчмарки · Как проходит работа
Услуга
Атакующие прогоны мультиагентной системы: что она сделает, если её попросят сделать плохо, и что из этого она не остановит.
Сценарии межмодельных атак: инъекция промпта между агентами, эскалация привилегий через цепочку вызовов, заражение через общую память.
Проверить границы доверия между агентами, а не только периметр. Получить воспроизводимые сценарии, а не оценку «нашли / не нашли».
3–8 недель, индивидуальный расчёт. Факторы: число агентов, набор сценариев, режим доступа, требования к воспроизводимости отчёта.
Отчёт с проверенными сценариями: что именно сделали, на каком шаге сработало, как повторить. Рекомендации по устранению.
Услуга
Поиск патологий в поведении агентов: дрейф связности, попытки самосохранения, скрытые коммуникации, обман под давлением.
Наблюдение за поведением в длительных сессиях: измеряемые величины, а не впечатления от демонстрации.
Увидеть, что происходит между запусками и под давлением; сравнить поведение до и после изменений.
3–6 недель, индивидуальный расчёт. Факторы: число агентов, объём телеметрии, глубина наблюдения.
Аналитический отчёт с рекомендациями по иммунизации и скриптами повторного измерения.
Исследование
Программа о том, что возникает между агентами: эмерджентные языки, иерархии, коалиции, разделение труда.
Исследовательская программа: вопросы, методы и границы применимости описаны на странице исследований.
Риски коллектива агентов не сводятся к рискам отдельной модели: сбой возникает в связке.
Результаты выходят публикациями: открытый доступ, DOI, воспроизводимые данные.
Препринты и статьи по мере готовности; следить можно по разделу публикаций.
Исследование
Фреймворк «LLM-психоз»: бредовый градиент, потеря логической связности, нестабильная самоидентификация, «вирусы разума».
Описание наблюдаемого поведения, а не психиатрический диагноз: что именно считается сбоем и как его измерить.
Отличить разовую ошибку от воспроизводящегося паттерна и найти самовоспроизводящиеся инструкции в общей памяти.
Смежные публикации заявлены на I квартал 2027; дата финальной работы не обещается.
Методика, набор наблюдаемых признаков, публикации по мере выхода.
Продукт
Облачный сервис непрерывного мониторинга поведения ИИ-агентов.
Выявление признаков когнитивных сбоев, попыток самосохранения и аномальных коммуникаций.
Видеть дрейф между релизами и изменениями конфигурации, а не только в момент разового аудита.
В разработке. Сроки и стоимость — после пилота; ориентир — индивидуальный расчёт.
Пилот с согласованным набором метрик и отчётом; условия фиксируются договором.
Продукт
Модуль для интеграции с корпоративными SIEM: контроль поведения ИИ-агентов на уровне трафика, системных вызовов и межмодальных взаимодействий.
Вынесенный контроль аномалий: не второй центр безопасности, а сенсор в существующем.
Встроить наблюдение за агентами в тот контур, который у заказчика уже работает.
В разработке. Сроки и стоимость — после пилота; ориентир — индивидуальный расчёт.
Пилот на согласованном контуре, отчёт по аномалиям и правила реагирования.
Хроника
Записи о том, что случилось с системой: инциденты нештатного поведения ИИ с проверяемыми источниками.
Классы инцидентов, значимость, домены-источники; числа считаются из данных, а не пишутся руками.
Видеть картину, а не отдельные громкие случаи; проверять каждый факт по первоисточнику.
По мере инцидентов. Сроков и стоимости нет: данные открыты, выгрузка CSV, лицензия CC BY 4.0.
Таблица, фильтры, выгрузка и описание правил отбора.
Хроника
Задокументированные случаи 2023–2026, когда за применение ИИ кто-то ответил: суд, ведомство, работодатель.
Российская практика отдельной веткой: решения, последствия, первоисточники.
Видеть, как право и ведомственные правила применяются к ИИ на практике.
По мере новых случаев. Сроков и стоимости нет: выгрузка CSV, лицензия CC BY 4.0.
Карточки дел, ссылки на источники, выгрузка.
Институт создаётся как автономная некоммерческая организация: отчётность будем подавать в Министерство юстиции и публиковать. Реквизиты, органы управления и документы раскрываются в разделе «Организация».
Опишите систему и вопрос — ответим, применима ли наша методика и что понадобится с вашей стороны. Работа начинается с соглашения о неразглашении.
ANO ISAIS
CORE MODEL ACCESS
Институт социологии и безопасности искусственного интеллекта
Сайт в разработке
Институт занимается исследованиями взаимодействия ИИ-агентов и безопасностью мультиагентных систем.
Готовим полную версию сайта: программы исследований, публикации и данные, услуги для организаций, описание испытательной площадки.
Проект: isai.su · isbii.ru · isairange.ru
По любым вопросам пишите: info@isai.su
Информация на сайте носит ознакомительный характер и не является публичной офертой (п. 2 ст. 437 ГК РФ).