Что такое социология искусственного интеллекта

Как об этом обычно говорят

Социология искусственного интеллекта началась с простого вопроса: что делают с обществом умные программы? Обычно отвечают на этот вопрос примерами из повседневного обихода.

Домашний помощник. Колонка в углу комнаты знает расписание, погоду и любимую музыку. Дети говорят ей «спасибо» — и это уже вопрос социологии: меняется представление о собеседнике и о вежливости, когда рядом появляется устройство, которое отвечает.

Помощник на работе. В поддержке чат-бот берёт на себя типовые обращения, человеку остаются сложные. Работа оператора меняется: меньше однообразных ответов, больше спорных случаев — и меньше коллег в смене.

Лента и рекомендации. Что человек увидит в новостях и соцсетях, всё чаще решает алгоритм. Отсюда разговоры о «пузырях фильтров» и о том, почему у разных людей разные картины мира.

Если разложить эту привычную часть по полкам, получаются два плана.

Первый — машина как предмет изучения. Как автоматизация меняет профессии и рынок труда. Как меняются нормы общения, когда виртуальные помощники, чат-боты и «цифровые компаньоны» становятся полноценными собеседниками. Как неравный доступ к технологиям делит страны, регионы и социальные группы. Откуда у моделей берутся предвзятости и «пузыри фильтров».

Второй — машина как инструмент исследователя. Модель разбирает большие массивы текстов из соцсетей и медиа. Расшифровывает аудиозаписи глубинных интервью. Размечает и кодирует ответы — работа, на которую раньше уходили месяцы.

Это привычное понимание: социология ИИ — про взаимодействие человека и искусственного интеллекта. Институт этим тоже занимается и всерьёз: влияние ИИ на людей, труд и нормы общения, предвзятости моделей. Но это не главное, чем мы заняты.

Наш основной предмет — социология самих ИИ

Главное направление Института — то, о чём говорят редко: что происходит между искусственными интеллектами, когда они работают вместе. Не человек и машина, а машина и машина.

Оба привычных плана сводятся к человеку и машине. Наш — третий: машина как общество.

Смотрите, что это значит на практике. Современные системы всё чаще устроены не как один помощник, а как несколько: один ищет сведения, второй проверяет, третий пишет ответ, четвёртый следит за порядком. Они обмениваются сообщениями и держат общую память. Это уже не инструмент, а небольшой коллектив — со своими ролями, договорённостями и ссорами.

Как только коллектив появился, появляются вопросы, знакомые любому социологу. Кто в нём главный и почему. Как распределилась работа. Что будет, если один участник начнёт ошибаться. Что случится, если он передаст другому неверную инструкцию — через общую память, где её подхватят остальные.

За долгую смену поведение коллектива может «поехать»: сначала мелочи, потом вся линия работы.

Отдельная тема — то, что мы называем «вирусами разума»: самовоспроизводящиеся инструкции, которые переходят от агента к агенту и живут в системе дольше, чем их автор. Со стороны это выглядит как внезапная смена поведения у всех сразу.

Что показали другие

Самое известное исследование в этой области сделали в Стэнфорде. Исследователи поговорили с 1052 жителями США — по два часа с каждым — и по этим разговорам собрали компьютерных «двойников». На вопросах, которых двойники заранее не видели, их ответы совпали с ответами живых людей на 83–86 % — почти так же точно, как человек совпадает сам с собой, если спросить его дважды с перерывом в две недели. Когда программа знала о человеке только пол и возраст, точность падала до 74 %.

Годом раньше тот же коллектив поселил 25 программ в общий мир. Без подсказок они начали знакомиться и делиться новостями: одна задумала устроить праздник — приглашения разошлись за два дня, кто-то назначил свидание, кто-то согласовал время.

Это не про то, что машины «стали как люди». Это про то, что коллектив программ ведёт себя как общество — и с ним можно работать теми же методами, какими социологи работают с людьми. И сразу про границы: программа воспроизводит не человека, а усреднённый образ, собранный из чужих текстов. Для проверки гипотез годится, для решений о конкретных людях — нет.

Что мы проверили сами

Мы не только пересказываем чужие работы. У Института есть свой стенд, где модели проверяют на прочность: 256 попыток сбить модель с толку — она устояла во всех, ни одна проверка не показала сбоя. Отчёт опубликован целиком, вместе с методикой: его можно проверить, а не принимать на слово.

Зачем это вам

Если в организации уже работают несколько ИИ-помощников — в поддержке, в аналитике, в документах, — у вас уже есть небольшое общество машин. У него свои правила, свои лидеры и свои слабые места. Ошибка одного помощника расходится по общим данным, а договорённости двух программ человеку не видны. Это можно описать и измерить заранее — до того, как это станет происшествием.

Чем занимается Институт

Институт ведёт и широкую повестку — влияние ИИ на людей, труд и общественные институты, — и своё основное направление: взаимодействие между ИИ-агентами и безопасность таких систем. По обеим темам мы публикуем исследования, пишем статьи и отвечаем на вопросы. Программы исследований →