什么是人工智能社会学

文章要点

人工智能社会学始于一个简单的问题：智能程序对社会做了什么。通常用日常生活中的例子来回答： 家里的音箱知道日程；支持部门的对话程序接手典型的问题，其他的留给人——重复的回答少了， 有争议的情形多了，一起工作的人少了；人在新闻里看到什么，越来越由算法决定。 这是通常的理解——人工智能社会学讲人与机器的互动。研究所也认真做这件事： 人工智能对人、工作和交往规则的影响，以及模型的偏见。

而我们的主要对象是另一件事：人工智能之间在一起工作时发生了什么。不是人与机器，而是机器与机器。 通常把人工智能社会学分成两个层面：机器作为研究对象，机器作为研究者的工具。我们是第三个：机器作为社会。

现代系统越来越不像一个助手，而像多个：一个查找资料，第二个核对，第三个写回答，第四个负责监督。 它们交换消息并共享记忆。这已经不是一个工具，而是一个小集体；集体一出现，社会学长期研究的问题就来了： 谁在主导、工作如何分工、其中一个开始出错会怎样、错误的指令通过共享记忆传给其他人会怎样。 另一个题目是「心智病毒」：自我复制的指令从一个智能体传到另一个，在系统里活得比作者更久。

这个方向最有名的研究在美国完成：研究者与 1052 位受访者各谈了两小时，用这些谈话做出计算机里的数字替身。 在替身事先没有见过的问题上，它们的回答与真人一致的比例为 83–86 %；如果程序只知道性别等少量信息， 准确率降到 74 %。一年前，同一个团队把 25 个程序放进同一个环境：没有提示，它们开始相互认识、分享消息。 这不是说机器「变得像人」，而是说程序组成的集体会像社会一样运行。同时要知道界限：程序复现的不是人， 而是从他人文本里拼出的平均形象，不能用来对具体的人作决定。

研究所自己的测试台上，256 次尝试全部守住，报告已经公布。研究所既做人工智能对人、工作和社会制度 的影响这类议题，也做自己的主要方向：智能体之间的互动与这类系统的安全。两项都有公开的研究： 我们发表论文、写文章并回答问题。

如果组织里已经有多个人工智能助手——在支持、分析、文档中——它们已经组成一个小的机器社会： 有自己的规则、自己的领导者和自己的短处。一个助手的错误会通过共享数据传开， 而两个程序之间的约定人看不见。这些可以事先描述和测量——在它变成事件之前。