现在我们可以回到本笔记的核心命题。AI——尤其是当代的大语言模型——在行动者网络中的位置是什么?
从ANT的视角看,AI显然是一个非人类行动者。它参与知识生产网络的方式与实验仪器有相似之处:它处理输入、产生输出、改变网络的动态。但AI与实验仪器有一个关键区别:AI的输出具有类语言性。一台质谱仪输出的是一组数据,需要人类科学家解读;而AI输出的是一段连贯的文本,看起来已经是“知识”了。这种类语言性造成了一种深刻的认识论错觉:AI似乎在“表达知识”,而不仅仅是在“处理数据”。
但ANT的框架帮助我们看清这个错觉。AI的输出之所以看起来像知识,是因为它被训练于人类知识网络的历史痕迹之上。大语言模型的训练数据是数十亿页的文本——这些文本本身就是人类行动者网络长期构建、协商、争论的产物。AI的输出是对这些网络痕迹的统计性重组。它没有接触过实验室里的默会知识,没有经历过同行评议的压力,没有承担过错误判断的后果。它是网络中一个极其强大的转译者,但它不发起网络,不维护网络,也不为网络的结果承担责任