3.2 信任的侵蚀

网络的维持依赖于信任——对专业知识、公共机构、社会规范的信任。

AI的接入可能在多个方向上侵蚀信任：

当AI生成深度伪造（deepfake）时，对视觉证据的信任被摧毁

当AI聊天机器人冒充人类时，对对话伙伴的信任被侵蚀

当AI推荐系统被操纵时，对信息平台的信任被破坏

当AI辅助决策出错时，对专业系统的信任被动摇

信任的侵蚀之所以危险，是因为：信任一旦被摧毁，恢复的代价极其高昂。 而且，信任的丧失会级联扩散：对AI的不信任会蔓延到对使用AI的机构的不信任，进一步蔓延到对整个社会网络的不信任。