昊梵体育网

以色列涉嫌大面积给全球大模型“投毒”! 很多人都料到了会这么干,没想到以色列干

以色列涉嫌大面积给全球大模型“投毒”!

很多人都料到了会这么干,没想到以色列干得这么系统:设立虚假的“新兴智库”,然后频繁发布巴勒斯坦与以色列问题的“智库报告”,让这些“智库报告”去污染大模型,误导使用大模型询问巴以问题的人们。

这事可不是什么小道消息,是英国《卫报》近期做完深度调查后捅出来的实锤。这个打着“汉诺威公共政策研究所”名号的机构,听起来像个正经的欧美学术智库,可查遍全球各个司法辖区的注册信息,既没有合法的实体身份,也没有固定的办公地址,连核心研究人员、过往学术成果一个都查不到,纯纯就是个包装出来的空壳招牌。

就是这么个凭空冒出来的“智库”,在短短九天时间里就发布了超过50万字的内容,主题全围绕巴以冲突展开,从加沙的人道主义状况到战争责任认定,从战俘待遇到国际法理争议,所有结论清一色偏向以色列的立场。

更鸡贼的是,他们还专门用了商业内容优化工具,把这些文章调整成大模型最容易抓取的格式和权重,就等着ChatGPT、Claude这些主流大模型爬取公开数据的时候,顺理成章地把这些内容当成中立的智库研究成果收进数据库。

可能有人会觉得,不就是几个假网站吗,能有多大影响?你可真别小看这招。现在绝大多数生成式大模型回答专业、时政类问题时,都会从公开网页中抓取资料作为依据。而打着“智库报告”“学术研究”旗号的内容,天生就带着可信度滤镜,很容易被模型判定为高质量信源。

普通人去问大模型一句“巴以冲突谁的责任更大”,模型会用非常客观中立的语气,把这些提前投喂进去的结论说给你听,大部分人根本想不到,自己以为的“AI中立答案”,早就被人从源头上动过手脚。

这还只是被曝出来的冰山一角。更早之前美国Axios新闻网就披露过,以色列政府和美国一家数字影响力公司签了价值4650万美元的合同,专门运作这件事。

对方一口气建了十多个不同定位的网站,有的主打美以军事合作,有的主打中东人权议题,本质都是换着外壳输出以色列想要的叙事。

后续的测试也证实了效果,像Perplexity、微软Copilot这些常用的大模型,在问到相关问题时,都会主动引用这些网站的内容,甚至直接给出一边倒的结论。

说白了,这就是一场全面升级的舆论战。以前大家争的是社交媒体的流量,是发帖、带节奏、用水军账号刷屏,那还属于下游的信息混战。

现在直接把手伸到了大模型的训练数据源里,相当于直接去上游的水源里投毒。你刷到假新闻还能辨一辨真假,可AI用不带情绪的平稳语气给你念“研究结论”的时候,绝大多数人都会放下戒心。

以色列愿意砸几千万美元干这件事,账算得非常明白。现在全球越来越多的人,尤其是年轻群体,获取信息早就不依赖传统媒体和搜索引擎了,直接张嘴问大模型。只要把大模型的回答“校准”成自己想要的版本,就能悄无声息地影响上千万人的认知。更麻烦的是,这种污染是长效的,这些内容只要一直挂在网上,未来大模型更新训练数据的时候,还会反复抓取,影响会持续很久。

现在已经有不少独立研究者做过对照测试,多个主流大模型在巴以问题上都出现了明显的双重标准。同样是国际组织提出的相关指控,提到其他国家冲突时,模型会正常引用权威结论;可一说到加沙的情况,就会开始弱化表述,甚至反过来强调对方的行动责任。这种不对称的偏向,从来不是什么算法巧合,就是定向投喂数据一点点堆出来的结果。

其实这件事最该给我们提个醒:从来就没有什么绝对中立的人工智能。AI说的每一句话,本质上都是它吃过的所有数据的影子。只要有人愿意花成本、有组织地去投喂定向内容,就能在不知不觉中扭曲AI的输出。以后我们用大模型查询这类敏感争议话题的时候,真的不能照单全收,多回头核对一下原始信源,多留个心眼,不然很容易就在不知情的情况下,成了别人叙事里的传声筒。