不到一年，被捧上神坛的“英雄”成了“人人喊打的过街老鼠”。AI行业乱象不断，国家应当出台相应规范加以监管，不能一味推崇推广。任何技术都存在两面性，科技本身就是一把双刃剑。

这股风刮得实在太快了。去年这时候，谁要是嘴里不蹦出几个AI术语，都不好意思跟人聊天。资本疯狂涌入，媒体铺天盖地渲染“第四次工业革命”，好像明天所有人都不用干活了，躺着等AI喂饭就行。可热闹劲儿还没散，底裤就被人扒下来了。

国家网信办刚公布了一组数字，看得人后背发凉——“清朗·整治AI应用乱象”专项行动启动才几个月，累计处置违规AI产品1.4万余款，清理违法信息600多万条，光账号就干掉了2.6万多个。这还只是第一阶段的战果。1.4万款是什么概念？你手机里装的所有App加起来，恐怕都不到这个零头。这么多披着“人工智能”外衣的玩意儿，就这么大摇大摆地闯进了我们的生活。

更吓人的是那些藏在暗处的勾当。湖北襄阳一伙人，从网上搜集政府、企业人员信息，用AI换脸技术合成不雅照片寄出去敲诈。警方一查，还没寄出的信就有1800多封，得手60万。这帮人自己也承认照片全是假的，赌的就是你不敢声张。你想想，哪天你打开信箱，看见自己跟一个陌生人的“艳照”，明知道是假的，可你敢赌别人也相信是假的吗？上海更绝，一个男的用AI合成女声，在网上跟人谈起了“恋爱”，骗走5万多块。法官一查手机，DeepSeek的使用记录明明白白摆在那儿。技术是好技术，架不住人心坏了。

版权官司也打成了一锅粥。上海首例AI大模型著作权侵权案，有人拿《斗破苍穹》里美杜莎的形象去训练AI模型，生成相似图片。二审判下来，平台赔了200万。可问题是，这样的案子2025年全国法院审结了近千件，比前一年涨了四分之一。一个案子赔200万，一千个案子就是20亿。钱还是小事，关键是法律追不上技术的速度。

技术层面的隐患更让人心里没底。中央网信办网络安全协调局的副局长公开讲过，AI算法本身运行逻辑复杂、可解释性差，稍微一点输入扰动就能得出完全错误的结论。说得直白点，你喂给AI的东西稍微动动手脚，它就能给你吐出一堆垃圾来。有研究团队发现，只需要250份恶意文档，就能给一个大模型植入后门。250份，对于动辄上亿条训练数据的大模型来说，连个水花都算不上，可偏偏就能让它“中毒”。前段时间网上传得沸沸扬扬的“小米M7事故”谣言，就是AI被投毒后胡言乱语的典型案例。

联合国那边早就拉过警报了——算力、大模型、智能体这些核心资源，高度集中在少数巨头手里。技术红利分不均匀、算法自带偏见、数字权力被垄断。这不就是新时代的“大户人家吃肉，小户人家连汤都喝不上”吗？

好在这半年国家确实在动真格的了。今年4月，五部门联合发布了《人工智能拟人化互动服务管理暂行办法》。工信部等十部门也印发了伦理审查办法。网信办的“清朗”行动更是直接拉开了架势，从大模型备案到数据投毒到内容标识，14类突出问题一个都不放过。华为在应用商店里加了AI备案专项审核，阿里搞了数字指纹比对，智谱弄了多模态审核模型。平台自己也开始动起来了。

可话说回来，光靠几个专项行动、几部暂行办法，够吗？不够。AI这东西跑得比兔子还快，法规制定得像乌龟爬，等条文出来，技术早就迭代好几轮了。更麻烦的是，AI正在从“回答问题”变成“执行任务”。以前它顶多给你出个馊主意，现在它能自己动手干了。智能体一旦被坏人控制，就能变成网络攻击的“跳板”、偷东西的“木马”。从“得力助手”到“卧底帮凶”，也就一念之间。

有人可能会说，那干脆别搞了，把AI封了不就完了？荒唐。因噎废食是最蠢的做法。关键是得给这匹野马套上笼头，让它跑，但不能让它撒野。欧盟的AI法案折腾了好几年，美国那边行政令一个接一个。大家都在摸着石头过河，谁先趟出一条路来，谁就占了先机。

说到底，技术从来都是中性的，真正需要被约束的是使用技术的人。可人性这东西，你不能指望它自觉。所以监管必须跟上，而且得快，得狠，得让那些动了歪心思的人知道——别以为换个马甲我就不认识你了。

信息来源： 参考中央网信办2026年7月6日发布的“清朗·整治AI应用乱象”专项行动第一阶段工作通报。