短短不到一年，曾被捧上神坛的“英雄”便沦为众人唾弃的对象。国家应当及时出手规范AI发展，绝不能一味鼓吹和盲目推广。凡事皆有利弊，科技终究是一把双刃剑。

去年还被不少人看作万能工具的AI，最近却频频出现在诈骗、造谣和侵权新闻里。问题并不在于AI突然失去了价值，而在于技术跑得太快，规则、平台和普通人的防范能力没有及时跟上。

这场变化，最先冲击的是安全感。

过去的电信诈骗，骗子要花时间编话术、找身份、做伪装。现在只要拿到一段语音、一张照片，甚至一段公开视频，就可能合成出以假乱真的声音和画面。

受害者面对的，已经不只是陌生号码，而可能是一个看起来像亲人、听起来也像亲人的虚拟来电。

公安机关针对AI换脸、语音合成诈骗开展专项行动，曾一次侦破相关案件79起，抓获犯罪嫌疑人515名。山西忻州一名陈女士，仅因为一段不到10秒的AI换脸视频通话，被骗走2万元。湖北一些地方还有老人接到AI合成的孙子求助电话，养老钱就这样被一步步转走。

为什么这类骗局特别难防？因为人通常相信熟悉的声音和面孔，骗子过去需要伪装成亲人，现在却能直接复制亲人的外在特征。技术把诈骗门槛压低了，受害者识别真假的难度却升高了，这才是关键。

更麻烦的是，AI制造的虚假信息，传播速度比普通骗局更快，影响范围也更大。

有运营者为了吸引流量，利用AI编造30万居民撤离上海的谣言，引发公众恐慌，最终被警方依法拘留。这样的内容未必经得起核实，却能在短时间内挤进大量人的手机屏幕。一个假消息，配上一张像真的图片，再加上一段听起来很专业的解说，就可能被很多人当成事实。

2026年央视3·15晚会还曝光了另一种玩法，有人通过语料投毒，把虚假软文和伪造测评报告批量塞进AI训练和回答环节，让三无产品被包装成推荐商品。消费者以为自己是在听机器分析，实际看到的可能是被人为操控的答案。

中央网信办开展清朗整治AI技术滥用专项行动，第一阶段就处置违规AI产品3500余款，清理违法违规信息96万余条，处置违规账号3700余个。

这个数字说明，问题不是几条恶搞视频那么简单，而是已经形成了从生产、包装到传播的完整链条。

放到国际上看，风险同样明显。多国选举期间，AI生成的虚假政治视频和伪造候选人言论曾引发争议，联合国相关机构也多次提醒，虚假内容可能影响公众判断，甚至干扰社会运行。

欧盟通过人工智能法案，美国、英国等也陆续推出相关政策，说明各国已经意识到，AI不能只靠企业自觉管理。
创作领域的争议也在升温。

不少AI图片和文案被指大量借用原创作品的表达方式，部分大模型还未经授权抓取版权内容用于训练。

2024年全国法院新收各类知识产权案件近53万件，涉AI技术纠纷占比持续上升，北京互联网法院审理的AI文生图著作权案，也成为受到关注的典型案件。

这件事不能简单说成AI没有创作能力。它确实能帮助人快速生成草稿、图片和方案，也能降低一些行业的使用门槛。问题在于，生成速度快，不等于权利边界清楚，更不等于可以绕开原创者的授权。

有些人用AI做翻译、整理资料、辅助设计，效率确实提高了。另一边，原创作者却可能发现，自己多年积累的作品被机器吸收后，变成了别人低成本生成内容的原料。一个行业如果只追求产量，不管来源和授权，最后损害的还是正常创作生态。

所以，真正需要纠正的，不是发展AI这件事，而是把AI捧成无所不能的万能答案。它能提高效率，也能放大骗局。能帮助创作者，也可能挤压创作者。能让信息传播更快，也能让谣言跑得更快。难道只看到前一面，就可以忽略后一面吗？

国家的监管其实已经启动。2023年8月，国家网信办等七部门联合发布的生成式人工智能服务管理暂行办法施行，明确AI服务提供者要承担相应责任，也划出了内容安全红线。后续专项整治和司法裁判规则不断完善，监管正在从单纯处理个案，转向规范平台、模型和使用者的完整链条。

普通人也需要改变一个习惯，看到熟悉的声音和视频，不要马上转账，不要只凭画面认人，更不要因为内容听起来专业，就默认它是真的。涉及借钱、转账、重大消息时，换个号码核实一次，往往比相信一段十秒视频更可靠。

AI不是英雄，也不是敌人，它只是工具，结果取决于谁在使用、怎么使用、有没有边界。技术可以快，但规则不能一直慢。只有把安全责任、版权保护、信息审核和个人防骗一起补上，AI才不会从效率工具变成不法分子的武器。

科技服务人，才是发展的方向。让人被虚假视频骗走积蓄，被机器生成内容挤出行业，显然不能成为技术进步的代价。