据媒体5月4日报道，一名高校女生只是正常在社交平台发了几张生活照，一夜之间，照片就被陌生男人用AI强行篡改成低俗不雅图，全网到处乱传。清清白白的女学生，平白无故被人造黄造谣，名声受损、心理崩溃。

这种事儿不是头一回发生了。记者暗访发现，光是AI制黄群组就有7个，群成员加起来超过6000人，其中人数最多的一个群达到了3400多人，而且一个月就新增了200多个入群的新人。

这些群组里啥都卖。定制一张带指定人脸的黄色照片只要5块钱，AI脱衣工具的“破甲指令”9块9就能买到，还有一些专门绕开平台审核的工具包，卖到288元。

2023年有一份报告说过，全网传播的深度伪造视频里头，超过95%都是色情内容，里面被换脸的角色99%都是女性。到今天这个比例只高不低。

抖音平台2026年以来已经下架了超过53.8万条AI侵权的视频，封掉了4000多个违规账号。但问题是群是封不完的，今天封一个明天又冒出来两个。

张家港有个男的王某甲，用AI把人脸换到黄色图片上到处发，2025年底被判了一年三个月有期徒刑。广西还有个郭某，拍陌生女的背影用AI生成了假裸照发到工作群里，被行政处罚了。

咱普通人在社交平台上发照片真得留个心眼。那些看起来有趣好玩的AI工具，落到坏人手里就成了伤人的武器。平台也得加快脚步，不能让受害者自己去追着坏人道歉要赔偿，这本身就不公平。

我说句实在话，这些搞AI造黄的男的，花几块钱买个破甲指令就敢随便欺负素不相识的女生，你让他们试一试把自己亲妈亲姐妹的照片放进去试试，看他们还敢不敢。说白了就是法律追责太松了，警察最多警告两句调解一下，违法成本低得离谱。结果呢，一个清清白白的大学生被恶心到心理崩溃，还得自己打工攒钱去找对方打官司，坏人道个歉赔几百块钱就没事了。这叫什么公平？得让那些人知道，动别人脸就得坐牢，一个月涨200多新人的制黄群就该整锅端掉，不能让好人自己扛下所有。