【韩国拟将“AI虚拟人物淫秽影像”纳入处罚范围，法律边界引争议】海外新鲜事热点现场

随着深度伪造犯罪的急剧增加，韩国法院也正在积累关于人工智能（AI）合成性图片及视频的判例。在此背景下，近期韩国国会正在讨论一项方案，拟将针对非真实存在的虚拟人物制作的性影像物也纳入《性暴力处罚法》的处罚范围。

法院正在探索对AI制作性合成物的行为进行处罚时应适用何种指控的标准线，但有意见指出，若在未经充分讨论的情况下由国会扩大处罚对象，可能会引发混乱。

AI制作的合成物造成的危害相当严重。今年上半年，韩国放送通信审议委员会要求互联网平台运营商删除或切断访问的深度伪造性犯罪影像共计15,179件，占全部数字性犯罪信息的44.8%。其中大部分是将知名偶像等韩国艺人脸部与淫秽影像合成的作品，也存在针对普通人的合成物。

关于制作并传播AI性影像物的处罚法律主要有三部：《儿童·青少年性保护相关法律》（青少年性保护法）、《性暴力犯罪处罚等相关特例法》（性暴力处罚法）以及《信息通信网利用促进及信息保护等相关法律》（信息通信网法）。

违反当事人意愿传播性影像物，或传播针对真实存在人物的AI深度伪造性犯罪影像，将适用《性暴力处罚法》。若受害者或对象为未满19岁的儿童·青少年，则适用《青少年性保护法》加重处罚。单纯传播淫秽物则适用《信息通信网法》。

对于在何种情况下适用这三项法律进行处罚，法院的判断存在分歧。

A某从Instagram上收集初中后辈受害者B某的面部照片，将其与其他女性的裸体或性关系照片合成，制作了非法合成物。此行为被适用了违反《青少年性保护法》的嫌疑，而针对初中同学的另一起犯罪则被适用了违反《性暴力处罚法》的嫌疑。

一审判决A某有期徒刑3年，缓刑5年。二审则将刑量减至有期徒刑2年6个月，缓刑3年。与一审不同，二审未认定违反《青少年性保护法》的嫌疑有罪。

二审法官认为，虽然受害者女性是儿童·青少年，但用于合成、身份不明的女性身体，从其发育状态来看，很难视为儿童·青少年。取而代之，法官适用了检察官作为预备性公诉事实记载的《性暴力处罚法》嫌疑，认定有罪。

大法院于去年8月认定原审并未误解《青少年性保护法》的法理，并维持了原判。

AI合成物中的受害者是否为真实存在的人物，也是区分有罪无罪的标准之一。《性暴力处罚法》规定，若以人的面部、身体或声音为对象，违反对象意愿，将其编辑、合成或加工成引起性欲或羞耻心的形态，将处以7年以下有期徒刑或5000万韩元以下罚金。若非现实世界中存在的人，则无法表明反对意见，因此无法处罚。

议政府地方法院高阳分院于去年7月，对因在Telegram频道发送合成女性面部与裸体的照片、被以违反《性暴力处罚法》（散布虚假影像物等）嫌疑起诉的男性C某，判处了无罪。

法官认为，《性暴力处罚法》上的散布虚假影像物罪要成立，照片的对象必须是能够反对合成的实际存在的人。在本案中，由于没有资料可以确认照片的原件、出处及合成方法，因此认为犯罪事实未被证明。

**“虚拟人物淫秽物”处罚法案，发起10个月后开始审议**

在此情况下，共同民主党议员许英于去年9月代表发起了《性暴力处罚法》修正案。该修正案于上月27日提交至国会法制司法委员会，开始接受审议。

修正案将“利用AI制作、虽为虚拟人物但可被认知为实际人物的表现物”也纳入了处罚对象。制作或传播此类影像物将处以7年以下有期徒刑或5000万韩元以下罚金，持有、储存或观看此类图片·影像物也将处以3年以下有期徒刑或3000万韩元以下罚金。

许议员在提案理由中表示：“AI技术被恶意利用，引发性羞耻心或厌恶感的虚假影像物正在被肆意制作和传播”，“新设条款，无论是否为真实存在的人物，均对AI生成的性影像物本身进行处罚，以弥补立法上的不足。” 若该法案通过国会，C某将成为处罚对象。

然而，对于能否将出现虚拟人物的图片·影像物与真实人物受害的情况等同视之，存在批评意见。韩国女性律师协会公关理事文惠贞表示：“可以处罚深度伪造合成物，是因为它违背了实际受害者的意愿制作了影像”，“若要将甚至没有受害者的虚拟人物也纳入处罚范围，则需要对处罚对象和范围进行更多讨论。”

与实际存在的人物受害时处罚力度相同这一点也被指出是问题。法务法人崇仁律师金英美表示：“以保护性道德为由，不仅将利用虚拟人物制作AI图片·影像，甚至将持有和观看也定为刑事处罚，这可能过度限制个人自由。”

大法院下属法院行政处对该法案表示：“散布淫秽图片·影像可能违反《信息通信网法》。无论是否为真实存在的人物，都可能成为处罚对象”，“可以考虑将加强《信息通信网法》刑量作为替代方案进行探讨。”