美国佛罗里达州居民埃里卡·安德森正在家中上班，手机屏幕突然弹出一则视频通话请求，显示的来电号码是她17岁女儿的手机。

接通后，屏幕里的“女儿”穿着平日校服，声音也一模一样，对她说：“妈妈，开门，我不舒服。”

安德森心生疑虑，调出门外的监控摄像头，发现门前空无一人。她随即致电学校，工作人员回复称，她的女儿正在考场内答题，手机被锁在储物柜里。

调查显示，这通电话是AI伪造的。一名青少年用AI软件搞恶作剧：该软件能为通话实时生成假画面与假音频，人脸和声音均可被替换成任意指定人物。

事后，安德森表示：“我听说过AI电话骗局，但从没想到还有视频通话。这其实很可怕。直到这件事发生，我才意识到自己需要担心的事情多了很多。”

涉事青少年的家长已向安德森道歉，安德森未提起诉讼。但她事后采取了一系列防范措施：与女儿约定只有家人知道的密码词，更换门禁报警系统，调整现有摄像头角度，并新增了两台安全摄像头。

网络安全公司迈克菲的研究显示，AI语音克隆系统仅需约3秒的音频样本，即可生成相似度达85%的声音复制品。目标人物发布在社交媒体上的短视频，足以成为AI克隆的素材。