最近，一段用“深度伪造”(Deepfake，是指利用深度学习技术生成的合成图片或视频)技术冒充韩国总统尹锡悦的视频在韩国社交媒体(SNS)上传播，该虚假视频中尹总统表示，“我让国民陷入痛苦”、“我专事营私舞弊”。由于此类虚假视频在距离议会选举仅剩40多天之际在网上热传，韩国警方认为情况较为严重，22日要求韩国放送通信审议委员会屏蔽和删除该视频。这是自禁止将人工智能(AI)深度伪造技术用于竞选活动以来首次出现的事例。

据首尔警察厅透露，韩国警方不仅要求韩国放送通信审议委员会删除视频，还受理了与该视频相关的控诉并开始立案调查。根据《韩国信息通信网法》，制作视频的人涉嫌散步虚假事实而损害名誉。韩国警方还在探讨该视频是否违反近期修改的《公职选举法》。

这段题为“良心告白”的尹锡悦总统虚假演讲视频从去年年末开始在TikTok、Meta和Instagram等社交媒体上传播开来。

此前，韩国国会去年12月表决通过《公职选举法》修订案，禁止在选举日前90天内利用AI制作的深度伪造影像(语音、图像等)进行竞选运动。如果违反该规定，将处以7年以下有期徒刑或1000~5000万韩元的罚款。

据韩国中央选举管理委员会透露，1月29日至2月16日，利用深度伪造技术进行竞选运动等涉嫌违反《公职选举法》的帖子达129条。

译 | 刘铭 校 | 司空宽淑 责编 | 刘尚哲 查看其它新闻