以深度伪造(Deep fake，又称“AI换脸术”)技术合成的美国流行歌星泰勒·斯威夫特脸部的淫秽照片上周末被大量传播。深度伪造技术是以人工智能(AI)技术为基础制作的合成图像、音频、视频内容。社交媒体X(原推特)直到17个小时后才删除深度伪造技术照片，阻止了搜索，而相关淫秽内容的点击率已超过4700万次。不久前，在选拔美国民主党总统候选人的新罕布什尔州预备竞选之前，党员们同时接到了拜登总统语音鼓动大家拒绝投票的假电话，引发了骚乱。随着生成型AI技术的大众化，任何人都可以轻松、快速地制作深度伪造技术。为应对即将到来的“深度伪造技术泛滥”，有必要对该技术的使用进行适当限制。
去年12月，韩国国会通过了公职选举法修订案，从选举前90天开始禁止利用深度伪造技术进行选举运动。对深度伪造技术制作的淫秽物的处罚依据在《性暴力处罚法》中也可寻见。然而，只需几分钟就能制作出以假乱真内容的生成型AI时代，这些处罚依据真的充分吗？恶意利用深度伪造技术的淫秽物或选举物通过社交媒体的扩散迅速传播，而之后无论是平台采取删除账号的措施或采取法律措施应对，时间上都会略显滞后。实际上，在去年的土耳其和斯洛伐克选举中，深度伪造技术还战胜了事实。
幸运的是，为了过滤深度伪造技术，科技业界也在推动技术的更新升级。用AI抓出AI深度伪造技术的识别技术来自英特尔等公司，谷歌、微软等科技大厂在用生成AI制作的深度伪造技术上打上水印，提前阻止被滥用的可能性。希望运营社交媒体的平台企业利用这些技术更积极地解决问题。X在此次事件发生后才急急忙忙宣布成立性剥削物管制小组。2022年10月收购推特的马斯克高举“言论自由”的大旗解雇了大量内容监管人员，结果却出现此类情况，这也应该成为韩国平台企业的前车之鉴。
不过，也需要防止就此把AI看作洪水猛兽的过度应对。为了掌握AI的主导权，国家之间正在激烈展开竞争，不必将深度伪造技术本身看做罪恶的根源。JTBC电视剧《欢迎回到三达里》之所以能实现让已故的国民MC宋海回到人们的视线中，靠的也是深度伪造技术。深度伪造技术在广播、娱乐、游戏等产业中被广泛应用，与增强现实(AR)、虚拟现实(VR)相结合的协同效应可能会增大。因此，虽然技术被恶意利用的副作用很严重，但最重要的是要朝着提高效率的方向进行引导和管理。
