随着对人工智能(AI)潜在威胁的担忧日益加剧，全球各国都在加紧共同应对的步伐。原本埋头寻找本国对策的各国领导人齐聚一堂，开始探讨全球层面的共同应对方案。由此，一直以来强调民营企业“自律”的韩国AI政策也将发生变化。
由英国政府举办，七国集团(G7•美国、日本、德国、英国、法国、加拿大、意大利)高层领导人参与的“人工智能安全峰会”(AI Safety Summit 2023)1日(当地时间)在英国布莱奇利园举行，为期两天。此次峰会是围绕AI这一单个主题举行的首届高级别会议，各国领导人将就如何安全开发AI、如何防止恶意利用AI等话题展开热烈讨论。
联合国秘书长古特雷斯等国际机构相关人士、特斯拉首席执行官(CEO)埃隆·马斯克、微软(MS)副董事长兼总裁布拉德·史密斯、Chat GPT开发公司Open AI创始人萨姆·奥尔特曼、谷歌DeepMind联合创始人兼首席执行官德米斯·哈萨比斯等全球性AI公司的企业家也将出席此次会议。韩国科学信息技术通信部长官李宗昊、三星电子设备体验(DX)部门首席技术官(CTO)兼三星研究所所长田敬薰、NAVER Cloud AI创新中心负责人河正宇(音)等人也将出席会议。
11个月前推出的Chat GPT在全球掀起一股AI热潮后，各国对是否应该对AI技术和服务加强管制的立场不一致。与今年6月率先通过《AI法案》(AI Act)并开始限制新技术的欧盟(EU)不同，包括美国在内的韩国、日本等亚洲国家采取了更有利于AI企业发展的措施。简单来说，这些国家比起限制更注重了AI技术的开发和振兴。但有人担心AI会被恶意利用于武器开发、网络攻击等领域，也有人指出，AI制造的假新闻会动摇民主主义的根基。因此，各国对AI滥用的应对措施变得更加积极主动。
上月30日，美国总统拜登签署了行政命令，以加强政府对AI技术从开发到服务的全程监管。拜登总统当天表示，“深度伪造技术(Deepfake)的滥用会损害个人名誉，也会被用于散布假新闻、实施诈骗”，“为了在让AI技术发挥潜力的同时避免其风险，我们必须管制好这一技术”。该行政命令中还包括禁止将AI用于核武器、生化武器等大规模杀伤性武器(WMD)的内容。在中美霸权竞争日益加剧的情况下，为防止AI对国家安全造成威胁，亟需构建AI相关安全机制。
同一天，G7成员国就《开发先进人工智能系统组织的国际行为准则》达成协议。在由11个项目组成的行为准则中，还包括必须在整个AI生命周期中识别和评估风险以及必须扩大投资加强AI安全控制的内容。该准则虽无法律约束力，但有望成为各国制定AI管制法的标准。欧盟价值观和透明度专员维拉·朱罗娃上月在日本京都举行的互联网治理论坛上表示，“行为准则是确保安全的强大基础”，“将为制定AI监管政策起到桥梁作用”。
韩国政府AI政策的基本方向是？
韩国为加强AI领域的国家竞争力，一向支持民间企业的“自律准则”。韩国科学技术信息通信部还与NAVER、LG AI研究院、SK电信、KT、Kakao等开发大型语言模型(LLM)的主要信息技术(IT)公司联手举办高层战略对话，共同讨论相关政策和投资合作方案。但也有评价称，最近跟着国际社会对AI加强限制的趋势，韩国的相关制度也开始逐渐转向限制AI 发展的方向。最近，韩国政府公布“AI道德信任保障计划”，称政府将直接验证民间AI模型的可信度，并推出著作权有关管制方案。
①AI可信度评价：韩国科学技术信息通信部决定于本月前构建可评价AI模型可信度的基准数据(Benchmark Data)，以便用于直接验证民间AI模型。也就是说，韩国政府将就AI是否生成偏向性、歧视性内容、是否存在将错误内容当作事实回答的‘幻觉(Hallucination)’现象、是否侵害著作权等问题制定标准，并以此判别各企业生成AI模型的可信度。
②水印制度：韩国政府还在探讨引入对AI生成内容添加标识(水印)的制度。据韩国科学技术信息通信部透露，NAVER等正在开发或已推出生成AI服务(以LLM为基础)的主要企业同意对本公司服务分阶段引进水印制度。李宗昊部长表示，“AI是数字化时代的核心技术，为保障AI模型的可信度和安全性而付出努力比什么都重要”，“我们将致力于打造AI伦理体系和生态系统的基础并制定合理合情的监管制度”。
