人工智能制作的伪造景福宫洪水视频引发震惊，并引发对信息操纵的担忧。
人工智能视频生成技术的爆炸式发展给韩国的虚假新闻带来了巨大挑战，一段模拟景福宫被洪水淹没的视频在网上疯传。
景福宫洪水人工智能视频震惊公众舆论
一段利用人工智能（AI）模拟首尔景福宫被水淹没场景的视频在韩国网络社区引起了轰动。
这段由YouTube频道“Golpadak”发布的视频开头，一位身穿黄色雨衣的男子站在宫殿前说道：“雨下得好大……景福宫完全被淹了。” 随后画面展现了人们用桶舀水，甚至还有一只海豹在宫殿里滑行的场景。
尽管视频细节荒谬，但由于它与首尔遭遇破纪录降雨的时间相吻合，因此仍然让许多人相信它是真实的。
该视频后来被证实是由谷歌的Veo 3制作的，该技术能够呈现逼真的图像和真实的对话。许多人对此表示愤慨，认为制作者应该因故意散布虚假信息而受到惩罚。
深度伪造技术引发的担忧以及信息控制面临的挑战
景福宫洪水虚假视频事件并非个例。数十个类似的洪水虚假视频已出现在YouTube上，引发媒体和专家的强烈反响。他们警告说，公众越来越容易被人工智能生成的内容所蒙蔽，即使视频中的细节有些荒谬。
此前，另一段模拟熔岩流经首尔市中心的虚假视频也曾引发网友困惑。该视频的制作者，YouTube 用户“Ddalgak”，表示其目的是讽刺网民在面对网络内容时的轻信。他还承认使用 Veo 3 制作了这段视频，其灵感来源于一起涉及埃隆·马斯克深度伪造的骗局。
韩国加强管控：人工智能法案及其漏洞
为了应对日益猖獗的深度伪造技术，韩国颁布了《人工智能基本法》，该法将于2026年1月生效。该法要求所有人工智能视频都必须添加水印，以便观众轻松识别。然而，专家担心水印很容易被移除或修改，从而降低该措施的威慑作用。
韩国大学人工智能研究所专家崔炳浩先生评论道：“如果人工智能公司开发出能够帮助识别虚假内容的技术，将降低社会成本，并且比行政措施更有效。”
深度伪造：从娱乐到欺诈和政治操纵
深度伪造技术不再仅仅用于娱乐或讽刺，而是正在成为严重非法活动的工具。它们被用于未经许可制作冒犯性内容、进行金融诈骗，甚至进行政治操纵。
在去年的国会选举中，韩国国家选举机构检测并处理了超过120张伪造的人工智能图像和视频。这促使韩国政府明确规定，在竞选内容中使用人工智能必须进行公开披露，以确保选举的透明度和公平性。
深度伪造技术的快速发展需要更有效的控制和识别措施，以保护人们免受虚假信息和潜在诈骗的侵害。