人工智能制作的伪造景福宫洪水视频引发震惊，并引发对信息操纵的担忧。

景福宫洪水人工智能视频震惊公众舆论

一段利用人工智能（AI）模拟首尔景福宫被水淹没场景的视频在韩国网络社区引起了轰动。

这段由YouTube频道“Golpadak”发布的视频开头，一位身穿黄色雨衣的男子站在宫殿前说道：“雨下得好大……景福宫完全被淹了。” 随后画面展现了人们用桶舀水，甚至还有一只海豹在宫殿里滑行的场景。

尽管视频细节荒谬，但由于它与首尔遭遇破纪录降雨的时间相吻合，因此仍然让许多人相信它是真实的。

该视频后来被证实是由谷歌的Veo 3制作的，该技术能够呈现逼真的图像和真实的对话。许多人对此表示愤慨，认为制作者应该因故意散布虚假信息而受到惩罚。

深度伪造技术引发的担忧以及信息控制面临的挑战

景福宫洪水虚假视频事件并非个例。数十个类似的洪水虚假视频已出现在YouTube上，引发媒体和专家的强烈反响。他们警告说，公众越来越容易被人工智能生成的内容所蒙蔽，即使视频中的细节有些荒谬。

此前，另一段模拟熔岩流经首尔市中心的虚假视频也曾引发网友困惑。该视频的制作者，YouTube 用户“Ddalgak”，表示其目的是讽刺网民在面对网络内容时的轻信。他还承认使用 Veo 3 制作了这段视频，其灵感来源于一起涉及埃隆·马斯克深度伪造的骗局。

韩国加强管控：人工智能法案及其漏洞

为了应对日益猖獗的深度伪造技术，韩国颁布了《人工智能基本法》，该法将于2026年1月生效。该法要求所有人工智能视频都必须添加水印，以便观众轻松识别。然而，专家担心水印很容易被移除或修改，从而降低该措施的威慑作用。

韩国大学人工智能研究所专家崔炳浩先生评论道：“如果人工智能公司开发出能够帮助识别虚假内容的技术，将降低社会成本，并且比行政措施更有效。”

深度伪造：从娱乐到欺诈和政治操纵

深度伪造技术不再仅仅用于娱乐或讽刺，而是正在成为严重非法活动的工具。它们被用于未经许可制作冒犯性内容、进行金融诈骗，甚至进行政治操纵。

在去年的国会选举中，韩国国家选举机构检测并处理了超过120张伪造的人工智能图像和视频。这促使韩国政府明确规定，在竞选内容中使用人工智能必须进行公开披露，以确保选举的透明度和公平性。

深度伪造技术的快速发展需要更有效的控制和识别措施，以保护人们免受虚假信息和潜在诈骗的侵害。