人工智能伪造景福宫洪水视频引发轰动，引发对信息操纵的担忧

景福宫洪水人工智能视频引发公众愤怒

一段利用人工智能（AI）制作的模拟首尔景福宫被水淹没场景的视频在韩国网络社区引起轰动。

YouTube 频道“Golpadak”发布的这段视频开头，一名身穿黄色雨衣的男子站在景福宫前，说道：“雨下得真大……景福宫完全被水淹没了。” 随后，视频显示人们用水桶舀水，甚至还有一只海豹在宫廷里滑行。

尽管细节荒谬，但由于视频拍摄时间恰逢首尔遭遇创纪录的暴雨，因此仍让很多人相信这是真实的。

该视频后来被证实是谷歌Veo 3的产品，该设备可以呈现逼真的图像和逼真的对话。许多人对此表示愤怒，称视频制作者应该因故意传播虚假信息而受到惩罚。

Deepfake 担忧与信息控制的挑战

景福宫洪水虚假视频事件并非个例。YouTube上出现了数十个类似的洪水虚假视频，引起了媒体和专家的强烈反应。他们警告说，公众越来越容易被人工智能生成的内容所欺骗，即使视频中的细节有些荒谬。

此前，另一段模拟熔岩流经首尔市中心的虚假视频也引发了观众的困惑。该视频的制作者、YouTuber“Ddalgak”表示，该视频的目的是讽刺网民对网络内容的轻信。他还承认自己使用了Veo 3相机制作该视频，其灵感来源于埃隆·马斯克的深度伪造骗局。

韩国加强管控：人工智能法案及其漏洞

为了应对日益蔓延的深度伪造浪潮，韩国颁布了《人工智能基本法》，该法将于2026年1月生效。该法要求所有人工智能视频必须添加水印，以便观众轻松识别。然而，专家担心水印很容易被移除或编辑，从而削弱这项措施的威慑力。

高丽大学人工智能研究所专家崔炳浩表示：“人工智能公司开发识别虚假内容的技术将降低社会成本，比行政措施更有效。”

深度伪造：从娱乐到欺诈和政治操纵

Deepfakes 不再仅仅用于娱乐或讽刺，而是正在成为严重非法活动的工具。它们被用于未经同意制作攻击性内容、进行金融欺诈，甚至进行政治操纵。

在去年的国会选举中，韩国国家选举机构检测并处理了120多张虚假的人工智能图像和视频。这促使政府明确要求在竞选内容中使用人工智能时公开披露信息，以确保对选民的透明度和公平性。

深度伪造技术的快速发展需要更有效的控制和识别措施，以保护人们免受错误信息和潜在欺诈的侵害。