深度伪造技术：有用还是危险？

我们生活在一个科技飞速发展的世界。许多新技术正在被开发并应用于日常生活中，其中包括深度伪造技术。

随着科技日趋复杂，专家们担忧它可能构成严重威胁。然而，任何科技都有其两面性。如果我们忽略其负面影响，深度伪造技术本身就是一项极其有用的技术，并且未来具有向积极方向发展的潜力。

什么是深度伪造技术？

Deepfake一词由“深度学习”（Deep Learning）和“伪造”（Fake）组合而成，指的是一种能够模拟人脸图像并制作虚假音频、图像甚至视频产品的技术。Deepfake制作者可以篡改媒体内容，并将其替换为真人的外观。

本质上，Deepfake 技术建立在谷歌公司的开源机器学习技术平台之上。它会扫描一个人的视频和肖像，然后利用人工智能将其与另一个视频融合，并将眼睛、嘴巴、鼻子等面部细节替换为真实的面部动作和声音。原始图像越多，人工智能就能学习到越多的数据，从而创建出更逼真的虚假图像或视频。Deepfake 可以将一个人的脸以惊人的逼真度移植到视频中的另一个人身上。

插图照片

深度伪造技术是如何运作的？

Deepfake 使用两种算法：生成器用于创建逼真的数据，判别器用于区分生成器生成的数据和真实数据。生成器根据预期输出构建训练数据集，生成初始的虚假数字内容，而判别器则分析原始内容的真伪程度。

这个过程不断重复，使得数据生成器能够改进实际的内容创作，数据判别器能够更熟练地发现错误并进行纠正。

数据生成算法和数据判别算法的结合创建了生成对抗网络（GAN）。GAN 使用深度学习来识别真实图像中的模式，然后利用这些模式生成虚假图像。

在创建深度伪造照片时，GAN 系统会从多个角度观察目标照片，以捕捉所有细节和视角。在创建深度伪造视频时，GAN 会从多个角度观看视频，并分析行为、动作和语音模式。然后，这些信息会被多次输入到判别器中，以提升图像或视频的真实性，从而创建出逼真的伪造版本。

Deepfake技术有哪些优势？

深度伪造技术使创作者能够以更具创意的方式为观众打造逼真的内容。这项技术不仅允许创作者尝试制作逼真的电影，还可以用于进一步提升视频游戏和其他多媒体内容的质量。

Deepfake背后的先进技术在许多领域都展现出巨大的潜力，尤其是在电影制作和广告等创意产业中。广告宣传或电影制作可以利用Deepfake技术进行配音、拍摄难度较高的场景，从而节省时间和制作预算。Deepfake也被视为一种纯粹的互联网娱乐方式，它可以帮助用户轻松地将自己的脸与名人换脸。此外，这项技术还被开发用于在线购物，让用户可以在虚拟试衣间中试穿衣服。

技术专家认为，如果用于积极用途，Deepfake 将成为一种强大的营销工具，它能够自动、精准地裁剪照片。这项技术将为营销行业带来诸多益处，例如：

成本节约

在某些情况下，无需使用真人演员。深度伪造技术可以成为一种全新的解决方案：制作方只需购买演员图像的使用许可，即可创建或重复使用宣传视频，然后插入合适的图像和对话，从而制作出全新的广告产品。如果制作方使用内部员工制作视频，还能进一步节省成本。简而言之，对于预算有限但仍希望为营销活动制作高质量内容的营销人员来说，深度伪造技术将非常实用。

轻松实现多渠道营销

由于无需使用真人演员，品牌可以轻松调整/制作视频，以适应各个营销渠道的特点。例如，品牌可以使用同一张脸，将其整合到不同的平台，例如 YouTube、TikTok 或 Instagram Reels 等平台上的视频……更重要的是，这个过程比重新聘请演员拍摄要省时省力得多。

“超级”个性化内容

深度伪造技术将开启个性化内容/营销活动的新时代。借助这项技术，品牌可以轻松调整视频/图像，使其与目标客户的经历、兴趣和特征（例如肤色）相匹配。如果制作方的目标客户群体不同，例如弱势群体或与品牌大使/模特肤色不同的族裔群体，那么深度伪造技术将帮助他们克服这一限制。此外，如果品牌需要制作完全不同语言的视频，使用深度伪造技术也并非难事。

可以说，深度伪造技术可以给电影和电视节目的拍摄和呈现方式带来巨大变革。

使用深度伪造技术有哪些危险？

尽管深度伪造技术有其积极的用途，但它在网络犯罪分子中更为流行，也可能被用于恶意目的。深度伪造技术使网络犯罪分子能够轻松创建欺骗性内容并传播虚假信息，从而严重影响观众的思维。

实际上，用户很难检测出深度伪造的图像或视频，因此大多数在线用户可能会成为利用深度伪造技术传播的虚假信息的受害者。

如果我们考虑一下深度伪造技术可能被用于哪些不法用途，例如篡改历史影像和制造虚假新闻。不仅如此，这项技术还可能被用来诋毁企业，甚至影响公众对某些问题的看法。

深度伪造技术可用于各种犯罪活动，例如诋毁个人。如果深度伪造软件在网上传播，有人制作了你的色情视频并发布到Facebook上，你会怎么办？即使这只是一个恶作剧，一旦视频上传到网络，就无法控制其传播以及随之而来的后果。

在许多情况下，使用深度伪造技术的目的不再是开玩笑，而是为了诋毁、羞辱、骚扰他人，或者进行卑鄙的手段，并以此勒索他人。

色情内容只是深度伪造技术带来的众多问题之一。深度伪造技术最初主要出现在色情视频中，如今正开始蔓延到政治领域，并有可能对现实生活产生重大影响。

2018年4月17日，一段视频在网上流传，视频中一名酷似美国前总统奥巴马的人用粗俗的语言批评现任总统唐纳德·特朗普。尽管公众后来发现该视频系伪造，但其传播速度极快，并造成了不良后果。

专家担心深度伪造技术可能会影响公司业务，损害有影响力人士的声誉，并导致政治动荡，尤其是在选举期间。如果一段深度伪造视频突然出现在网上，内容是总统候选人猥亵儿童、警察局长煽动员工对少数族裔实施暴力，或者士兵在战争中犯下暴行……那将是极其可怕的。

政界人士和商界领袖等公众人物面临着被虚假视频攻击的风险。即使是普通女性也可能成为不法分子利用这项技术制作虚假色情和裸露视频的目标，这会对她们的声誉和尊严造成负面影响。一旦这些视频在互联网上传播开来，几乎不可能阻止它们。此外，也很难区分这些内容的真伪。

显然，深度伪造技术已成为一个全球性问题，虚假视频在互联网上传播后，给许多人带来了困境。

简而言之，除了Deepfake技术在媒体、娱乐、游戏等诸多领域带来的益处外，该技术也可能被用于网络诈骗和传播虚假信息。因此，管理机构需要采取适当措施，防止Deepfake技术被滥用。

参考

1.https://www.tech21century.com/deepfake-artificial-intelligence/

2.https://www.techtarget.com/whatis/definition/deepfake