Deepfake 技术：有用还是危险？

我们生活在一个科技不断进步的世界，许多新技术正在被开发并应用于日常生活中，其中就包括Deepfake技术。

随着技术日益复杂，专家们担心它可能构成严重威胁。然而，任何技术都有两面性，如果我们忽略其阴暗面，Deepfake 无疑是极其有用的技术之一，并且未来有潜力朝着积极的方向发展。

什么是Deepfake技术？

Deepfake 是“深度学习”和“伪造”两个词的组合，指的是一种模拟人类面部图像并制作虚假音频、图像甚至视频的技术。Deepfake 的创作者可以操纵媒体内容，将其替换为真人的外貌。

本质上，Deepfake 技术建立在谷歌科技公司的开源机器学习技术平台上。Deepfake 会扫描一个人的视频和肖像，然后利用人工智能将其与单独的视频合并，并用真实的面部动作和声音替换眼睛、嘴巴、鼻子等面部细节。原始图像越多，人工智能需要学习的数据就越多，从而创造出更逼真的假图像或视频。Deepfake 可以将视频中一个人的脸替换成另一个人，其逼真度令人惊叹。

插图照片

Deepfake 是如何运作的？

Deepfake 使用两种算法：一个生成器用于创建逼真的数据；一个鉴别器用于尝试区分生成器生成的数据和真实数据。生成器根据期望输出构建训练数据集，创建初始的伪造数字内容，而鉴别器则分析原始内容的真伪程度。

重复此过程，使数据生成器能够改进实际内容创建，并使数据鉴别器能够更熟练地发现错误并进行纠正。

数据生成算法和数据鉴别算法的结合，创造了生成对抗网络（GAN）。GAN 利用深度学习来识别真实图像中的模式，然后使用这些模式生成虚假图像。

在制作深度伪造照片时，GAN 系统会从多个角度查看目标照片，以捕捉所有细节和视角。在制作深度伪造视频时，GAN 会从多个角度查看视频，并分析其行为、动作和语音模式。这些信息随后会多次通过鉴别器，以改进图像或视频的真实性，最终创建逼真的伪造版本。

Deepfake 有什么好处？

Deepfake技术让创作者能够以更具创意的方式为观众创作逼真的内容。这项技术不仅能让创作者尝试创作逼真的电影，还能用于进一步提升电子游戏和其他多媒体内容的质量。

Deepfake 背后的先进技术在许多领域都拥有巨大的潜力，尤其是在电影制作和广告等创意产业。广告活动或电影制作可以使用 Deepfake 进行画外音、处理难以拍摄的场景，从而节省时间和制作预算。Deepfake 也被认为是一种纯粹的互联网娱乐方式，可以帮助用户轻松地与知名人物交换面孔。这项技术也为在线购物者在虚拟试衣间试穿衣服而开发。

技术专家认为，如果用于积极目的，Deepfake 将成为一种强大的营销工具，能够自动准确地裁剪照片。这项技术将为营销行业带来诸多好处，例如：

节省成本

在某些情况下，无需使用真人演员。Deepfake 可以成为一种新的解决方案，制作人只需购买演员图像的使用许可，制作或重复使用宣传视频，然后插入合适的图像和对话，即可打造出全新的广告产品。如果制作人使用自己的内部人员制作视频，甚至可以节省更多成本。简而言之，Deepfake 对于预算有限但仍想为广告活动制作高质量内容的营销人员来说非常有用。

轻松的多渠道营销

由于无需使用真人演员，品牌可以轻松调整/制作视频，以适应每个营销渠道的性质。例如，品牌可以使用同一张脸，将其融入到不同的平台，例如在 YouTube、TikTok 或 Instagram 上的 Reels 上发布的视频……更不用说，这个过程不像再次聘请演员拍摄那样昂贵和耗时。

“超级”个性化内容

Deepfake 将开启个性化内容/活动的新时代。借助这项技术，品牌可以轻松调整视频/图像，以匹配目标客户的体验、兴趣和特征，例如肤色。如果制作者瞄准的是不同的客户群体，例如弱势群体，或与品牌大使/模特不相似的族裔群体，Deepfake 将帮助他们突破这一限制。即使品牌需要制作完全不同语言的视频，使用 Deepfake 也并非难事。

可以说，Deepfake技术可以给电影和节目的拍摄方式以及呈现给观众的方式带来巨大的改变。

使用 Deepfake 有哪些危险？

尽管 Deepfake 有积极的用途，但该技术在网络犯罪分子中更受欢迎，并且也可能被用于恶意目的。Deepfake 使网络犯罪分子能够轻松创建欺骗性内容并传播虚假信息，从而严重影响观众的思想。

事实上，用户很难察觉到Deepfake图像或视频，因此大多数在线观众可能会成为使用Deepfake技术传播的错误信息的受害者。

如果我们考虑一下 Deepfake 可能被用于哪些不法目的，那么它可能包括篡改历史镜头和制造虚假新闻。不仅如此，这项技术还可能被用来诽谤企业，甚至影响公众对某些问题的看法。

Deepfake 可用于各种犯罪，例如诋毁个人名誉。如果 Deepfake 软件在网上传播，有人制作了你的色情视频并发布到 Facebook 上，该怎么办？即使只是恶作剧，一旦上传到网上，就无法控制该视频的传播及其带来的后果。

很多时候，使用Deepfake的目的已经不再是玩笑，而是抹黑、羞辱、骚扰，或者玩弄阴谋诡计，以此来勒索他人。

色情只是Deepfake带来的众多问题之一。Deepfake最初主要出现在色情视频中，如今正逐渐蔓延到政治领域，并有可能对现实生活产生重大影响。

2018年4月17日，网上出现一段视频，视频中一名酷似美国前总统奥巴马的人用粗言秽语批评现任总统唐纳德·特朗普。尽管公众后来发现该视频并不属实，但该视频还是迅速传播开来，并造成了不幸的后果。

专家担心，Deepfake 技术可能会影响公司业务，损害有影响力人士的声誉，并造成政治不稳定，尤其是在选举期间。如果网络上突然出现一段 Deepfake 视频，内容是总统候选人猥亵儿童，警察局长煽动员工对少数族裔实施暴力，或者士兵在战争中犯下暴行，那将是极其可怕的……

政界人士和商界领袖等知名人士面临着被虚假视频攻击的风险。即使是普通女性也可能成为不法分子的目标，他们利用这种技术制作虚假的色情和裸照视频，严重损害她们的名誉和尊严。这些视频一旦在互联网上传播，几乎不可能被阻止。此外，这些内容的真伪也难以辨别。

显然，Deepfake 已经成为一个世界性的问题，虚假视频在互联网上传播后，许多人陷入了困境。

简而言之，Deepfake技术除了能在媒体、娱乐、游戏等诸多领域带来好处之外，还可能被用于在互联网上实施诈骗、传播虚假信息。因此，管理机构需要采取适当的措施，防止Deepfake技术被滥用。

参考

1.https://www.tech21century.com/deepfake-artificial-intelligence/

2.https://www.techtarget.com/whatis/definition/deepfake