Технология дипфейков: полезная или опасная?

Мы живем в мире технологического прогресса. Многие новые технологии разрабатываются и применяются в повседневной жизни, включая технологию Deepfake.

По мере того как технологии становятся все более совершенными, эксперты опасаются, что они могут представлять серьезную угрозу. Однако у каждой технологии есть две стороны, и если мы не будем обращать внимания на темную сторону, то Deepfake — одна из самых полезных технологий, обладающая потенциалом для позитивного развития в будущем.

Что такое технология Deepfake?

Дипфейк — это термин, образованный от сочетания слов «глубокое обучение» и «подделка», обозначающий технологию, которая имитирует черты человеческого лица и создает поддельный аудио-, видео- или даже видеоконтент. Создатели дипфейков могут манипулировать медиафайлами и заменять внешность реального человека внешностью реального человека.

По сути, технология Deepfake построена на основе открытой платформы машинного обучения Google. Deepfake сканирует видео и портретные фотографии человека, затем объединяет их с отдельными видео с помощью ИИ и заменяет детали лица, такие как глаза, рот и нос, реалистичными движениями лица и голосом. Чем больше доступных оригинальных изображений, тем больше данных у ИИ для обучения и создания более реалистичных поддельных изображений или видео. Deepfake может накладывать лицо одного человека на лицо другого в видео с поразительной реалистичностью.

Иллюстративное изображение

Как работает Deepfake?

Дипфейки используют два алгоритма: генератор данных для создания реалистично выглядящих данных и дискриминатор данных, который пытается отличить данные, сгенерированные генератором, от реальных данных. Генератор данных создает обучающий набор данных на основе желаемого результата, формируя первоначальный поддельный цифровой контент, в то время как дискриминатор данных анализирует степень подлинности оригинальной версии контента.

Этот процесс повторяется, позволяя генератору данных улучшить фактическое создание контента, а дискриминатору данных — повысить свою эффективность в выявлении ошибок для их исправления.

Сочетание алгоритмов генерации и различения данных создает генеративно-состязательную сеть, также известную как GAN (Generative Adversarial Network). GAN используют глубокое обучение для распознавания закономерностей на реальных изображениях, а затем используют эти закономерности для генерации поддельных изображений.

При создании дипфейк-изображения система GAN просматривает фотографии целевого объекта с разных ракурсов, чтобы запечатлеть все детали и перспективы. При создании дипфейк-видео система GAN просматривает видео с нескольких ракурсов, одновременно анализируя поведение, движения и речевые паттерны. Затем эта информация многократно обрабатывается дискриминатором данных для уточнения подлинности изображения или видео, создавая поддельную версию, которая выглядит в точности как оригинал.

В чём преимущества дипфейков?

Технология Deepfake позволяет создателям более креативно создавать реалистичный контент для зрителей. Эта технология не только дает возможность экспериментировать с созданием реалистичных фильмов, но и может быть использована для дальнейшего повышения качества видеоигр и другого мультимедийного контента.

Передовая технология Deepfake открывает большие перспективы во многих областях, особенно в креативных индустриях, таких как кинопроизводство и реклама. Рекламные кампании или кинопроизводство могут использовать Deepfake для озвучивания, съемок сложных сцен, экономя время и производственные бюджеты. Deepfake также рассматривается как форма интернет-развлечения, позволяющая пользователям легко заменять свои лица лицами известных людей. Эта технология также разрабатывается для онлайн-покупателей, позволяя им примерять одежду в виртуальных примерочных.

Эксперты в области технологий считают, что при использовании в позитивных целях Deepfake станет мощным маркетинговым инструментом. Благодаря своей способности автоматически и точно манипулировать изображениями, эта технология действительно принесет множество преимуществ маркетинговой индустрии, таких как:

Экономия средств

В некоторых случаях использование живых актеров не требуется. В такой ситуации Deepfake может стать новым решением, позволяющим производителям просто приобрести лицензию на использование изображений актеров, создать или повторно использовать существующий рекламный ролик, а затем вставить соответствующие изображения и диалоги для создания совершенно нового рекламного продукта. Производители могут даже сэкономить средства, используя для создания видео своих собственных сотрудников. Вкратце, Deepfake будет чрезвычайно полезен для маркетологов с ограниченным бюджетом, которые все же хотят создавать высококачественный контент для своих кампаний.

Простой многоканальный маркетинг

Поскольку в видеороликах не используются реальные актеры, бренды могут легко адаптировать/создавать видео в соответствии с особенностями каждого маркетингового канала. Например, одно и то же лицо можно использовать для объединения видео на разных платформах, таких как YouTube, TikTok или Instagram Reels. Кроме того, этот процесс не так дорог и трудоемок, как наем актеров для пересъемки сцен.

«Ультра» персонализированный контент

Технология Deepfake откроет новую эру персонализированного контента и рекламных кампаний. Благодаря ей бренды смогут легко адаптировать видео/изображения под опыт, предпочтения и характеристики своей целевой аудитории – например, цвет кожи. Если производители ориентируются на разные группы клиентов, например, на маргинализированные группы или этнические группы, отличные от их амбассадоров/моделей, Deepfake поможет им преодолеть это ограничение. С помощью Deepfake даже не составит труда создать видео на совершенно другом языке.

Можно с уверенностью сказать, что технология Deepfake может кардинально изменить способы съёмки и показа фильмов и сериалов зрителям.

В чём опасность использования дипфейков?

Несмотря на свои положительные стороны, технология Deepfake более распространена среди киберпреступников и может также использоваться в злонамеренных целях. Deepfake позволяет киберпреступникам легко создавать обманчивый контент и распространять дезинформацию, которая может серьезно повлиять на сознание зрителей.

В действительности пользователи нелегко распознают изображения или видео, созданные с помощью технологии Deepfake, поэтому большинство пользователей интернета могут легко стать жертвами дезинформации, распространяемой с использованием этой технологии.

Если мы рассмотрим некоторые способы использования технологии Deepfake в злонамеренных целях, то увидим, что это может включать в себя изменение исторических видеоматериалов и создание фейковых новостей. Более того, эта технология может использоваться для клеветы на коммерческие организации или даже для влияния на общественное мнение по определенным вопросам.

Дипфейки могут использоваться для различных видов преступлений, например, для дискредитации человека. Что происходит, когда программное обеспечение для создания дипфейков распространяется в интернете, и кто-то создает порнографическое видео с вашим участием и публикует его в Facebook? Даже если это всего лишь розыгрыш, призванный подшутить, после того, как видео попадает в сеть, нет способа контролировать его распространение и последующие последствия.

Во многих случаях цель использования дипфейков уже не шутка, а дискредитация, унижение, преследование или саботаж других людей, а также вымогательство у них денег.

Порнографический контент — лишь одна из многих проблем, связанных с дипфейками. Первоначально появившись преимущественно в порнографических видеороликах, дипфейки начинают распространяться в политическую сферу, оказывая значительное влияние на реальный мир.

17 апреля 2018 года в интернете появилось видео, на котором человек, похожий на бывшего президента США Барака Обаму, использует уничижительные выражения в адрес нынешнего президента Дональда Трампа. Хотя позже стало известно, что видео не является подлинным, оно быстро распространилось и вызвало негативные последствия.

Эксперты опасаются, что технология Deepfake может негативно повлиять на бизнес компании, разрушить репутацию публичной фигуры и вызвать политическую нестабильность, особенно во время выборов. Было бы ужасно, если бы в интернете внезапно появилось видео, созданное с помощью Deepfake, на котором кандидат в президенты преследует детей, начальник полиции подстрекает офицеров к насилию против этнических меньшинств или солдаты совершают зверства во время войны…

Известные личности, такие как политики и бизнесмены, крайне уязвимы для атак с использованием поддельных видеороликов. Даже обычные женщины могут стать мишенью для злоумышленников, использующих эту технологию для создания поддельных порнографических или обнаженных видеороликов, что негативно сказывается на их чести и достоинстве. После того как видео распространилось в интернете, остановить его распространение практически невозможно. Кроме того, очень сложно определить подлинность такого контента.

Очевидно, что технология Deepfake стала глобальной проблемой, из-за которой многие люди попадают в затруднительные ситуации после распространения фейковых видеороликов в интернете.

В заключение, помимо преимуществ, которые технология Deepfake может принести во многих областях, таких как СМИ, развлечения и игры, она также может использоваться для онлайн-мошенничества и распространения дезинформации. Поэтому регулирующим органам необходимо принять соответствующие меры для предотвращения злоупотребления технологией Deepfake.

Ссылка

1. https://www.tech21century.com/deepfake-artificial-intelligence/

2. https://www.techtarget.com/whatis/definition/deepfake