В 2024 году увеличится число мошеннических схем с использованием технологии дипфейков.

Что такое дипфейк?

Дипфейк — это термин, образованный от сочетания слов «глубокое обучение» и «подделка», обозначающий технологию, которая имитирует черты человеческого лица и создает поддельный аудио-, видео- или даже видеоконтент. Создатели дипфейков могут манипулировать медиафайлами и заменять внешность реального человека внешностью реального человека.

По сути, технология дипфейков основана на открытой платформе машинного обучения Google. Дипфейки сканируют видео и портретные фотографии человека, а затем объединяют их с отдельными видео с помощью технологии искусственного интеллекта (ИИ), заменяя детали лица, такие как глаза, рот и нос, реалистичными движениями лица и голосом.

Чем больше оригинальных изображений доступно, тем больше данных у ИИ для обучения и создания более реалистичных поддельных изображений или видео. Дипфейки позволяют накладывать лица одних людей на лица других в видео с поразительной реалистичностью.

В 2024 году, в год выборов, количество дипфейков увеличится.

Использование дипфейков для имитации политиков становится все более распространенным явлением, особенно с учетом того, что 2024 год станет годом крупнейших глобальных выборов в истории.

Согласно сообщениям, в этом году по меньшей мере 60 стран и более 4 миллиардов человек по всему миру будут выбирать своих лидеров и представителей, что делает проблему дипфейков серьезной проблемой.

Согласно отчету компании Sumsub, в период с 2021 по 2023 год наибольший рост случаев мошенничества с личными данными зафиксирован в онлайн-медиа, включая социальные сети и цифровую рекламу, – на 274%. Отрасли, пострадавшие от мошенничества с личными данными, также включают здравоохранение, транспорт и видеоигры.

Кроме того, в глобальном отчете об угрозах за 2024 год компания CrowdStrike (США), специализирующаяся на технологиях кибербезопасности, заявила, что в связи с приближением большого количества выборов в этом году может появиться дезинформация и/или фейковые новости, способные посеять нестабильность.

Соответственно, перед выборами в Индонезии 14 февраля в социальных сетях распространилось видео, на котором покойный президент Сухарто выражает поддержку политической партии, которую он когда-то возглавлял. Однако это видео было идентифицировано как дипфейк, созданный искусственным интеллектом, который скопировал его лицо и голос целиком. Это дипфейк-видео набрало 4,7 миллиона просмотров на платформе социальных сетей X (ранее Twitter).

Это не первый случай появления дипфейк-видео. В Пакистане во время выборов произошла дипфейковая мистификация о бывшем премьер-министре Имране Хане, в которой утверждалось, что его партия бойкотирует выборы. Тем временем в США избиратели в Нью-Гэмпшире внезапно прочитали фейковую новость о том, что президент Джо Байден призвал их не голосовать на предварительных выборах.

Эксперты считают, что большинство дипфейков создается субъектами внутри каждой страны. Кэрол Сун, исследователь и руководитель отдела культуры и общества Сингапурского института политических исследований, заявила, что к таким субъектам могут относиться оппозиционные группы и политические соперники, а также крайне правые и левые экстремисты.

Между тем Саймон Честерман, старший директор по управлению проектами в области ИИ в Национальной программе ИИ Сингапура, заявил, что Азия пока не готова решить проблему дипфейков на выборах с трех точек зрения: правовой, технологической и образовательной.

В чём опасность, которую представляют дипфейки?

Комментируя опасность, которую представляют дипфейки, Кэрол Сун заявила, что, как минимум, дипфейки загрязняют информационную экосистему и затрудняют людям поиск достоверной информации и формирование обоснованных мнений о партии или кандидате.

В этой связи Саймон Честерман заявил, что избиратели могут также отвернуться от конкретного кандидата, если увидят, как информация о скандале быстро распространяется в социальных сетях, прежде чем ее разоблачат как фейковые новости. Хотя у некоторых правительств есть инструменты для борьбы с дезинформацией в интернете, существует опасение, что правда будет искажена, прежде чем ее удастся исправить.

«Мы видели, как быстро X (ранее Twitter) может быть захвачен порнографическими дипфейками с участием певицы Тейлор Свифт. Подобные вещи могут распространяться невероятно быстро», — добавил Честерман, отметив, что контрмеры часто оказываются недостаточными и их крайне сложно реализовать. «Часто бывает уже слишком поздно».

Адам Майерс из компании CrowdStrike, занимающейся технологиями кибербезопасности, говорит, что дипфейки также могут вызывать предвзятость подтверждения — эффект, свойственный обработке информации человеком. «Даже если они в глубине души знают, что это неправда, они все равно примут это, если это именно то сообщение, которое они хотят получить и во что хотят верить», — объясняет он.

В дополнение к этим опасениям, Честерман утверждал, что поддельное видео, изображающее нарушения на выборах, такие как подкуп избирателей, может подорвать доверие избирателей к легитимности выборов.

По словам г-жи Сун, кандидаты могут отрицать правду о себе, утверждая, что негативная информация о них сфабрикована.

Ведущие технологические компании вкладывают средства в борьбу с дипфейками.

В феврале прошлого года 20 ведущих технологических компаний, включая Microsoft, Meta, Google, Amazon, IBM, а также компания OpenAI, занимающаяся искусственным интеллектом, и социальные сети, такие как Snap, TikTok и X, договорились о совместной борьбе с использованием искусственного интеллекта в мошеннических целях на выборах этого года.

Подписанное обязательство является важным первым шагом, но его эффективность зависит от реализации и соблюдения. По словам г-жи Сун, для достижения этой цели технологическим компаниям необходим многогранный подход к применению различных мер на своих платформах. Технологические компании также должны обеспечить прозрачность принимаемых решений, таких как внедряемые процессы.

Однако, по мнению Саймона Честермана, не стоит ожидать слишком многого от частных компаний, выполняющих базовые общественные функции. Решение о том, какой контент разрешен в социальных сетях, — сложный вопрос, и некоторым компаниям может потребоваться несколько месяцев, чтобы принять решение.

Для достижения этой цели Альянс по проверке и подтверждению контента (C2PA) представил платформу, предназначенную для проверки цифровой информации о контенте. Эта платформа позволяет зрителям получать проверенную информацию, такую ​​как создатель, источник и время создания, а также степень обобщения информации или подтверждение того, была ли она создана с помощью искусственного интеллекта.

В число компаний-членов C2PA входят Adobe, Microsoft, Google и Intel. Ранее в этом году OpenAI объявила о внедрении технологии аутентификации C2PA для изображений, созданных с использованием языка моделирования изображений DALL·E 3.

В интервью агентству Bloomberg House на Всемирном экономическом форуме в январе прошлого года Сэм Альтман, основатель и генеральный директор OpenAI, заявил, что компания уделяет особое внимание обеспечению того, чтобы ее технологии не использовались для манипулирования выборами.

Адам Майерс из компании CrowdStrike, занимающейся технологиями кибербезопасности, предложил создать некоммерческую, беспартийную техническую организацию, задача которой — анализировать и идентифицировать дипфейки. «Общественность могла бы отправлять в организацию контент, который, по их мнению, был изменен. Хотя это непросто донести до людей, по крайней мере, будет какой-то механизм, на который они смогут полагаться», — сказал Майерс.

В конечном счете, хотя технологии и являются частью решения, многое зависит от пользователя. Общественность должна быть более бдительной; помимо проверки подлинности в случаях, когда что-то кажется крайне подозрительным, пользователи также должны проверять подлинность важной информации, особенно прежде чем делиться ею с другими.