Видео фальшивого наводнения в Кёнбоккуне, снятое с помощью искусственного интеллекта, вызвало переполох и опасения по поводу манипуляции информацией

Видеозапись наводнения во дворце Кёнбоккун, снятая искусственным интеллектом, вызвала возмущение общественности

Видео, созданное с помощью искусственного интеллекта (ИИ), имитирующее сцену погружения дворца Кёнбоккун в Сеуле под воду, вызвало переполох в корейском интернет-сообществе.

Клип, опубликованный на YouTube-канале «Golpadak», начинается с того, что мужчина в жёлтом плаще стоит перед дворцом и говорит: «Льёт так сильно… Кёнбоккун полностью затоплен». Затем показывают, как люди черпают воду вёдрами, и даже тюлень скользит по территории дворца.

Несмотря на абсурдные детали, видео все равно заставило многих поверить в его реальность, поскольку оно совпало по времени с рекордно сильными дождями в Сеуле.

Позже было подтверждено, что видео создано с помощью Google Veo 3, который позволяет создавать реалистичные изображения и реалистичные диалоги. Многие выразили возмущение, заявив, что создателя следует наказать за преднамеренное распространение ложной информации.

Проблемы дипфейков и проблема контроля информации

Фейковое видео о наводнении в Кёнбоккуне — не единичный случай. На YouTube появились десятки подобных фейковых роликов о наводнении, вызвав бурную реакцию СМИ и экспертов. Они предупреждают, что общественность всё чаще становится жертвой обмана, создаваемого искусственным интеллектом, даже если детали в видео выглядят несколько абсурдно.

Ранее другое фейковое видео, имитирующее поток лавы в центре Сеула, также вызвало недоумение у зрителей. Создатель ролика, ютубер «Ddalgak», заявил, что цель ролика — высмеять доверчивость интернет-пользователей в отношении онлайн-контента. Он также признался, что использовал Veo 3 для создания видео, вдохновлённого мошенничеством с использованием deepfake Илона Маска.

Южная Корея усиливает контроль: Закон об искусственном интеллекте и его лазейки

В ответ на широкомасштабную волну дипфейков Южная Корея приняла «Основной закон об искусственном интеллекте», который вступит в силу в январе 2026 года. Закон требует, чтобы все видеоролики, созданные с использованием искусственного интеллекта, были снабжены водяными знаками, чтобы зрители могли легко их идентифицировать. Однако эксперты обеспокоены тем, что водяные знаки можно легко удалить или отредактировать, что снижает сдерживающий эффект этой меры.

«Разработка компаниями, занимающимися разработкой искусственного интеллекта, технологий для выявления поддельного контента позволит сократить социальные издержки и окажется более эффективной, чем административные меры», — считает Чхве Бён Хо, эксперт Научно-исследовательского института искусственного интеллекта Корейского университета.

Дипфейки: от развлечений до мошенничества и политических манипуляций

Дипфейки больше не являются просто развлечением или сатирой, а становятся инструментом серьёзной противозаконной деятельности. Они используются для создания оскорбительного контента без согласия, финансового мошенничества и даже политических манипуляций.

Во время прошлогодних выборов в Национальное собрание национальное избирательное агентство Южной Кореи обнаружило и обработало более 120 фейковых изображений и видео, созданных с помощью искусственного интеллекта. Это привело к введению чёткого требования о раскрытии информации об использовании искусственного интеллекта в предвыборной кампании для обеспечения прозрачности и честности для избирателей.

Стремительное развитие технологии deepfake требует более эффективных мер контроля и идентификации для защиты людей от дезинформации и потенциального мошенничества.