Что делают страны Юго-Восточной Азии для борьбы с мошенничеством с использованием дипфейков?

Дипфейки становятся серьезной угрозой в Юго-Восточной Азии, нанося значительный ущерб предприятиям, правительствам и отдельным пользователям.

По словам г-на Тан А Туана, руководителя отдела исследований и инноваций (Ensign Labs) в компании по кибербезопасности Ensign InfoSecurity (Сингапур), эта технология не только снижает доверие к организациям, но и создает возможности для кражи личных данных, мошенничества, утечки конфиденциальных данных и наносит серьезный ущерб репутации.

Кроме того, дипфейки также вызывают сложные социальные проблемы, размывая грань между реальностью и вымыслом, из-за чего информацию в киберпространстве становится трудно различить и легко манипулировать.

Дипфейк — это синтетическое изображение или видео, созданное с помощью искусственного интеллекта (ИИ). По данным Университета Вирджинии (США), в основе создания дипфейков лежит передовой тип машинного обучения (МО), называемый «глубоким обучением». Этот алгоритм учится воссоздавать контент на основе примеров, предоставленных программистами.

Отличительной чертой технологии Deepfake от обработанных в Photoshop изображений или технологий подмены лиц является ее способность создавать сложные поддельные изображения, которые практически неотличимы от настоящих фотографий.

По данным Глобальной инициативы по борьбе с транснациональной организованной преступностью, высокотехнологичные преступные группировки в Юго-Восточной Азии используют ИИ, чтобы выдавать себя за знаменитостей, совершая тем самым акты вымогательства, мошенничества и распространения дезинформации, нанося серьезный ущерб людям.

В отчете организации говорится, что в Азиатско-Тихоокеанском регионе (АТР) в период с 2022 по 2023 год наблюдался всплеск случаев, связанных с дипфейками, на 1530%. Примечательно, что самые высокие темпы роста наблюдались на Филиппинах, достигнув 4500%, а во Вьетнаме зафиксирован самый высокий темп роста случаев мошенничества с дипфейками — 25,3%.

Решения, которые правительства стран Юго-Восточной Азии принимают для борьбы с дипфейками

Дипфейки из видео, изображений и аудиозаписей стали популярными благодаря значительным достижениям в области больших языковых моделей (LLM), таких как MidJourney, ChatGPT от OpenAI и Gemini от Google.

На Всемирном экономическом форуме по кибербезопасности 2023 года 46% респондентов выразили обеспокоенность «конфронтационным» потенциалом ИИ, включая такие угрозы, как мошенничество, разработка вредоносного ПО и создание дипфейков.

Вот некоторые из решений, которые Ассоциация государств Юго-Восточной Азии (АСЕАН) реализует для защиты сообщества от растущей проблемы мошенничества с использованием дипфейков.

Разработка политик и правил

Региональные органы власти активно рассматривают возможность разработки политик и нормативных актов, касающихся защиты персональных данных, конфиденциальности и согласия пользователей. Главная проблема заключается в том, как стимулировать инновации и повышать прибыльность бизнеса, одновременно минимизируя негативное воздействие на общественность.

Например, Сингапур усиливает меры кибербезопасности для борьбы с мошенничеством с использованием дипфейков, чтобы защитить демократию и будущее страны. В одном из нашумевших случаев киберпреступники использовали изображение бывшего премьер-министра Ли Сянь Луна для продвижения поддельных инвестиционных продуктов.

Кроме того, в управлении активно участвуют такие ведущие технологические корпорации, как Microsoft, Meta, X (ранее Twitter) и Google, которые в феврале прошлого года объявили о совместном обязательстве по борьбе с использованием ИИ в мошеннических целях.

Учреждатьмеханизмы принуждения

Исследователь Кэрол Сун, глава Института политических исследований Национального университета Сингапура, подчеркнула, что технологическим компаниям необходимо принять комплексный подход при развертывании и применении мер по борьбе с неправомерным использованием ИИ в мошеннических целях.

Правительства стран АСЕАН активно принимают законы для борьбы с дипфейками и другими онлайн-угрозами. Например, Сингапур принял Закон о противодействии онлайн-вреду (OCHA) и Закон о кибербезопасности для укрепления своей киберзащиты.

Тем временем на Филиппинах было создано Национальное агентство реагирования на компьютерные чрезвычайные ситуации для реагирования на цифровые инциденты, а в Индонезии было создано Национальное агентство по кибербезопасности и криптовалютам (BSSN) для борьбы с киберрисками.

Разработка решенийкреативность для борьбыснова дипфейк

Исследование британской технологической компании Sumsub показывает, что количество обнаруженных дипфейков во многих отраслях по всему миру с 2022 по 2023 год увеличилось в 10 раз.

Наибольший рост случаев мошенничества с персональными данными зафиксирован в сфере онлайн-медиа. В частности, основной мишенью стала криптовалютная индустрия, на которую пришлось 88% выявленных случаев в 2023 году, а за ней следует финтех-индустрия с 8%.

Компании в сфере кибербезопасности, такие как сингапурская GROUP8, предлагают решения на базе искусственного интеллекта для обнаружения и предотвращения киберугроз. Стартапам стоит рассмотреть возможность разработки новых технологий для обнаружения и аутентификации дипфейков, а также обучения LLM точному выявлению дипфейков в режиме реального времени.

Возможные решения могут включать использование цифровых водяных знаков, технологии блокчейн и метаданных для обнаружения контента, созданного ИИ.

Расширенное обучение в области технологических знаний

По данным Всемирного экономического форума (ВЭФ), повышение осведомлённости общественности об онлайн-опасностях поможет гражданам стать более бдительными и научиться отличать подлинную информацию от сфабрикованного контента. Это также поможет предотвратить распространение дезинформации, генерируемой искусственным интеллектом.

Полезные советы по выявлению дипфейков включают проверку соответствия черт лица человека предыдущим изображениям, изучение деталей на фото или видео и оценку того, выглядят ли движения персонажа естественными или карикатурными. Кроме того, внедрение многофакторной аутентификации поможет защитить персональные устройства от несанкционированного доступа.

Перспективыо борьбе с дипфейком в Юго-Восточной Азии

По мере того, как АСЕАН продвигается к достижению своих целей цифровой трансформации, регион становится уязвимым к киберугрозам. Для борьбы с этой ситуацией компаниям необходимо внедрять целый ряд инструментов безопасности, включая облачные технологии, блокчейн, автоматизированные процессы и другие технические решения для обеспечения безопасности данных.

Однако борьба с дипфейками по-прежнему сталкивается с рядом серьёзных проблем. Такие проблемы, как ограниченность ресурсов, постоянное развитие технологий, отсутствие опыта в области искусственного интеллекта, всё более реалистичные дипфейки, непоследовательность правовых норм и низкий уровень обнаружения, являются серьёзными препятствиями.

Чтобы эффективно бороться с этой угрозой, региональным правительствам и заинтересованным сторонам необходимо укреплять сотрудничество друг с другом и запрашивать мнения других стран о реализуемых ими мерах.

Кроме того, для обеспечения эффективной реализации мер по борьбе с дипфейками решающее значение имеет обеспечение адекватного финансирования и ресурсов.