Что делают страны Юго-Восточной Азии для борьбы с мошенничеством с использованием дипфейков?

Дипфейки становятся серьезной угрозой в Юго-Восточной Азии, нанося значительный ущерб предприятиям, правительствам и отдельным пользователям.

По словам г-на Тан А Туана, руководителя отдела исследований и инноваций (Ensign Labs) в компании по кибербезопасности Ensign InfoSecurity (Сингапур), эта технология не только снижает доверие к организациям, но и создает возможности для кражи личных данных, мошенничества, утечки конфиденциальных данных и наносит серьезный ущерб репутации.

Кроме того, дипфейки также вызывают сложные социальные проблемы, размывая грань между реальностью и вымыслом, из-за чего информацию в киберпространстве становится трудно различить и легко манипулировать.

Дипфейки — это синтетические изображения или видео, созданные с помощью технологий искусственного интеллекта (ИИ). По данным Университета Вирджинии (США), в основе создания дипфейков лежит передовой тип машинного обучения (МО), называемый «глубоким обучением». Этот алгоритм учится воссоздавать контент на основе примеров, предоставленных программистами.

Отличие дипфейков от обработанных в Photoshop изображений или технологий подмены лиц заключается в их способности создавать сложные поддельные изображения, которые практически неотличимы от настоящих фотографий.

По данным Глобальной инициативы по борьбе с транснациональной организованной преступностью, высокотехнологичные преступные группировки в Юго-Восточной Азии используют ИИ, чтобы выдавать себя за знаменитостей, тем самым осуществляя вымогательство, мошенничество и распространяя дезинформацию, нанося серьезный ущерб населению.

В отчете организации говорится, что в Азиатско-Тихоокеанском регионе (АТР) в период с 2022 по 2023 год наблюдался всплеск инцидентов, связанных с дипфейками, на 1530%. Примечательно, что самые высокие темпы роста наблюдались на Филиппинах, достигнув 4500%, а во Вьетнаме зафиксирован самый высокий темп увеличения случаев мошенничества с дипфейками — 25,3%.

Что делают правительства стран Юго-Восточной Азии для борьбы с дипфейками

Дипфейки из видео, изображений и аудиозаписей стали популярными благодаря значительным достижениям в области больших языковых моделей (LLM), таких как MidJourney, ChatGPT от OpenAI и Gemini от Google.

На Всемирном экономическом форуме по кибербезопасности 2023 года 46% респондентов выразили обеспокоенность «конфронтационным» потенциалом ИИ, включая такие угрозы, как мошенничество, разработка вредоносного ПО и создание дипфейков.

Вот некоторые из решений, которые Ассоциация государств Юго-Восточной Азии (АСЕАН) реализует для защиты сообщества от растущей проблемы мошенничества с использованием дипфейков.

Разработка политик и правил

Региональные органы власти активно рассматривают возможность разработки политик и нормативных актов, касающихся защиты персональных данных, конфиденциальности и согласия пользователей. Главная проблема заключается в том, как стимулировать инновации и обеспечить прибыльность бизнеса, минимизируя при этом негативное воздействие на общество.

Например, Сингапур усиливает меры кибербезопасности для борьбы с мошенничеством с использованием дипфейков, чтобы защитить демократию и будущее страны. В одном из нашумевших случаев киберпреступники использовали изображение бывшего премьер-министра Ли Сянь Луна для продвижения поддельных инвестиционных продуктов.

Кроме того, в управлении активно участвуют такие ведущие технологические корпорации, как Microsoft, Meta, X (ранее Twitter) и Google, которые в феврале прошлого года объявили о совместном обязательстве по борьбе с использованием ИИ в мошеннических целях.

Учреждатьмеханизмы принуждения

Исследователь Кэрол Сун, глава Института политических исследований Национального университета Сингапура, подчеркнула, что технологическим компаниям необходимо принять комплексный подход при внедрении и применении мер по борьбе с неправомерным использованием ИИ в мошеннических целях.

Правительства стран АСЕАН активно принимают законы для борьбы с дипфейками и другими онлайн-угрозами. Например, Сингапур принял Закон о противодействии онлайн-вреду (OCHA) и Закон о кибербезопасности для укрепления своей киберзащиты.

Тем временем на Филиппинах было создано Национальное агентство реагирования на компьютерные чрезвычайные ситуации для реагирования на цифровые инциденты, а в Индонезии было создано Национальное агентство по кибербезопасности и криптовалютам (BSSN) для борьбы с киберрисками.

Разработка решенийтворческий, чтобы боротьсяснова дипфейк

Исследование британской технологической компании Sumsub показывает, что количество обнаруженных дипфейков во многих отраслях по всему миру с 2022 по 2023 год увеличилось в 10 раз.

Наибольший рост случаев мошенничества с персональными данными зафиксирован в сфере онлайн-медиа. В частности, основной мишенью стала криптовалютная индустрия, на которую пришлось 88% выявленных случаев в 2023 году, а за ней следует сфера финансовых технологий (финтех) с 8%.

Компании в сфере кибербезопасности, такие как сингапурская GROUP8, предлагают решения на базе искусственного интеллекта для обнаружения и предотвращения киберугроз. Стартапам стоит рассмотреть возможность разработки новых технологий для обнаружения и аутентификации дипфейков, а также обучения LLM точному выявлению дипфейков в режиме реального времени.

Возможные решения могут включать использование цифровых водяных знаков, технологии блокчейн и метаданных для обнаружения контента, созданного ИИ.

Обучение передовым технологиям

По данным Всемирного экономического форума (ВЭФ), повышение осведомлённости общественности об онлайн-опасностях поможет гражданам стать более бдительными и научиться отличать подлинную информацию от сфабрикованного контента. Это также поможет предотвратить распространение дезинформации, генерируемой искусственным интеллектом.

Полезные советы по выявлению дипфейков включают проверку соответствия черт лица человека на видео и предыдущих изображениях, анализ деталей на фото или видео и оценку того, выглядят ли движения персонажа естественными или карикатурными. Кроме того, внедрение многофакторной аутентификации поможет защитить персональные устройства от несанкционированного доступа.

Перспективыо борьбе с дипфейками в Юго-Восточной Азии

По мере того, как АСЕАН продвигается к достижению своих целей цифровой трансформации, регион становится уязвимым к киберугрозам. Для борьбы с этой ситуацией компаниям необходимо внедрять целый ряд инструментов безопасности, включая облачные технологии, блокчейн, автоматизированные процессы и другие технические решения для обеспечения безопасности данных.

Однако борьба с дипфейками по-прежнему сталкивается с рядом серьёзных проблем. Такие проблемы, как ограниченность ресурсов, постоянное развитие технологий, нехватка специалистов в области искусственного интеллекта, всё более реалистичные дипфейки, непоследовательность правовых норм и низкий уровень обнаружения, являются серьёзными препятствиями.

Чтобы эффективно бороться с этой угрозой, региональным правительствам и заинтересованным сторонам необходимо укреплять сотрудничество друг с другом и запрашивать мнения других стран о реализуемых ими мерах.

Кроме того, для обеспечения эффективной реализации мер по борьбе с дипфейками решающее значение имеет обеспечение адекватного финансирования и ресурсов.