Что делают страны Юго-Восточной Азии для борьбы с мошенничеством, связанным с дипфейками?

Дипфейки становятся серьезной угрозой в Юго-Восточной Азии, нанося значительный ущерб бизнесу, правительствам и отдельным пользователям.

По словам Тан А Туана, руководителя отдела исследований и инноваций (Ensign Labs) в компании Ensign InfoSecurity (Сингапур), занимающейся кибербезопасностью, эта технология не только подрывает доверие к организациям, но и создает возможности для кражи личных данных, мошенничества, утечки конфиденциальной информации и серьезного ущерба репутации.

Кроме того, дипфейки создают сложные социальные проблемы, размывая границы между реальностью и вымыслом, делая информацию в киберпространстве трудноразличимой и легко поддающейся манипуляциям.

Дипфейки — это искусственные изображения или видео, созданные с помощью технологий искусственного интеллекта (ИИ). По данным Университета Вирджинии (США), инструментом создания дипфейков является продвинутый тип машинного обучения (МО), называемый «глубоким обучением». Этот алгоритм учится воспроизводить контент на основе примеров, предоставленных программистом.

Ключевое отличие дипфейков от изображений, отредактированных в Photoshop или с помощью технологии замены лиц, заключается в их способности создавать сложные поддельные изображения, которые практически неотличимы от настоящих фотографий.

Согласно данным Глобальной инициативы по борьбе с транснациональной организованной преступностью, высокотехнологичные преступные группировки в Юго-Восточной Азии используют искусственный интеллект для выдачи себя за знаменитостей, тем самым осуществляя вымогательство, мошенничество и распространяя дезинформацию, что наносит серьезный вред общественности.

В отчете организации указано, что в Азиатско-Тихоокеанском регионе (АТР) в период с 2022 по 2023 год наблюдался резкий рост числа инцидентов, связанных с дипфейками, до 1530%. Примечательно, что самый высокий темп роста (4500%) был зафиксирован на Филиппинах, а во Вьетнаме – самый большой рост числа случаев мошенничества с дипфейками (25,3%).

Решения, которые правительства стран Юго-Восточной Азии внедряют для борьбы с дипфейками.

Дипфейки, от видео и изображений до аудиозаписей, получили широкое распространение благодаря значительным достижениям в области больших языковых моделей (LLM), таких как MidJourney, ChatGPT от OpenAI и Gemini от Google.

На Всемирном экономическом форуме по кибербезопасности 2023 года 46% участников опроса выразили обеспокоенность по поводу потенциальной возможности «конфронтации» со стороны ИИ, включая такие угрозы, как фишинг, разработка вредоносного ПО и создание дипфейков.

Ниже представлены некоторые решения, которые Ассоциация государств Юго-Восточной Азии (АСЕАН) внедряет для защиты общества от растущей проблемы мошенничества с использованием дипфейков.

Разрабатывать политику и нормативные акты.

Региональные власти активно рассматривают разработку политики и нормативных актов, касающихся защиты персональных данных, конфиденциальности и согласия пользователей. Наибольшая сложность заключается в том, как одновременно стимулировать инновации и обеспечивать прибыльность бизнеса, минимизируя при этом негативное воздействие на общество.

Например, Сингапур усиливает свою кибербезопасность для борьбы с мошенничеством с использованием дипфейков, стремясь защитить свою демократию и будущее страны. В одном из случаев киберпреступники использовали изображения бывшего премьер-министра Ли Сянь Луна для продвижения мошеннических инвестиционных продуктов.

Кроме того, ведущие технологические корпорации, такие как Microsoft, Meta, X (ранее Twitter) и Google, также активно участвуют в регулировании и в феврале прошлого года объявили о совместном обязательстве бороться с использованием ИИ в мошеннических целях.

Учреждатьмеханизмы обеспечения соблюдения

Исследователь Кэрол Сун, руководитель Института политических исследований Национального университета Сингапура, подчеркнула, что технологическим компаниям необходимо применять многогранный подход при внедрении и обеспечении соблюдения мер по борьбе со злоупотреблением ИИ в мошеннических целях.

Правительства стран АСЕАН активно принимают законы для борьбы с дипфейками и другими онлайн-угрозами. Например, Сингапур принял Закон о борьбе с онлайн-преступлениями и вредом (OCHA) и Закон о кибербезопасности для укрепления своих возможностей в области кибербезопасности.

Тем временем Филиппины создали Национальное агентство по реагированию на компьютерные чрезвычайные ситуации для борьбы с цифровыми инцидентами, а Индонезия развернула Национальное агентство по кибербезопасности и криптовалютам (BSSN) для противодействия киберугрозам.

Разработка решенийкреативные способы борьбыДипфейк снова

Исследование британской технологической компании Sumsub показывает, что количество обнаруженных в мире дипфейков в десятикратном размере в различных отраслях в период с 2022 по 2023 год.

В индустрии онлайн-медиа наблюдался самый резкий рост случаев мошенничества с личными данными. В частности, основной целью стала криптовалютная индустрия, на которую в 2023 году пришлось 88% выявленных случаев, за ней следует финтех-индустрия с 8%.

Компании, занимающиеся кибербезопасностью, такие как GROUP8, базирующаяся в Сингапуре, предлагают решения на основе искусственного интеллекта для обнаружения и предотвращения онлайн-угроз. Стартапам необходимо рассмотреть возможность разработки новых технологий для обнаружения и аутентификации дипфейков, а также обучения специалистов в области управления обучением точному выявлению дипфейков в реальных условиях.

В качестве возможных решений можно рассмотреть использование цифровых водяных знаков, технологии блокчейн и метаданных для обнаружения контента, созданного искусственным интеллектом.

Повышенная квалификация в области технологических знаний

По данным Всемирного экономического форума (ВЭФ), повышение осведомленности общественности об опасностях в интернете поможет гражданам стать более бдительными и научиться отличать достоверную информацию от сфабрикованного контента. Это также поможет предотвратить распространение дезинформации, созданной с помощью искусственного интеллекта.

Полезные советы по выявлению дипфейков включают проверку соответствия отличительных черт человека на видео предыдущим изображениям, изучение деталей на фотографиях или видео, а также оценку того, являются ли движения персонажа естественными или анимированными. Кроме того, внедрение многофакторной аутентификации поможет защитить личные устройства от несанкционированного доступа.

ПерспективыЧто касается борьбы с дипфейками в Юго-Восточной Азии

В условиях активного продвижения АСЕАН целей цифровой трансформации регион становится все более уязвимым для угроз кибербезопасности. Для решения этой проблемы компаниям необходимо внедрять целый ряд инструментов безопасности, включая облачные технологии, блокчейн, процессы автоматизации и другие технические решения для обеспечения сохранности и защиты данных.

Однако борьба с дипфейками по-прежнему сталкивается со многими серьезными проблемами. К числу таких препятствий относятся ограниченные ресурсы, неустанное развитие технологий, нехватка специалистов по искусственному интеллекту, все более сюрреалистичные дипфейки, непоследовательное правовое регулирование и низкий уровень обнаружения.

Для эффективного противодействия этой угрозе региональным правительствам и заинтересованным сторонам необходимо укреплять сотрудничество и запрашивать информацию у других стран о принимаемых ими мерах.

Кроме того, обеспечение достаточного финансирования и ресурсов имеет решающее значение для эффективной реализации мер по борьбе с дипфейками.