Что делают страны Юго-Восточной Азии для борьбы с мошенничеством, связанным с дипфейками?

Дипфейки становятся серьезной угрозой в Юго-Восточной Азии, нанося значительный ущерб бизнесу, правительствам и отдельным пользователям.

По словам Тан А Туана, руководителя отдела исследований и инноваций (Ensign Labs) в компании Ensign InfoSecurity (Сингапур), занимающейся кибербезопасностью, эта технология не только подрывает доверие к организациям, но и создает возможности для кражи личных данных, мошенничества, утечки конфиденциальной информации и серьезного ущерба репутации.

Кроме того, дипфейки создают сложные социальные проблемы, размывая границы между реальностью и вымыслом, делая информацию в киберпространстве трудноразличимой и легко поддающейся манипуляциям.

Дипфейки — это искусственные изображения или видео, созданные с помощью технологий искусственного интеллекта (ИИ). По данным Университета Вирджинии (США), инструментом создания дипфейков является продвинутый тип машинного обучения (МО), называемый «глубоким обучением». Этот алгоритм учится воспроизводить контент на основе примеров, предоставленных программистом.

Ключевое отличие дипфейков от изображений, отредактированных в Photoshop или с помощью технологии замены лиц, заключается в их способности создавать сложные поддельные изображения, которые практически неотличимы от настоящих фотографий.

Согласно данным Глобальной инициативы по борьбе с транснациональной организованной преступностью, высокотехнологичные преступные группировки в Юго-Восточной Азии используют искусственный интеллект для выдачи себя за знаменитостей, тем самым осуществляя вымогательство, мошенничество и распространяя дезинформацию, что наносит серьезный вред общественности.

В отчете организации указано, что в Азиатско-Тихоокеанском регионе (АТР) в период с 2022 по 2023 год наблюдался резкий рост числа инцидентов, связанных с дипфейками, до 1530%. Примечательно, что самый высокий темп роста (4500%) был зафиксирован на Филиппинах, а во Вьетнаме – самый большой рост числа случаев мошенничества с дипфейками (25,3%).

Решения, которые правительства стран Юго-Восточной Азии внедряют для борьбы с дипфейками.

Дипфейки, от видео и изображений до аудиозаписей, получили широкое распространение благодаря значительным достижениям в области больших языковых моделей (LLM), таких как MidJourney, ChatGPT от OpenAI и Gemini от Google.

На Всемирном экономическом форуме по кибербезопасности 2023 года 46% участников опроса выразили обеспокоенность по поводу потенциальной возможности «конфронтации» со стороны ИИ, включая такие угрозы, как фишинг, разработка вредоносного ПО и создание дипфейков.

Ниже представлены некоторые решения, которые Ассоциация государств Юго-Восточной Азии (АСЕАН) внедряет для защиты общества от растущей проблемы мошенничества с использованием дипфейков.

Разрабатывать политику и нормативные акты.

Региональные власти активно рассматривают разработку политики и нормативных актов, касающихся защиты персональных данных, конфиденциальности и согласия пользователей. Наибольшая сложность заключается в том, как одновременно стимулировать инновации и обеспечивать прибыльность бизнеса, минимизируя при этом негативное воздействие на общество.

Например, Сингапур усиливает свою кибербезопасность для борьбы с мошенничеством с использованием дипфейков, стремясь защитить свою демократию и будущее страны. В одном из случаев киберпреступники использовали изображения бывшего премьер-министра Ли Сянь Луна для продвижения мошеннических инвестиционных продуктов.

Кроме того, ведущие технологические корпорации, такие как Microsoft, Meta, X (ранее Twitter) и Google, также активно участвуют в регулировании и в феврале прошлого года объявили о совместном обязательстве бороться с использованием ИИ в мошеннических целях.

Учреждатьмеханизмы обеспечения соблюдения

Исследователь Кэрол Сун, руководитель Института политических исследований Национального университета Сингапура, подчеркнула, что технологическим компаниям необходимо применять многогранный подход при внедрении и обеспечении соблюдения мер по борьбе со злоупотреблением ИИ в мошеннических целях.

Правительства стран АСЕАН активно принимают законы для борьбы с дипфейками и другими онлайн-угрозами. Например, Сингапур принял Закон о борьбе с онлайн-преступлениями и вредом (OCHA) и Закон о кибербезопасности для укрепления своих возможностей в области кибербезопасности.

Тем временем Филиппины создали Национальное агентство по реагированию на компьютерные чрезвычайные ситуации для борьбы с цифровыми инцидентами, а Индонезия развернула Национальное агентство по кибербезопасности и криптовалютам (BSSN) для противодействия киберугрозам.

Разработка решенийкреативные способы борьбыДипфейк снова

Исследование британской технологической компании Sumsub показывает, что количество обнаруженных в мире дипфейков в десятикратном размере в различных отраслях в период с 2022 по 2023 год.

В индустрии онлайн-медиа наблюдался самый резкий рост случаев мошенничества с личными данными. В частности, основной целью стала криптовалютная индустрия, на которую в 2023 году пришлось 88% выявленных случаев, за ней следует финтех-индустрия с 8%.

Компании, занимающиеся кибербезопасностью, такие как GROUP8, базирующаяся в Сингапуре, предлагают решения на основе искусственного интеллекта для обнаружения и предотвращения онлайн-угроз. Стартапам необходимо рассмотреть возможность разработки новых технологий для обнаружения и аутентификации дипфейков, а также обучения специалистов в области управления обучением точному выявлению дипфейков в реальных условиях.

В качестве возможных решений можно рассмотреть использование цифровых водяных знаков, технологии блокчейн и метаданных для обнаружения контента, созданного с помощью ИИ.

Đào tạo nâng cao kiến thức công nghệ

Theo Diễn đàn Kinh tế Thế giới (WEF), việc nâng cao nhận thức công chúng về các mối nguy hiểm trực tuyến sẽ giúp công dân trở nên cảnh giác hơn và học cách phân biệt giữa thông tin xác thực và những nội dung bịa đặt. Điều này cũng giúp ngăn chặn việc lan truyền thông tin sai lệch do AI tạo ra.

Một số mẹo hữu ích để nhận diện deepfake bao gồm việc kiểm tra sự nhất quán của các đặc điểm nhận dạng của người trong video với các hình ảnh trước đó, xem xét các chi tiết trong ảnh hoặc video, và đánh giá chuyển động của nhân vật có tự nhiên hay giống như hoạt hình. Bên cạnh đó, việc áp dụng xác thực đa yếu tố sẽ giúp bảo vệ các thiết bị cá nhân khỏi truy cập trái phép.

Triển vọng về việc chống lại deepfake ở Đông Nam Á

Với việc ASEAN đang thúc đẩy các mục tiêu chuyển đổi số, khu vực này trở nên dễ bị tổn thương trước các mối nguy hại về an ninh mạng. Để đối phó với tình hình, các công ty cần phải triển khai một loạt các công cụ bảo mật, bao gồm công nghệ đám mây, blockchain, cùng các quy trình tự động hóa và các giải pháp kỹ thuật khác để đảm bảo an toàn và bảo mật dữ liệu.

Tuy nhiên, cuộc chiến chống lại deepfake vẫn đối mặt với nhiều thách thức lớn. Các vấn đề như nguồn lực hạn chế, sự phát triển không ngừng của công nghệ, thiếu hụt chuyên môn về AI, deepfake ngày càng siêu thực, các quy định pháp lý không đồng nhất và tỷ lệ phát hiện thấp là những yếu tố cản trở đáng kể.

Để đối phó hiệu quả với mối đe dọa này, các chính phủ trong khu vực và các bên liên quan cần tăng cường hợp tác với nhau, đồng thời tìm kiếm các ý kiến đóng góp từ các quốc gia khác về các biện pháp họ đang triển khai.

Bên cạnh đó, việc cung cấp đủ kinh phí và nguồn lực là vô cùng quan trọng để đảm bảo các nỗ lực chống deepfake được thực thi một cách hiệu quả.