Que font les pays d'Asie du Sud-Est pour lutter contre les arnaques aux deepfakes ?

Les deepfakes deviennent une menace sérieuse en Asie du Sud-Est, causant des dommages importants aux entreprises, aux gouvernements et aux utilisateurs individuels.

Selon Tan Ah Tuan, responsable de la recherche et de l'innovation (Ensign Labs) chez Ensign InfoSecurity (Singapour), une société de cybersécurité, cette technologie érode non seulement la confiance dans les organisations, mais crée également des opportunités de vol d'identité, de fraude, de fuites de données sensibles et de graves atteintes à la réputation.

De plus, les deepfakes créent des problèmes sociaux complexes, brouillant les frontières entre réalité et fiction, rendant l'information dans le cyberespace difficile à distinguer et facilement manipulable.

Les deepfakes sont des images ou des vidéos artificielles créées grâce à l'intelligence artificielle (IA). Selon l'Université de Virginie (États-Unis), un type avancé d'apprentissage automatique appelé « apprentissage profond » est l'outil utilisé pour créer des deepfakes. Cet algorithme apprend à reproduire du contenu à partir d'exemples fournis par le programmeur.

La principale différence entre les deepfakes et les images retouchées avec Photoshop ou la technologie d'échange de visages réside dans leur capacité à créer des images truquées sophistiquées, presque impossibles à distinguer des vraies photos.

Selon l'Initiative mondiale de lutte contre la criminalité transnationale organisée, des groupes criminels de haute technologie en Asie du Sud-Est utilisent l'IA pour usurper l'identité de célébrités, se livrant ainsi à l'extorsion, à la fraude et à la diffusion de fausses informations, causant un préjudice grave au public.

Le rapport de l'organisation montre que la région Asie-Pacifique (APAC) a connu une augmentation spectaculaire allant jusqu'à 1 530 % des incidents liés aux deepfakes entre 2022 et 2023. Notamment, les Philippines ont enregistré le taux de croissance le plus élevé, à 4 500 %, tandis que le Vietnam a enregistré la plus forte augmentation des cas de fraude aux deepfakes, à 25,3 %.

Solutions mises en œuvre par les gouvernements d'Asie du Sud-Est pour lutter contre les deepfakes.

Les deepfakes, qui vont des vidéos et des images aux enregistrements audio, se sont largement répandus grâce aux progrès significatifs réalisés dans le domaine des grands modèles de langage (LLM) tels que MidJourney, ChatGPT d'OpenAI et Gemini de Google.

Lors du Forum économique mondial de 2023 sur la cybersécurité, 46 % des participants à l'enquête ont exprimé des inquiétudes quant au potentiel de « confrontation » de l'IA, notamment face à des menaces telles que le phishing, le développement de logiciels malveillants et la création de deepfakes.

Vous trouverez ci-dessous quelques-unes des solutions que l'Association des nations de l'Asie du Sud-Est (ASEAN) met en œuvre pour protéger la communauté contre le problème croissant des escroqueries par deepfake.

Élaborer des politiques et des réglementations.

Les autorités régionales étudient activement l'élaboration de politiques et de réglementations relatives à la protection des données personnelles, au respect de la vie privée et au consentement des utilisateurs. Le principal défi consiste à concilier la promotion de l'innovation et la rentabilité des entreprises, tout en minimisant les impacts négatifs sur le public.

Singapour, par exemple, renforce sa cybersécurité pour lutter contre les escroqueries par deepfake, dans le but de protéger sa démocratie et l'avenir du pays. Dans un cas précis, des cybercriminels ont utilisé des images de l'ancien Premier ministre Lee Hsien Loong pour promouvoir des produits d'investissement frauduleux.

Par ailleurs, des entreprises technologiques de premier plan telles que Microsoft, Meta, X (anciennement Twitter) et Google participent activement à la réglementation et ont annoncé en février dernier un engagement commun pour lutter contre l'utilisation de l'IA à des fins frauduleuses.

Établirmécanismes d'application

La chercheuse Carol Soon, directrice de l'Institut d'études politiques de l'Université nationale de Singapour, a souligné que les entreprises technologiques doivent adopter une approche multidimensionnelle pour déployer et appliquer des mesures visant à lutter contre le détournement de l'IA à des fins frauduleuses.

Les gouvernements de l'ASEAN ont pris des mesures législatives proactives pour lutter contre les deepfakes et autres menaces en ligne. Singapour, par exemple, a adopté la loi sur la cybercriminalité et la cybersécurité (Online Crime Harm Act - OCHA) afin de renforcer ses capacités en la matière.

Parallèlement, les Philippines ont créé une Agence nationale de réponse aux urgences informatiques pour gérer les incidents numériques, tandis que l'Indonésie a déployé une Agence nationale de cybersécurité et de cryptomonnaie (BSSN) pour faire face aux menaces liées à la cybersécurité.

Développement de solutionsdes moyens créatifs de se battreEncore un deepfake

Une étude menée par la société technologique britannique Sumsub indique que le nombre de deepfakes détectés dans le monde a décuplé dans de nombreux secteurs entre 2022 et 2023.

Le secteur des médias en ligne a connu la plus forte augmentation des cas d'usurpation d'identité. Plus particulièrement, le secteur des cryptomonnaies est devenu une cible privilégiée, représentant 88 % des cas détectés en 2023, suivi par le secteur de la fintech avec 8 %.

Des entreprises de cybersécurité comme GROUP8, basée à Singapour, proposent des solutions basées sur l'IA pour détecter et prévenir les menaces en ligne. Les startups doivent envisager de développer de nouvelles technologies pour détecter et authentifier les deepfakes, ainsi que de former des experts en intelligence artificielle à identifier précisément les deepfakes en temps réel.

Parmi les solutions possibles, on peut citer l'utilisation de filigranes numériques, de la technologie blockchain et de métadonnées pour détecter les contenus générés par l'IA.

formation avancée en connaissances technologiques

Selon le Forum économique mondial (WEF), sensibiliser le public aux dangers en ligne permettra aux citoyens d'être plus vigilants et d'apprendre à distinguer les informations authentiques des contenus falsifiés. Cela contribuera également à prévenir la propagation de la désinformation générée par l'intelligence artificielle.

Pour identifier les deepfakes, il est utile de vérifier la cohérence des traits distinctifs de la personne dans la vidéo avec ses images précédentes, d'examiner les détails des photos ou vidéos et de déterminer si les mouvements du personnage sont naturels ou animés. De plus, l'authentification multifacteurs contribue à protéger les appareils personnels contre les accès non autorisés.

PerspectivesConcernant la lutte contre les deepfakes en Asie du Sud-Est

Alors que l'ASEAN poursuit ses objectifs de transformation numérique, la région est de plus en plus vulnérable aux cybermenaces. Pour y remédier, les entreprises doivent déployer un ensemble d'outils de sécurité, notamment le cloud, la blockchain, l'automatisation des processus et d'autres solutions techniques, afin de garantir la sûreté et la sécurité des données.

Cependant, la lutte contre les deepfakes reste confrontée à de nombreux défis de taille. Des problèmes tels que la limitation des ressources, le développement technologique incessant, la pénurie d'experts en IA, le caractère de plus en plus surréaliste des deepfakes, l'incohérence des réglementations juridiques et les faibles taux de détection constituent autant d'obstacles majeurs.

Pour contrer efficacement cette menace, les gouvernements régionaux et les parties prenantes doivent renforcer leur coopération et solliciter l'avis d'autres pays sur les mesures qu'ils mettent en œuvre.

De plus, un financement et des ressources suffisants sont essentiels pour garantir la mise en œuvre efficace des efforts de lutte contre les deepfakes.