Que font les pays d'Asie du Sud-Est pour lutter contre la fraude par deepfake ?

Les deepfakes deviennent une menace sérieuse en Asie du Sud-Est, causant des dommages importants aux entreprises, aux gouvernements et aux utilisateurs individuels.

Selon M. Tan Ah Tuan, responsable de la recherche et de l'innovation (Ensign Labs) chez Ensign InfoSecurity (Singapour), une société de cybersécurité, cette technologie réduit non seulement la confiance dans les organisations, mais crée également des opportunités de vol d'identité, de fraude, de fuite de données sensibles et cause de graves dommages à la réputation.

De plus, les deepfakes engendrent également des problèmes sociaux complexes, brouillant la frontière entre réalité et fiction, ce qui rend l'information dans le cyberespace difficile à distinguer et facile à manipuler.

Un deepfake est une image ou une vidéo synthétique créée à l'aide de l'intelligence artificielle (IA). Selon l'Université de Virginie (États-Unis), un type avancé d'apprentissage automatique (AA) appelé « apprentissage profond » est l'outil à la base de la création des deepfakes. Cet algorithme apprend à recréer du contenu à partir d'exemples fournis par les programmeurs.

Ce qui distingue le deepfake des images retouchées ou de la technologie d'échange de visages, c'est sa capacité à créer des images truquées sophistiquées, presque impossibles à distinguer des vraies photos.

Selon l'Initiative mondiale contre la criminalité transnationale organisée, des groupes criminels de haute technologie en Asie du Sud-Est ont utilisé l'IA pour usurper l'identité de célébrités, commettant ainsi des actes d'extorsion, de fraude et de diffusion de fausses informations, causant de graves préjudices aux populations.

Le rapport de l'organisation montre que la région Asie-Pacifique (APAC) a connu une augmentation allant jusqu'à 1 530 % des cas liés aux deepfakes au cours de la période 2022-2023. Notamment, les Philippines ont enregistré le taux de croissance le plus élevé, atteignant 4 500 %, tandis que le Vietnam a enregistré le taux d'augmentation le plus élevé des cas de fraude aux deepfakes, à 25,3 %.

Solutions adoptées par les gouvernements d'Asie du Sud-Est pour lutter contre les deepfakes

Les deepfakes, qu'il s'agisse de vidéos, d'images ou d'enregistrements audio, sont devenus populaires grâce aux progrès considérables réalisés dans le domaine des grands modèles de langage (LLM) comme MidJourney, ChatGPT d'OpenAI et Gemini de Google.

Lors du Forum économique mondial sur la cybersécurité 2023, 46 % des personnes interrogées ont exprimé des inquiétudes quant au potentiel « conflictuel » de l'IA, notamment en ce qui concerne les menaces telles que la fraude, le développement de logiciels malveillants et la création de deepfakes.

Voici quelques-unes des solutions que l'Association des nations de l'Asie du Sud-Est (ASEAN) met en œuvre pour protéger la communauté contre le problème croissant des escroqueries par deepfake.

Élaborer des politiques et des règlements

Les gouvernements régionaux étudient activement l'élaboration de politiques et de réglementations relatives à la protection des données personnelles, au respect de la vie privée et au consentement des utilisateurs. Le principal défi consiste à promouvoir l'innovation et à faciliter la rentabilité des entreprises tout en veillant à minimiser les impacts négatifs sur le public.

Singapour, par exemple, renforce sa cybersécurité pour lutter contre les escroqueries par deepfake afin de protéger sa démocratie et l'avenir du pays. Dans une affaire très médiatisée, des cybercriminels ont utilisé l'image de l'ancien Premier ministre Lee Hsien Loong pour promouvoir de faux produits d'investissement.

En outre, des entreprises technologiques de premier plan telles que Microsoft, Meta, X (anciennement Twitter) et Google participent activement à la gestion et ont annoncé en février de l'année dernière un engagement commun pour lutter contre l'utilisation de l'IA à des fins frauduleuses.

Établirmécanismes d'application

Carol Soon, chercheuse et directrice de l'Institut d'études politiques de l'Université nationale de Singapour, a souligné que les entreprises technologiques doivent adopter une approche multidimensionnelle pour déployer et appliquer des mesures visant à lutter contre le détournement de l'IA à des fins frauduleuses.

Les gouvernements de l'ASEAN ont pris des mesures proactives en adoptant des lois pour lutter contre les deepfakes et autres menaces en ligne. Singapour, par exemple, a promulgué la loi sur les préjudices en ligne (OCHA) et la loi sur la cybersécurité afin de renforcer ses défenses numériques.

Parallèlement, les Philippines ont créé la National Computer Emergency Response Agency (NCERA) pour gérer les incidents numériques, tandis que l'Indonésie a lancé la National Cyber ​​Security and Cryptocurrency Agency (BSSN) pour faire face aux risques liés à la cybersécurité.

Développement de solutionsla créativité pour combattredeepfake à nouveau

Une étude menée par la société technologique britannique Sumsub montre que le nombre de deepfakes détectés dans le monde a été multiplié par 10 dans de nombreux secteurs entre 2022 et 2023.

Le secteur des médias en ligne a connu la plus forte augmentation des usurpations d'identité. Plus particulièrement, le secteur des cryptomonnaies est devenu la principale cible, représentant 88 % des cas détectés en 2023, suivi par le secteur de la fintech avec 8 %.

Des entreprises de cybersécurité comme GROUP8, basée à Singapour, proposent des solutions d'intelligence artificielle pour détecter et prévenir les cybermenaces. Les startups devraient envisager de développer de nouvelles technologies pour détecter et authentifier les deepfakes, ainsi que de former des experts en intelligence artificielle à identifier précisément les deepfakes en temps réel.

Parmi les solutions possibles, on peut citer l'utilisation de filigranes numériques, de la technologie blockchain et de métadonnées pour détecter les contenus générés par l'IA.

formation avancée en connaissances technologiques

Selon le Forum économique mondial (WEF), sensibiliser le public aux dangers en ligne permettra aux citoyens d'être plus vigilants et d'apprendre à distinguer les informations authentiques des contenus falsifiés. Cela contribuera également à prévenir la propagation de la désinformation générée par l'intelligence artificielle.

Pour identifier les deepfakes, il est utile de vérifier la cohérence des traits du visage avec des images antérieures, d'examiner les détails de la photo ou de la vidéo et d'évaluer si les mouvements du personnage paraissent naturels ou caricaturaux. De plus, l'authentification multifacteurs contribue à protéger les appareils personnels contre les accès non autorisés.

Perspectivessur la lutte contre les deepfakes en Asie du Sud-Est

Alors que l'ASEAN poursuit sa transformation numérique, la région devient vulnérable aux cybermenaces. Pour y faire face, les entreprises doivent déployer un ensemble d'outils de sécurité, notamment le cloud, la blockchain, l'automatisation des processus et d'autres solutions techniques, afin de garantir la sécurité des données.

Cependant, la lutte contre les deepfakes reste confrontée à de nombreux défis majeurs. Des problèmes tels que la limitation des ressources, l'évolution constante des technologies, le manque d'expertise en IA, le réalisme croissant des deepfakes, l'incohérence des réglementations juridiques et les faibles taux de détection constituent des obstacles importants.

Pour faire face efficacement à cette menace, les gouvernements régionaux et les parties prenantes doivent renforcer leur coopération et solliciter l'avis d'autres pays sur les mesures qu'ils mettent en œuvre.

De plus, un financement et des ressources adéquats sont essentiels pour garantir la mise en œuvre efficace des efforts de lutte contre les deepfakes.