Que font les pays d’Asie du Sud-Est pour lutter contre la fraude deepfake ?

Les deepfakes deviennent une menace sérieuse en Asie du Sud-Est, causant des dommages importants aux entreprises, aux gouvernements et aux utilisateurs individuels.

Selon M. Tan Ah Tuan, responsable de la recherche et de l'innovation (Ensign Labs) de la société de cybersécurité Ensign InfoSecurity (Singapour), cette technologie réduit non seulement la confiance dans les organisations, mais crée également des opportunités de vol d'identité, de fraude, de fuite de données sensibles et cause de graves dommages à la réputation.

En outre, les deepfakes provoquent également des problèmes sociaux complexes, brouillant la frontière entre réalité et fiction, rendant les informations dans le cyberespace difficiles à distinguer et faciles à manipuler.

Les deepfakes sont des images ou vidéos de synthèse créées grâce à l'intelligence artificielle (IA). Selon l'Université de Virginie (États-Unis), un type avancé d'apprentissage automatique (ML) appelé « deep learning » est à l'origine de la création de deepfakes. Cet algorithme apprend à recréer du contenu à partir d'exemples fournis par les programmeurs.

Ce qui distingue les deepfakes des images retouchées ou de la technologie d'échange de visages, c'est leur capacité à créer de fausses images sophistiquées qui sont presque impossibles à distinguer des vraies photos.

Selon l’Initiative mondiale contre la criminalité transnationale organisée, les groupes criminels de haute technologie d’Asie du Sud-Est ont profité de l’IA pour se faire passer pour des célébrités, commettant ainsi des actes d’extorsion, de fraude et de diffusion de désinformation, causant de graves dommages à la population.

Le rapport de l'organisation montre que la région Asie-Pacifique (APAC) a connu une augmentation allant jusqu'à 1 530 % des incidents liés aux deepfakes au cours de la période 2022-2023. Les Philippines ont notamment enregistré le taux de croissance le plus élevé, atteignant 4 500 %, tandis que le Vietnam a enregistré le taux d'augmentation le plus élevé des cas de fraude aux deepfakes, soit 25,3 %.

Ce que font les gouvernements d'Asie du Sud-Est pour lutter contre les deepfakes

Les deepfakes de vidéos, d'images et d'enregistrements audio sont devenus populaires grâce aux grandes avancées des modèles de langage de grande taille (LLM) comme MidJourney, ChatGPT d'OpenAI et Gemini de Google.

Lors du Forum économique mondial sur la cybersécurité 2023, 46 % des personnes interrogées ont exprimé des inquiétudes quant au potentiel « conflictuel » de l'IA, notamment face à des menaces telles que la fraude, le développement de logiciels malveillants et la création de deepfakes.

Voici quelques-unes des solutions que l’Association des nations de l’Asie du Sud-Est (ASEAN) met en œuvre pour protéger la communauté du problème croissant de la fraude deepfake.

Élaborer des politiques et des réglementations

Les gouvernements régionaux envisagent activement l'élaboration de politiques et de réglementations relatives à la protection des données personnelles, à la vie privée et au consentement des utilisateurs. Le principal défi consiste à promouvoir l'innovation et à permettre aux entreprises de réaliser des bénéfices tout en minimisant les impacts négatifs sur le public.

Singapour, par exemple, renforce sa cybersécurité pour lutter contre les arnaques dites « deepfake » et protéger ainsi sa démocratie et l'avenir du pays. Dans une affaire très médiatisée, des cybercriminels ont utilisé l'image de l'ancien Premier ministre Lee Hsien Loong pour promouvoir de faux produits d'investissement.

En outre, des sociétés technologiques de premier plan telles que Microsoft, Meta, X (anciennement Twitter) et Google participent également activement à la gestion et ont annoncé un engagement commun en février de l’année dernière pour lutter contre l’utilisation de l’IA à des fins frauduleuses.

Établirmécanismes d'application

La chercheuse Carol Soon, directrice de l’Institut d’études politiques de l’Université nationale de Singapour, a souligné que les entreprises technologiques doivent adopter une approche à plusieurs volets pour déployer et appliquer des mesures visant à lutter contre l’utilisation abusive de l’IA à des fins frauduleuses.

Les gouvernements de l'ASEAN ont pris l'initiative de promulguer des lois pour lutter contre les deepfakes et autres menaces en ligne. Singapour, par exemple, a adopté la loi sur les atteintes aux droits en ligne (OCHA) et la loi sur la cybersécurité afin de renforcer ses défenses informatiques.

Entre-temps, les Philippines ont créé l'Agence nationale d'intervention en cas d'urgence informatique pour gérer les incidents numériques, tandis que l'Indonésie a lancé l'Agence nationale de cybersécurité et de crypto-monnaie (BSSN) pour faire face aux risques liés à la cybersécurité.

Développer des solutionscréatif pour lutterdeepfake encore

Une étude menée par la société technologique britannique Sumsub montre que le nombre de deepfakes détectés à l'échelle mondiale a été multiplié par 10 dans de nombreux secteurs entre 2022 et 2023.

Le secteur des médias en ligne a enregistré la plus forte hausse des fraudes à l'identité. Le secteur des cryptomonnaies est notamment devenu la principale cible, représentant 88 % des cas détectés en 2023, suivi par le secteur des technologies financières (fintech) avec 8 %.

Des entreprises de cybersécurité comme GROUP8, basée à Singapour, proposent des solutions basées sur l'IA pour détecter et prévenir les cybermenaces. Les startups devraient envisager de développer de nouvelles technologies pour détecter et authentifier les deepfakes, ainsi que de former des masters en informatique à les identifier avec précision en temps réel.

Certaines solutions possibles pourraient inclure l’utilisation de filigranes numériques, de la technologie blockchain et de métadonnées pour détecter le contenu généré par l’IA.

Formation en technologie avancée

Selon le Forum économique mondial (FEM), sensibiliser le public aux dangers d'Internet aidera les citoyens à devenir plus vigilants et à apprendre à distinguer les informations authentiques des contenus fabriqués. Cela contribuera également à prévenir la propagation de fausses informations générées par l'IA.

Voici quelques conseils utiles pour identifier les deepfakes : vérifier la cohérence entre les traits du visage de la personne dans la vidéo et les images précédentes, examiner les détails de la photo ou de la vidéo et évaluer si les mouvements du personnage semblent naturels ou caricaturaux. De plus, la mise en œuvre d'une authentification multifacteur contribuera à protéger les appareils personnels contre les accès non autorisés.

Perspectivessur la lutte contre les deepfakes en Asie du Sud-Est

Alors que l'ASEAN poursuit ses objectifs de transformation numérique, la région devient vulnérable aux menaces de cybersécurité. Pour y faire face, les entreprises doivent déployer une gamme d'outils de sécurité, notamment le cloud, la blockchain, les processus automatisés et d'autres solutions techniques pour garantir la sécurité des données.

Cependant, la lutte contre les deepfakes reste confrontée à de nombreux défis majeurs. Des problèmes tels que les ressources limitées, le développement constant des technologies, le manque d'expertise en IA, des deepfakes de plus en plus réalistes, des réglementations juridiques incohérentes et de faibles taux de détection constituent des obstacles majeurs.

Pour faire face efficacement à cette menace, les gouvernements régionaux et les parties prenantes doivent renforcer leur coopération et solliciter l’avis d’autres pays sur les mesures qu’ils mettent en œuvre.

En outre, il est essentiel de fournir un financement et des ressources adéquats pour garantir que les efforts de lutte contre les deepfakes soient mis en œuvre efficacement.