Google lance une fonctionnalité de détection des arnaques basée sur l'IA pour les utilisateurs Android

Face aux arnaques constantes dont sont victimes les appareils Android par le biais d'appels et de messages frauduleux, Google a déployé une technologie d'IA avancée pour protéger les utilisateurs.

Cette fonctionnalité est conçue pour détecter et signaler automatiquement les appels et messages présentant des signes de fraude, aidant ainsi les utilisateurs à éviter des risques tels que la perte d'argent, le vol d'informations personnelles ou les attaques de logiciels malveillants.

Pourquoi Google lance-t-il une nouvelle fonctionnalité de détection des arnaques pour les utilisateurs Android ?

Afin de protéger les utilisateurs contre les attaques de phishing de plus en plus sophistiquées et dommageables de ces derniers temps, Google a lancé une nouvelle fonctionnalité pour détecter et prévenir une forme de fraude de plus en plus répandue : la fraude par appel vocal.

Dans une annonce officielle du 4 mars, un représentant de Google a confirmé que de nouvelles fonctionnalités de détection des arnaques basées sur l'IA sont en cours de déploiement auprès des utilisateurs de smartphones Android.

Traditionnellement, les protections anti-spam et anti-phishing se concentrent sur l'arrêt de la conversation avant même qu'elle ne commence, mais cela les rend moins efficaces contre les escroqueries sophistiquées d'ingénierie sociale.

Pour remédier à cela, Google a déclaré : « Nous avons investi dans de nouveaux modèles d'IA intelligents capables de détecter les comportements suspects et de fournir des alertes en temps réel pendant les conversations, tout en garantissant la confidentialité des utilisateurs. »

Comment fonctionne la nouvelle fonctionnalité de détection des arnaques de Google ?

Google exploite l'IA pour améliorer la détection des arnaques dans Google Messages, contribuant ainsi à protéger les utilisateurs même après la réception du premier message.

Selon Google, l'IA fonctionnera en temps réel pour identifier les anomalies dans les services de messagerie courte (SMS), les services de messagerie multimédia (MMS) ou les services de communication enrichie (RCS).

Si des signes suspects sont détectés, le système avertira les utilisateurs du risque d'escroquerie en cours et leur offrira la possibilité d'ignorer, de signaler ou de bloquer l'expéditeur.

Concernant la protection des appels, il s'agit d'une amélioration par rapport au déploiement initial auprès des utilisateurs de Pixel aux États-Unis fin 2018. Elle utilise un modèle d'IA embarqué pour analyser les conversations en temps réel.

« Si un interlocuteur vous demande de payer avec une carte cadeau pour finaliser une livraison, l'IA vous alertera immédiatement par notification audio, vibration et avertissement à l'écran que l'appel pourrait être frauduleux », explique Google.

Concernant le déploiement, la protection des messages basée sur l'IA sera d'abord lancée aux États-Unis, au Royaume-Uni et au Canada, avant d'être étendue à d'autres pays. Parallèlement, la protection des appels, qui utilise la technologie Gemini Nano, sera disponible pour tous les utilisateurs anglophones de Pixel 9 aux États-Unis.

Mike Britton, directeur des systèmes d'information de la société de cybersécurité Abnormal Security (USA), a souligné que, face à la sophistication croissante des attaques d'ingénierie sociale, notamment avec la montée en puissance des escroqueries basées sur l'IA, la sécurité basée sur l'IA n'est plus une option, mais une nécessité.

Il a toutefois averti que les cybercriminels utilisent l'IA pour contourner les systèmes de détection traditionnels en créant des attaques hautement personnalisées.

Par conséquent, les systèmes de défense basés sur l'IA doivent aller au-delà de la simple reconnaissance de mots-clés et analyser même les plus petites anomalies comportementales afin de détecter les intentions malveillantes.

Cette approche s'est avérée efficace dans le secteur interentreprises (B2B), où l'IA aide à détecter les compromissions sophistiquées de courriels et les fraudes financières, conclut Britton.

Il a déclaré que l'application d'une technologie similaire pour protéger les consommateurs constitue un pas en avant encourageant, contribuant à prévenir la fraude avant qu'elle n'entraîne de graves conséquences.

Cette nouvelle fonctionnalité de détection des arnaques garantit-elle la confidentialité des utilisateurs ?

Une question que beaucoup se posent concerne la sécurité de ces nouvelles fonctionnalités de détection de fraude, notamment lorsqu'elles font appel à l'analyse par IA et que certaines sont activées par défaut. La confidentialité est-elle réellement garantie ? Et surtout, est-il nécessaire de désactiver ces fonctionnalités ?

Le principal problème du système de détection des arnaques de Google réside dans son fonctionnement exclusivement sur l'appareil. Dans le cas de Google Messages, il ne s'applique qu'aux messages provenant de personnes qui ne figurent pas dans vos contacts.

Google affirme que le traitement des messages s'effectue intégralement sur l'appareil, garantissant ainsi une protection maximale de la vie privée des utilisateurs. Si vous signalez une conversation pour lutter contre le spam, seules les informations concernant l'expéditeur et quelques messages récents seront partagées avec Google et votre opérateur, et non l'intégralité du contenu de vos messages.

De même, la protection des appels est conçue dans le respect de la vie privée. Google explique que l'audio des appels n'est traité que temporairement, et qu'aucune donnée n'est stockée, enregistrée ou envoyée à Google ou à des tiers. La seule différence est que cette fonctionnalité est désactivée par défaut.

À ce sujet, M. Eugene Liderman, directeur des produits de sécurité et de confidentialité chez Google et président du groupe Sécurité et lutte contre la fraude de la GSMA (World Mobile Association), a déclaré : « Nous sommes ravis d'offrir aux utilisateurs de nouvelles protections, basées sur l'IA, disponibles uniquement sur Android. »

« Ces fonctionnalités sont conçues dans le respect de la vie privée, afin de protéger les utilisateurs contre la multiplication des arnaques sophistiquées. La détection des fraudes exploite la puissance de l'IA embarquée pour fournir des alertes en temps réel tout en préservant la confidentialité des conversations. Surtout, les utilisateurs gardent le contrôle : ils peuvent désactiver cette fonctionnalité à tout moment dans leurs paramètres », a ajouté Eugene Liderman.

Comme vous pouvez le constater, Google a établi une distinction claire entre la sécurité basée sur l'IA et la protection de la vie privée, vous protégeant ainsi des arnaques et vous évitant de vous inquiéter de la collecte de vos données personnelles.