Google lance une fonctionnalité de détection des escroqueries alimentée par l'IA pour les utilisateurs d'Android

Les appareils Android étant constamment ciblés par des escrocs via des appels et des messages, Google a déployé une technologie d'IA avancée pour protéger les utilisateurs.

Cette fonctionnalité est conçue pour détecter et avertir automatiquement des appels et des messages présentant des signes de fraude, aidant ainsi les utilisateurs à éviter les risques tels que la perte d'argent, le vol d'informations personnelles ou l'attaque de logiciels malveillants.

Pourquoi Google lance-t-il une nouvelle fonctionnalité de détection des arnaques pour les utilisateurs d'Android ?

Afin de protéger les utilisateurs contre les attaques de phishing de plus en plus sophistiquées et dommageables ces derniers temps, Google a lancé une nouvelle fonctionnalité pour détecter et prévenir une forme de fraude de plus en plus populaire : la fraude aux appels vocaux.

Dans une annonce officielle du 4 mars, un représentant de Google a confirmé que de nouvelles fonctionnalités de détection d'escroqueries basées sur l'IA sont désormais déployées pour les utilisateurs de smartphones Android.

Traditionnellement, les protections anti-spam et anti-phishing se concentrent sur le blocage avant même le début d'une conversation, mais cela les rend moins efficaces contre les escroqueries sophistiquées d'ingénierie sociale.

Pour résoudre ce problème, Google a déclaré : « Nous avons investi dans de nouveaux modèles d'IA intelligents qui peuvent détecter les comportements suspects et fournir des alertes en temps réel pendant les conversations tout en protégeant la confidentialité des utilisateurs. »

Comment fonctionne la nouvelle fonctionnalité de détection des escroqueries de Google ?

Google utilise l'IA pour améliorer la détection des escroqueries dans Google Messages, contribuant ainsi à protéger les utilisateurs même après avoir reçu le premier message.

Selon Google, l’IA fonctionnera en temps réel pour identifier les anomalies dans les services de messages courts (SMS), les services de messages multimédias (MMS) ou les services de communication enrichis (RCS).

Si des signes suspects sont détectés, le système alertera les utilisateurs du risque de fraude et leur offrira la possibilité d'ignorer, de signaler ou de bloquer l'expéditeur.

Quant à la fonction de protection des appels, elle constitue une avancée par rapport au déploiement initial auprès des utilisateurs de téléphones Pixel aux États-Unis à la fin de l'année dernière. Elle utilise un modèle d'IA intégré à l'appareil pour analyser les conversations en temps réel.

« Si un appelant vous demande de payer avec une carte-cadeau pour effectuer une livraison, l'IA vous avertira immédiatement par notification audio, vibration et avertissement à l'écran que l'appel peut être frauduleux », explique Google.

Concernant le calendrier de déploiement, la protection des messages basée sur l'IA sera d'abord lancée aux États-Unis, au Royaume-Uni et au Canada, avant d'être étendue à d'autres pays. Parallèlement, la protection des appels, qui utilise la technologie Gemini Nano, sera disponible pour tous les utilisateurs anglophones du Pixel 9 aux États-Unis.

Mike Britton, directeur de l'information chez Abnormal Security (États-Unis), a souligné que, à mesure que les attaques non techniques deviennent plus sophistiquées, en particulier avec l'essor des escroqueries basées sur l'IA, la sécurité basée sur l'IA n'est plus une option, mais une nécessité.

Il a toutefois également averti que les cybercriminels utilisent l’IA pour contourner les systèmes de détection traditionnels en créant des attaques hautement personnalisées.

Par conséquent, les défenses basées sur l’IA doivent aller au-delà de la simple reconnaissance de mots-clés et analyser même les plus petites anomalies comportementales pour détecter les intentions malveillantes.

Britton conclut que cette approche s’est avérée efficace dans le secteur interentreprises (B2B), où l’IA aide à détecter les compromissions sophistiquées des e-mails et les fraudes financières.

Il a déclaré que l’application d’une technologie similaire pour protéger les consommateurs constitue un pas en avant encourageant, contribuant à prévenir la fraude avant qu’elle n’entraîne de graves conséquences.

Cette nouvelle fonctionnalité de détection des escroqueries garantit-elle la confidentialité des utilisateurs ?

Beaucoup se demandent dans quelle mesure ces nouvelles fonctionnalités de détection de fraude sont sécurisées, d'autant plus qu'elles impliquent une analyse par IA et que certaines sont activées par défaut. La confidentialité est-elle réellement garantie ? Et surtout, est-il nécessaire de désactiver ces fonctionnalités ?

Le principal problème avec la façon dont Google a conçu cette fonctionnalité de détection d'hameçonnage est qu'elle fonctionne entièrement sur l'appareil. Dans le cas de la détection d'hameçonnage de Google Messages, elle ne s'applique qu'aux messages provenant de personnes qui ne figurent pas dans vos contacts.

Google affirme que le traitement des messages s'effectue entièrement sur l'appareil, protégeant ainsi la confidentialité des utilisateurs au maximum. Si vous signalez une conversation afin de réduire le spam, seules les informations concernant l'expéditeur et quelques messages récents seront partagés avec Google et votre opérateur, et non l'intégralité de vos messages.

De même, la protection des appels est conçue dans un souci de confidentialité. Google explique que le son des appels n'est traité que temporairement et que rien n'est stocké, enregistré ou transmis à Google ou à des tiers. La seule différence est que cette fonctionnalité est désactivée par défaut.

À ce propos, M. Eugene Liderman, directeur des produits de sécurité et de confidentialité chez Google et président du groupe de sécurité et de lutte contre la fraude de la World Mobile Association (GSMA), a déclaré : « Nous sommes ravis d'offrir aux utilisateurs de nouvelles protections, alimentées par l'IA, uniquement disponibles sur Android ».

« Ces fonctionnalités sont conçues dans un souci de confidentialité afin de protéger les utilisateurs contre la vague croissante d'escroqueries sophistiquées. La détection des fraudes utilise la puissance de l'IA embarquée pour fournir des alertes en temps réel tout en préservant la confidentialité des conversations. Plus important encore, les utilisateurs gardent le contrôle : ils peuvent désactiver cette fonctionnalité à tout moment dans leurs paramètres », a ajouté Eugene Liderman.

Comme vous pouvez le constater, Google a établi une ligne claire entre la sécurité basée sur l’IA et la confidentialité personnelle, vous protégeant ainsi des escroqueries et vous évitant de vous soucier de la collecte de vos données personnelles.