Les iPhones vont bientôt bénéficier d'une fonctionnalité qui avertira les utilisateurs avant qu'ils ne soient victimes d'escroquerie.

Les arnaques en ligne deviennent de plus en plus sophistiquées, notamment celles qui exploitent la psychologie des utilisateurs pour les inciter à transférer volontairement de l'argent, à fournir des mots de passe ou à partager des informations personnelles.

En réponse à cela, Apple a introduit une nouvelle plateforme appelée Trust Insights dans le nouveau système d'exploitation iOS 27, qui aide les applications à identifier en temps réel les cas où les utilisateurs risquent d'être victimes d'escroqueries.

Qu'est-ce que Trust Insights ?

Trust Insights est une nouvelle application intégrée à iOS 27. Cette plateforme permet aux applications d'évaluer le niveau de risque d'une transaction ou d'une action entreprise par un utilisateur, puis de fournir des mesures de protection appropriées avant que des pertes ne surviennent.

Selon Apple, les attaques d'ingénierie sociale constituent l'un des plus grands défis actuels, car les attaquants n'ont pas besoin d'attaquer les systèmes ni d'exploiter les failles de sécurité.

Au lieu de cela, ils cherchent à manipuler psychologiquement les utilisateurs pour qu'ils effectuent des actions légitimes telles que des transferts d'argent, le partage de codes de vérification ou la modification des informations de compte.

Comme ces actions sont effectuées par le titulaire du compte lui-même, il est très difficile pour les systèmes de sécurité traditionnels de les détecter et de les empêcher.

Apple a déclaré que ces dernières années, les escroqueries telles que l'usurpation d'identité de personnel de support technique, d'autorités ou de fonctionnaires, ou d'êtres humains se faisant passer pour des proches appelant en situation d'urgence pour demander des transferts d'argent ont connu une augmentation rapide.

Ce risque est encore aggravé par la prévalence croissante des technologies audio générées par l'IA et des deepfakes, ce qui facilite la tâche des criminels pour créer des voix ou des images réalistes afin de tromper leurs victimes.

Trust Insights a été développé pour ajouter une nouvelle couche de défense contre ces formes d'attaque difficiles à détecter.

Détectez les arnaques potentielles sans lire le contenu des messages.

Il convient de noter que Trust Insights n'analyse pas le contenu des messages, des e-mails, des photos ou autres données personnelles des utilisateurs.

Le système fonctionne principalement directement sur l'appareil, en utilisant des indices comportementaux pour évaluer les risques, notamment la manière dont l'utilisateur interagit avec l'appareil, le moment où les actions sont effectuées, le contexte d'utilisation et certaines données de capteurs de base sur l'appareil.

Si Trust Insights détecte des signes inhabituels indiquant qu'un utilisateur pourrait être incité par une autre personne à commettre une escroquerie, le système évaluera le niveau de risque comme moyen ou élevé.

Ces informations sont ensuite transmises à l'application afin qu'elle puisse mettre en œuvre de manière proactive des mesures de protection.

Lorsque Trust Insights évalue une action comme potentiellement frauduleuse, l'application peut prendre plusieurs mesures pour atténuer le risque, telles que l'affichage d'un avertissement bien visible pour inciter l'utilisateur à reconsidérer sa décision ; le report temporaire de la transaction ; ou l'exigence d'une vérification d'identité ou d'une confirmation supplémentaire avant la finalisation.

L'objectif est de créer une « pause » supplémentaire pour donner aux utilisateurs le temps de réfléchir, au lieu de se conformer immédiatement aux demandes de l'escroc.

Apple affirme qu'elle continue de protéger la vie privée.

Apple souligne que Trust Insights est conçu en accordant la priorité absolue à la protection de la vie privée.

Cette plateforme ne lit pas le contenu des e-mails, messages ou images des utilisateurs. Les signaux sont analysés directement sur l'iPhone, et les données originales sont supprimées immédiatement après traitement.

Au lieu d'envoyer toutes les données au serveur, le système n'envoie qu'un seul résultat d'évaluation. Cette valeur peut être combinée avec des informations provenant du compte Apple et d'autres indices d'activité inhabituelle afin de tirer une conclusion définitive quant au risque de fraude.

Les utilisateurs peuvent toujours désactiver la fonctionnalité Trust Insights.

Apple indique que les utilisateurs ont la possibilité de désactiver Trust Insights dans les Réglages s'ils ne souhaitent pas l'utiliser.

L'entreprise a toutefois indiqué qu'un délai d'attente pourrait être instauré avant la désactivation de cette fonctionnalité. L'objectif est de protéger les utilisateurs manipulés par des fraudeurs qui tentent de désactiver les mesures de sécurité, facilitant ainsi la réalisation d'escroqueries.

Dans sa phase initiale, Trust Insights se concentrera sur le suivi de cinq groupes d'action à haut risque, notamment :

- Paiement : Cela inclut les transferts d'argent, l'achat et la vente d'actifs numériques, l'achat de biens et même les transactions en jeu.

- Compte : Modifier les informations du compte, le mot de passe ou les paramètres de sécurité.

- Utilisation des ressources : Demandes d'utilisation de services gourmands en ressources ou à ressources limitées, tels que les tâches d'inférence d'IA.

- Communication : envoi de messages, soumission de formulaires électroniques ou signature de documents en ligne.

- Autres : S'applique aux opérations qui ne relèvent pas des quatre groupes ci-dessus.

Apple encourage également les développeurs à fournir des commentaires si leur application utilise le groupe « Autre », et à signaler les cas qui sont ultérieurement confirmés comme étant des arnaques afin d’aider Trust Insights à continuer d’apprendre et d’améliorer sa précision.

L'intégration de Trust Insights dans iOS 27 montre qu'Apple passe d'un modèle qui protège uniquement l'appareil à un modèle qui contribue à protéger les utilisateurs contre des escroqueries de plus en plus sophistiquées.

Au lieu de simplement prévenir les logiciels malveillants ou les cyberattaques traditionnelles, la nouvelle plateforme vise à identifier les situations où les utilisateurs peuvent être manipulés psychologiquement pour commettre des actes nuisibles.

Si elle est mise en œuvre efficacement, Trust Insights pourrait devenir une couche de protection cruciale, réduisant considérablement les futures escroqueries en ligne.