Mise en garde contre le problème croissant de la fausse pornographie à l'ère de l'IA.

La pornographie deepfake consiste à utiliser la technologie de l'IA pour créer ou modifier des vidéos, des images ou du contenu à caractère pornographique, dans lequel le visage ou le corps d'une personne est superposé ou manipulé pour donner l'impression qu'elle se livre à des actes ou des scénarios pornographiques qu'elle ne réalise pas réellement.

Les progrès réalisés dans le domaine des outils d'IA ont rendu plus facile que jamais la création et la diffusion d'images pornographiques truquées (deepfakes) sans le consentement de la victime.

« Tout être humain peut être victime de pornographie truquée (deepfake). » C’est ainsi que Carrie Goldberg, avocate américaine spécialisée dans les crimes sexuels et les affaires de protection de la vie privée en ligne, décrit le niveau de risque que représente la pornographie truquée à l’ère de l’IA, où n’importe qui peut être exploité à son insu.

La diffusion non consentie de contenus pornographiques, ou revenge porn, existe depuis longtemps, parallèlement au développement d'Internet. Cependant, l'essor des outils d'intelligence artificielle a accru les risques et étendu la portée de cette forme de harcèlement.

Aujourd'hui, n'importe qui peut devenir victime, même sans avoir jamais pris ni envoyé de photos dénudées. Les outils d'intelligence artificielle modernes sont capables de superposer le visage d'une personne sur un corps nu ou de modifier des photos existantes pour donner l'illusion que la victime est dévêtue, alors que c'est tout le contraire.

Au cours de l'année écoulée, la pornographie générée par intelligence artificielle, créée sans consentement, a ciblé des personnes de tous horizons, des célébrités aux lycéennes. Cette diversité de cibles souligne l'ampleur de ce harcèlement insidieux, qui fait de chacun une victime potentielle.

Carrie Goldberg a confié que découvrir que soi-même ou ses enfants sont victimes de deepfakes pornographiques est souvent une expérience terrifiante et désespérante. « C’est particulièrement effrayant pour les jeunes qui ne savent pas comment réagir face à une telle situation. Internet, avec son immensité et son ambiguïté, peut devenir un terreau fertile pour les menaces », a-t-elle déclaré.

Malgré les efforts déployés par les entreprises technologiques et les législateurs pour les combattre, ces outils restent néanmoins très accessibles. Alors, comment se protéger et protéger ses proches ?

Carrie Goldberg a donné des conseils importants pour faire face à cette menace. Ainsi, si vous êtes la cible de pornographie générée par l'IA, la première chose à faire est de prendre une capture d'écran. Cela permet de préserver des preuves cruciales, de faciliter les poursuites judiciaires et de protéger les droits de la victime.

Ensuite, les victimes peuvent rechercher et utiliser les formulaires fournis par les principales plateformes de médias sociaux telles que Google, Meta et Snapchat pour demander la suppression des images pornographiques diffusées.

De plus, des organisations à but non lucratif comme StopNCII.org et Take It Down proposent également leur aide pour traiter les demandes de suppression de contenu sur plusieurs plateformes simultanément. Cependant, Goldberg souligne que tous les sites web ne coopèrent pas avec ces groupes, ce qui complique parfois la suppression d'images.

Aux États-Unis, un groupe d'adolescents et de parents victimes de pornographie générée par l'IA ont témoigné lors d'une audition au Capitole.

Au cours de l'audience, le sénateur républicain Ted Cruz a présenté un projet de loi qui a reçu le soutien de la sénatrice démocrate Amy Klobuchar et de nombreux autres collègues.

Ce projet de loi propose d'ériger en infraction pénale la diffusion d'images pornographiques générées par intelligence artificielle sans consentement et d'obliger les plateformes de médias sociaux à supprimer immédiatement ces contenus à la demande des victimes. Il représente une avancée significative en matière de protection de la vie privée et de lutte contre le harcèlement numérique.

Cependant, les victimes doivent actuellement faire face seules à la complexité et aux recoupements des législations étatiques. Dans certaines régions, il n'existe même aucune réglementation pénale claire pour empêcher la création ou la diffusion de deepfakes pornographiques à caractère adulte, ce qui rend l'accès à la justice extrêmement difficile.

L'avocat Goldberg a déclaré avec franchise : « Mon conseil s'adresse non seulement aux victimes, mais aussi à ceux qui envisagent de commettre de tels crimes : ne soyez pas méprisables, ne volez pas les images d'autrui pour les utiliser comme outil d'humiliation. »

Elle a souligné que, même si les victimes ont peu de moyens d'empêcher complètement ces actes, surtout dans une société numérique en constante évolution, la sécurité et le respect en ligne dépendent toujours de la conscience morale de chaque individu : « Nous ne pouvons pas atteindre une protection absolue, mais ne pas devenir un parfait imbécile est entièrement la responsabilité de chacun. »