Le PDG de Flock s'exprime sur le scandale de l'utilisation abusive des caméras de surveillance : qui est responsable ?
Le système de caméras à intelligence artificielle de Flock fait l'objet de vives critiques pour avoir entraîné des arrestations injustifiées et porté atteinte à la vie privée, tandis que les dirigeants de l'entreprise nient toute responsabilité en matière de contrôle des données.
La prolifération des systèmes de surveillance aux États-Unis entraîne de graves conséquences, avec un nombre croissant de personnes accusées à tort en raison d'erreurs techniques. Au cœur de cette controverse se trouve Flock, une entreprise fondée il y a sept ans qui fournit des systèmes de caméras à intelligence artificielle aux forces de l'ordre à travers le pays.
Le côté obscur de la technologie de surveillance par IA et de reconnaissance des plaques d'immatriculation.
Les caméras de Flock font désormais l'objet d'une surveillance accrue face à l'augmentation constante des erreurs d'identification. En combinant preuves circonstancielles, enregistrements vidéo et algorithmes d'intelligence artificielle, de nombreux services de police américains dépendent excessivement des données fournies par des entreprises privées, même lorsque ces systèmes peuvent produire des résultats inexacts.
Le problème n'est pas propre à Flock. Le déploiement de logiciels de reconnaissance faciale par IA, de lecteurs automatisés de plaques d'immatriculation et de microphones de détection de coups de feu se fait sans formation adéquate ni mesures de sécurité opérationnelles. Il en résulte une gestion et une utilisation des données non responsables et illégales.
Quand les algorithmes remplacent les preuves factuelles
L'une des affaires les plus graves concernait Michael Williams, un habitant de Chicago qui a passé près d'un an en prison pour meurtre, suite à une accusation basée sur les données du système ShotSpotter, qui avait initialement identifié le son comme celui de feux d'artifice et ne l'avait même pas détecté à proximité de Williams. Pourtant, cela a suffi à la police pour l'arrêter, malgré l'absence de preuves matérielles.
Le recours aux preuves issues de l'IA devient rapidement la nouvelle norme. Pour les systèmes de reconnaissance de plaques d'immatriculation, la charge de prouver l'innocence incombe désormais aux conducteurs et non plus à la police. Les preuves visuelles fournies par ces systèmes semblent infaillibles, alors qu'elles ne le sont pas.
Réponse controversée du PDG de Flock
Face aux inquiétudes concernant l'utilisation abusive des données, le suivi des migrants et les atteintes à la vie privée, le PDG de Flock, Garrett Langley, a réagi de manière surprenante. Interrogé par 9NEWS sur sa responsabilité de superviser l'utilisation des données de l'entreprise par la police, Langley a répondu : « Je ne pense pas que ce soit mon rôle. »
Il a précisé qu'en cas de détection d'un usage abusif des données, il contacterait les autorités compétentes. Cependant, des observateurs ont relevé une contradiction : ces autorités sont souvent les mêmes services de police qui fournissaient initialement les données.
La vague de protestations et de mesures d'autodéfense de la communauté.
De nombreux États américains ont commencé à prendre conscience des risques et à résilier leurs contrats avec Flock et des agences similaires. Parallèlement, des collectivités ont commencé à surveiller elles-mêmes le déploiement de ces caméras grâce à des systèmes comme DeFlock et OpenMaps. Notamment, Langley a qualifié DeFlock d’« organisation terroriste », une déclaration qui a exacerbé les tensions entre la société de surveillance et les associations de défense de la vie privée.
