La société de surveillance Flock utilise désormais l'IA pour signaler une personne à la police lorsqu'elle estime que ses déplacements sont « suspects », d'après l'ACLUD'après l'Union américaine pour les libertés civiles (ACLU), une organisation de défense des droits civiques, la société de surveillance Flock a étendu son système national de suivi des plaques d'immatriculation en utilisant l'intelligence artificielle (IA) pour signaler à la police toute personne dont elle estime les déplacements « suspects ». Selon l'ACLU, cette évolution marque une escalade inquiétante, car la police passe du simple accès aux données sur les déplacements des véhicules à l'identification et au signalement proactifs d'individus sur la base d'évaluations algorithmiques de leurs déplacements.
Flock Group Inc, exerçant ses activités sous le nom de Flock Safety, est un fabricant et un opérateur américain de matériel et de logiciels de sécurité, en particulier de systèmes de reconnaissance automatique des plaques d'immatriculation (RAPI), de vidéosurveillance et de localisation des coups de feu, ainsi que de logiciels de soutien permettant d'intégrer les données recueillies par ces technologies. Fondée en 2017, Flock exploite de tels systèmes sous contrat avec des organismes d'application de la loi, des associations de quartier et des propriétaires privés.
En 2025, Flock affirme opérer dans plus de 5 000 communautés à travers 49 États américains, et effectuer plus de 20 milliards de scans de véhicules aux États-Unis chaque mois. Le réseau de caméras de Flock Safety, qui utilise la reconnaissance d'images et l'apprentissage automatique, peut partager des données avec les services de police et être intégré dans des plateformes de police prédictive comme Palantir.
Les préoccupations soulevées par l'ACLU ont tout sauf un caractère hypothétique. Dans une affaire récente rapportée par l'Electronic Frontier Foundation (EFF), un policier du Texas a utilisé plus de 83 000 caméras de surveillance automatique gérées par Flock pour retrouver une femme soupçonnée d'avoir avorté sans assistance médicale. Les recherches ont porté sur 6 809 réseaux de caméras, y compris dans des États où l'avortement reste légal, ce qui démontre la portée considérable de cette technologie.
Récemment, l'Union américaine pour les libertés civiles a révélé que la société de surveillance policière Flock a mis en place un énorme système de suivi des plaques d'immatriculation à l'échelle nationale. Ce système enregistre en permanence les allées et venues des Américains dans une base de données nationale privée, qui est ensuite mise à la disposition des forces de l'ordre dans tout le pays. Ce système permet ainsi à la police d'effectuer des recherches sur les déplacements de tout véhicule qui lui est signalé. Si l'organisation de défense des droits civiques estime qu'une telle surveillance est déjà une mauvaise chose en soi, elle souligne que Flock analyserait également les habitudes de conduite des citoyens afin de déterminer si ils sont « suspects ».
« Cela signifie que si votre police commence à utiliser Flock, elle pourrait vous cibler simplement parce qu'un algorithme a décidé que vos habitudes de déplacement suggèrent des actes criminels », déclare l'ACLU.
L'organisation a notamment fait part de ses inquiétudes concernant une fonctionnalité peu connue du système de surveillance de Flock. Alors que des articles récents ont couvert la technologie de Flock, l'ACLU note que peu d'entre eux ont examiné cette fonctionnalité particulière, qu'elle décrit comme une « expansion significative de l'utilisation de l'infrastructure de surveillance de l'entreprise, qui permet à la police d'en savoir plus sur des véhicules spécifiques présentant un intérêt, mais aussi d'utiliser le système pour générer des soupçons en premier lieu. » L'ACLU avertit que les caméras de Flock Safety ne se contentent plus d'enregistrer les allées et venues des citoyens grâce à l'utilisation de l'IA, mais « évaluent désormais activement chacun d'entre nous afin de décider si nous devons être signalés aux forces de l'ordre comme participants potentiels au crime organisé. »
Pour rappel, dans un communiqué de presse du 13 février 2025 vantant les mérites d'un « Expansive AI and Data Analysis Toolset for Law Enforcement » (Ensemble complet d'outils d'analyse des données et d'IA pour les forces de l'ordre), Flock a annoncé plusieurs nouvelles fonctionnalités, dont un outil appelé « Multi-State Insights » (aperçus multi-états) :
Envoyé par Flock Safety
De nombreuses activités criminelles à grande échelle, telles que le trafic d'êtres humains et de stupéfiants et la criminalité organisée dans le commerce de détail (ORC), impliquent des déplacements au-delà des frontières de l'État. Grâce à notre nouvelle fonction « Multi-State Insights », les forces de l'ordre sont alertées lorsque des véhicules suspects ont été détectés dans plusieurs États, ce qui aide les enquêteurs à découvrir les réseaux et les tendances liés aux grandes organisations criminelles.
« Il s'agit là de variantes sur le même thème : utiliser le réseau de caméras non seulement pour enquêter sur la base de soupçons, mais aussi pour générer des soupçons », note l'ACLU.
L'organisation américaine rappelle que dans une démocratie, le gouvernement ne devrait pas surveiller ses citoyens en permanence au cas où ils commettraient une infraction. Elle reconnaît toutefois qu'il est raisonnable pour un policier de réagir à une activité suspecte observée dans un lieu public, cependant, la surveillance de masse constitue « une tout autre affaire », selon l'ACLU.
Le groupe de défense des droits civiques estime ainsi que la police ne devrait pas collecter et stocker des données sur les mouvements et les déplacements des personnes dans le temps et dans l'espace, ni s'engager à utiliser la technologie d'une entreprise privée pour accomplir la même chose. En outre, l'ACLU met en garde contre l'utilisation et la soumission de ces données à des algorithmes d'IA afin « d'attirer l'attention du gouvernement sur des civils innocents et aléatoires dont les habitudes de déplacement correspondent à ce que l'algorithme pense valoir la peine d'être porté à l'attention de la police. »
L'ACLU précise que Flock est une société privée qui n'est donc pas soumise à des contrôles tels que les lois sur les archives publiques et la surveillance des élus. Elle ajoute également qu'on sait peu de choses sur la nature des algorithmes utilisés par l'entreprise, notamment sur leur logique sous-jacente, les données sur lesquelles ils ont été formés ou la fréquence et la nature de leurs taux d'erreur. « Quelqu'un sait-il s'il existe des modèles de mouvement caractéristiques du comportement criminel qui ne balaient pas un nombre beaucoup plus important d'innocents ? », s'interroge l'ACLU.
L'organisation exprime par ailleurs des inquiétudes quant aux biais potentiels dans les algorithmes de Flock, soulignant qu'« il est très facile d'imaginer un algorithme formé sur les antécédents criminels dans lequel les quartiers à faibles revenus et les communautés de couleur sont fortement surreprésentés en raison des préjugés bien établis, de haut en bas, dans notre système de justice pénale. » Cette disparité signifie que le simple fait de vivre dans un tel quartier pourrait rendre une personne intrinsèquement suspecte aux yeux de ce système, alors qu'une personne vivant dans un endroit plus riche ne le serait jamais. « Entre autres problèmes, ce résultat est tout simplement injuste », souligne le groupe de défense des droits civiques.
Au final, l'ACLU indique que Flock, après avoir construit une infrastructure de surveillance de grande envergure, étend désormais ses cas d'utilisation, confirmant ainsi les mises en garde répétées de l'organisation selon lesquelles de tels systèmes sont inévitablement détournés de leur mission initiale. Le groupe de défense affirme que cette évolution fournit « une raison de plus pour que les communautés refusent d'autoriser les services de police qui les desservent à participer à ce système de surveillance de masse. ».
Rappelons toutefois que cette évolution s'inscrit également dans une tendance plus large des technologies de suivi des véhicules. Dans le Michigan, par exemple, les plaques d'immatriculation numériques de la start-up Reviver, déjà adoptées en Californie et en Arizona, sont désormais disponibles après avoir été approuvées par l'État. Commercialisée comme un moyen de localiser les véhicules perdus et de recevoir des alertes de sécurité, la « Rplate » peut être gérée via un smartphone et comprend des fonctionnalités GPS que les propriétaires peuvent activer ou désactiver. À mesure que ces outils se multiplient, l'équilibre entre commodité, sécurité publique et vie privée dépendra de plus en plus de la manière dont les citoyens, les décideurs politiques et les fournisseurs de technologies choisiront de fixer les limites.
À propos de l'ACLU
L'Union américaine pour les libertés civiles (ACLU) est une importante association à but non lucratif américaine basée à New York dont la mission est de « défendre et préserver les droits et libertés individuelles garanties à chaque personne dans ce pays par la Constitution et les lois des États-Unis ». Ses moyens d'actions sont les poursuites judiciaires, le lobbying législatif et l'éducation civile communautaire. Les actions qu'elle a intentées ont souvent fait évoluer le droit constitutionnel. Le budget de l'ACLU en 2024 était de 383 millions de dollars, et ses membres sont actifs dans les 50 États américain, à Washington, DC, et à Porto Rico.
Sources : Flock Safety, Union américaine pour les libertés civiles (ACLU)
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous cette initiative de la société Flock Safety judicieuse ou pertinente ?Voir aussi :
Pour ou contre de telles mesures ? Des caméras avec intelligence artificielle sont posées sur les autoroutes pour repérer les conducteurs qui jettent les ordures par la fenêtre de leurs voitures La police peut désormais visionner les caméras de surveillance privées en temps réel, cette mesure ne rendrait pas la ville sécurisée, mais une surveillance généralisée à tout moment L'intelligence artificielle à la rescousse des forces de l'ordre pour endiguer le crime, soulève quelques inquiétudes
Vous avez lu gratuitement 4 425 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
