Une organisation qui défend les libertés civiles dans le monde numérique rend compte d’un nouveau plan en cours d’élaboration dans un laboratoire national : la création d’un policier numérique.

Le concept « se lit comme un pitch pour le film de flic le plus dystopique de tous les temps », explique Dave Maass de l’Electronic Frontier Foundation.

Les travaux sur un « D-PO », maintenant présenté comme un « concept visionnaire », se déroulent au Pacific Northwest National Laboratory, exploité par Battelle pour le compte du département de l’Énergie des États-Unis.

Les chercheurs travaillent à « prédire un avenir dans lequel la police et les agents de la patrouille frontalière sont assistés par l’intelligence artificielle, non pas comme un outil logiciel, mais comme un partenaire autonome capable de prendre le volant lors de poursuites en voiture et de rechercher dans les médias sociaux pour trouver des personnes à examiner de plus près », indique le rapport.

« Nous devons concevoir des systèmes informatiques qui ne sont pas seulement des outils que nous utilisons, mais aussi des coéquipiers avec lesquels nous travaillons », peut-on lire à un moment donné du projet.

« Pendant des années, les groupes de défense des libertés civiles ont mis en garde contre les dangers posés par le recours croissant des forces de l’ordre aux technologies automatisées telles que la reconnaissance faciale et les systèmes de police prédictive. Ces dernières années, nous avons également mis en évidence les problèmes posés par les robots de police autonomes, tels que les robots de sécurité Knightscope en forme de bouton et les robots « chiens » à quatre pattes que le département américain de la Sécurité intérieure prévoit de déployer à la frontière américano-mexicaine », explique la fondation.

Mais la dernière version va « beaucoup plus loin ».

L’idée est que l’IA apprend « des humains et de leur environnement » et utilise ensuite ces connaissances « pour diriger l’équipe sans que l’humain ait à donner des instructions spécifiques ».

Dans son scénario, le PNNL explique que les deux « officiers » reçoivent une alerte concernant un vol en cours, après quoi les drones sont immédiatement mis sur écoute, la reconnaissance faciale est utilisée, les technologies de conduite autonome sont intégrées et les prédictions algorithmiques sont mises en jeu.

« Alors que l’agent Miller se rend sur les lieux du vol, D-PO surveille les images de caméra d’un drone de police autonome qui tourne autour de la scène du crime. D-PO utilise ensuite sa reconnaissance d’image d’apprentissage profond pour identifier une personne qui correspond à la description du suspect. D-PO signale à l’agent Miller qu’il est probable qu’il corresponde et demande à prendre en charge la conduite afin que l’agent puisse étudier les séquences vidéo. L’agent accepte la demande et D-PO affiche les séquences vidéo du suspect potentiel sur l’écran de la voiture de patrouille. D-PO a mis en évidence les caractéristiques de la vidéo et explique les caractéristiques qui ont conduit à sa grande fiabilité », indique le rapport de l’EFF.

Ensuite, il y a une discussion entre Miller et l’agent numérique sur la façon d’arrêter le suspect.

« Les auteurs laissent au lecteur le soin d’imaginer ce qui se passera ensuite. Si vous entrez dans le fantasme, vous pourriez imaginer que cette histoire se termine par une arrestation parfaite où personne n’est blessé et tout le monde reçoit une médaille – même le collègue numérique. Mais si vous regardez l’intersection du maintien de l’ordre et de la technologie, vous constaterez qu’il y a beaucoup de fins tragiques, d’une confusion qui attire une personne innocente dans le système de justice pénale à une fusillade policière évitable qui se termine sans responsabilité parce que l’agent Miller peut blâmer un algorithme impuni pour une recommandation erronée. indique le rapport de l’EFF.

L’organisation rapporte que la technologie semble encore loin », mais souligne qu’un service de police de la ville a déjà exprimé son intérêt pour les capacités.

Cependant, le rapport ne mentionne pas que la technologie est également demandée comme option pour les fonctionnaires des douanes et de la protection des frontières.

« Le CBP est connu pour investir dans des technologies expérimentales au nom de la sécurité des frontières, des dirigeables de surveillance aux tours de surveillance autonomes. Dans le scénario PNNL, le système des coéquipiers d’inspection aux frontières (BITS) serait une intelligence artificielle autodirigée qui communique avec les agents de contrôle via un casque de réalité augmentée (AR) », indique le rapport.

L’EFF a ensuite mis en garde contre les problèmes liés à l’adoption de technologies non éprouvées, qui « reposent souvent sur des récits miraculeux mais peu plausibles diffusés par les développeurs de technologies et les spécialistes du marketing sans tenir compte du préjudice qu’ils pourraient causer ».

« La société serait mieux servie si l’équipe PNNL utilisait son imagination collective pour explorer les dangers des nouvelles technologies de surveillance afin que nous puissions éviter les pièges plutôt que de nous précipiter directement dedans », indique le rapport.