Une eurodéputée allemande : la proposition de réglementation de l’UE sur l’IA ouvre la porte à la surveillance biométrique de masse dans les espaces publics ». « Nous devons empêcher un avenir dystopique de surveillance biométrique de masse à la chinoise en Europe ! »

L’eurodéputé allemand Patrick Breyer a averti qu’une proposition de la présidence de l’UE pour un règlement sur l’intelligence artificielle (IA) « ouvrirait la porte à la surveillance biométrique de masse dans les espaces publics ».

La proposition de règlement qui a fuité décrit comment la présidence de l’UE a l’intention d’introduire des « règles harmonisées pour l’intelligence artificielle » dans le cadre de la mise en œuvre de la loi sur l’intelligence artificielle.

Il propose de permettre aux autorités répressives d’utiliser des systèmes d’IA pour « l’identification biométrique à distance » des personnes dans les espaces publics en temps réel lorsqu’il s’agit de « rechercher des victimes potentielles d’actes criminels, y compris des enfants disparus », « certaines menaces à la vie ou à la sécurité physique de personnes physiques ou une attaque terroriste » et « détecter, localiser, identifier ou poursuivre » les auteurs ou les suspects. certaines infractions recherchées dans l’État membre concerné par une peine privative de liberté ou une peine privative de liberté d’au moins trois ans.

La définition des « données biométriques » dans la proposition de règlement qui a fait l’objet d’une fuite va bien au-delà des données de reconnaissance faciale et inclut toutes les « données à caractère personnel résultant d’un traitement technique spécifique qui se rapportent aux caractéristiques physiques, physiologiques ou comportementales d’une personne physique et qui permettent ou confirment l’identification unique de cette personne physique ». Le document indique également que les « images faciales » et les « données dactyloscopiques » (données d’empreintes digitales et palmaires) sont considérées comme des données biométriques.

Dans la plupart des cas, les dispositions de cette proposition divulguée exigeraient des autorités répressives qu’elles obtiennent une « autorisation préalable » d’une autorité judiciaire ou d’une autorité administrative indépendante de leur État membre, et cette autorisation préalable serait accordée conformément aux règles du droit national. Les autorités chargées de l’application de la loi seraient également soumises à des « contraintes raisonnables de temps et d’espace » lorsqu’elles utilisent la technologie de reconnaissance biométrique à distance en temps réel et devraient se conformer aux « garanties et conditions nécessaires et proportionnées ».

Toutefois, si les autorités répressives décident qu’il existe une « situation d’urgence dûment justifiée », les règles de la présente proposition leur donnent l’autorisation d’utiliser la technologie de reconnaissance biométrique à distance en temps réel sans cette autorisation préalable.

La proposition divulguée affirme que ces règles proposées ne permettent aux organismes d’application de la loi d’utiliser la technologie de surveillance de masse biométrique en temps réel que dans des « situations étroitement définies ». Cependant, étant donné que cette technologie serait utilisée dans un cadre public, toute utilisation entraînerait un balayage et une identification en masse des visages de personnes pour la plupart innocentes afin de suivre une victime « potentielle » d’un crime ou un suspect qui n’a peut-être pas été accusé.

Une copie de la proposition de règlement qui a fuité peut être trouvée ici.

« Cette proposition justifierait l’utilisation permanente et généralisée de la surveillance faciale », a écrit Breyer. « Nous devons empêcher un avenir dystopique de surveillance biométrique de masse à la chinoise en Europe ! Cette technologie est utilisée à mauvais escient par des pays autoritaires comme la Russie ou l’Iran, est-ce la direction que nos gouvernements veulent nous prendre ? »

Breyer a ajouté: « Nous devons nous opposer à la surveillance biométrique de masse dans nos espaces publics, car ces technologies capturent injustement un grand nombre de citoyens innocents, discriminent systématiquement les groupes sous-représentés et ont un effet dissuasif sur une société libre et diversifiée. La législation autorisant la surveillance de masse aveugle a été annulée à plusieurs reprises par les tribunaux parce qu’elle est incompatible avec les droits fondamentaux. Le Parlement européen devra se battre pour que cette interdiction soit mise en œuvre dans la loi sur l’IA ! »

Breyer a également souligné que la plupart des Européens s’opposent à l’utilisation de la surveillance de masse biométrique dans les espaces publics et que plus de 200 organisations de la société civile, activistes, spécialistes de la technologie et autres experts appellent à une interdiction mondiale des « technologies de reconnaissance biométrique qui permettent une surveillance de masse et discriminatoire ».

Breyer a également souligné que le Comité européen de la protection des données et le Contrôleur européen de la protection des données ont appelé à une « interdiction générale de l’utilisation de l’IA pour la reconnaissance automatique des caractéristiques humaines dans les espaces accessibles au public » et que le Haut-Commissariat des Nations Unies aux droits de l’homme s’est prononcé contre l’utilisation des technologies de reconnaissance biométrique dans les espaces publics.