Intelligence artificielle: enquêtes policières, usages et risques selon Europol

Europol a publié un rapport qui analyse les différentes manières dont l’intelligence artificielle est utilisée dans les opérations des forces de sécurité intérieure, ainsi que les risques potentiels qui en découlent. Ce document met en lumière l’importance croissante de la technologie dans le domaine de la sécurité, tout en soulignant les défis et les préoccupations liés à son utilisation. Selon Europol, il est essentiel de trouver un équilibre entre les avantages offerts par l’intelligence artificielle et les implications éthiques et juridiques qui en résultent.

Les choix technologiques des forces de sécurité en matière d’intelligence artificielle

Il est rare que les forces de sécurité rendent publics leurs choix technologiques, mais en cette fin septembre, un rapport d’EUROPOL sur l’utilisation de l’intelligence artificielle par les services de sécurité a été publié. Ce rapport met en lumière les avantages et les défis liés à l’utilisation de l’IA par la police, la gendarmerie, les douanes, etc.

Europol, agence européenne de coopération en matière d’application de la loi pénale, a été créée en 1992 par le traité de Maastricht. Il s’agit d’une instance de partage d’informations entre les États membres, ainsi qu’un point de coopération avec des pays étrangers tels que les États-Unis, le Canada ou l’Australie.

Les domaines d’application de l’IA dans la sécurité publique

L’intelligence artificielle est utilisée dans deux principaux domaines en matière de sécurité publique. D’une part, elle permet d’analyser de vastes volumes de données pour identifier des liens entre des individus ou des organisations parmi divers types de documents (textes, chiffres, images, etc.). Cela facilite la détection de comportements suspects, comme des transactions frauduleuses dans des documents bancaires, aidant ainsi à identifier des schémas criminels.

D’autre part, l’IA est utilisée pour extraire des informations pertinentes à partir de différentes sources, qu’elles soient publiques (réseaux sociaux) ou issues de captations numériques telles que des vidéos de surveillance ou des enregistrements sonores. Les algorithmes sont utilisés pour transcrire, traduire, identifier des personnes ou des comportements suspects, comme repérer une personne se déplaçant de manière inhabituelle dans une foule.

De plus, l’intelligence artificielle peut être utilisée pour concevoir des scénarios d’entraînement afin de former le personnel.

Les usages problématiques de l’intelligence artificielle

Certains usages de l’intelligence artificielle sont déjà considérés comme problématiques. Il est essentiel de se prémunir contre les biais des données utilisées pour former l’IA, ainsi que contre le risque d’hallucinations, où l’algorithme peut proposer des solutions fausses mais crédibles.

Un danger potentiel réside dans l’utilisation de l’IA pour une surveillance de masse automatisée, comme la reconnaissance faciale en temps réel par des dispositifs de vidéosurveillance. Il est crucial que les algorithmes restent explicables pour comprendre les décisions prises.

La réglementation européenne encadre l’usage de l’IA

L’Union européenne a adopté l’IA ACT pour encadrer l’utilisation de l’IA en Europe, y compris par les forces de sécurité. Ce texte, entré en vigueur le 1er août 2024, prévoit des interdictions pour les systèmes d’IA présentant des risques inacceptables, contraires aux valeurs de l’UE et aux droits fondamentaux.

En France, la CNIL a analysé cet IA Act et partagé son point de vue en tant qu’autorité indépendante chargée de la protection des données personnelles. Cette réglementation vise à prévenir les abus potentiels de l’IA dans le domaine de la sécurité, nourrissant ainsi la réflexion collective et politique sur ces technologies émergentes.