Le projet de réglementation sur l’intelligence artificielle de l’Union européenne

L’AI Act (Artificial Intelligence Act) a été présenté pour la première fois le 21 avril 2021. Le 22 janvier 2024, une version quasi finalisée a été dévoilée. Le document avait vocation à être voté par le Parlement européen dans son ensemble le mercredi 13 mars 2024. Pour la version finale définitive, ce sera a priori le 22 avril 2024.

Les points clés du règlement

Le texte définit l'intelligence artificielle (IA) comme un système basé sur une machine qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions pouvant influencer les environnements physiques ou virtuels.

Le projet de réglementation sur l'intelligence artificielle de l'Union européenne, appelé l'AI Act, vise à établir un juste contrôle plutôt qu'une interdiction totale. Il définit quatre niveaux de risques et prévoit des règles spécifiques pour chaque niveau, avec des pratiques préjudiciables totalement interdites: Les risques inacceptables sont interdits (par exemple, les systèmes de notation sociale et l’IA manipulatrice); Les systèmes d’IA à haut risque (grande partie des IA aujourd’hui), qui sont réglementés; Les systèmes d’IA à risque limité sont soumis à des obligations de transparence plus légères; Le risque minimal n’est pas réglementé (comme les jeux vidéo et les filtres anti-spam activés par l’IA).

L'AI Act est nécessaire pour instaurer la confiance des Européens dans l'utilisation des intelligences artificielles dans l'Union européenne, face aux risques sociétaux qu'elles posent car la  législation existante n'est pas suffisante pour répondre aux défis spécifiques des systèmes d'IA.

Aussi, règlement interdit-il totalement certaines pratiques préjudiciables, telles que la manipulation des systèmes cognitifs, la collecte aléatoire de données de reconnaissance faciale, l'utilisation de systèmes de reconnaissance des émotions au travail et dans l'éducation, les scores de crédit social, le traitement biométrique pour déduire des données sensibles, et certaines applications de la police prédictive.

L'AI Act introduit une obligation de transparence pour tous les modèles d'IA opérant sur le marché européen, avec des exigences telles que l'explication du fonctionnement du système, les méthodes d'entraînement, etc. Un bureau européen de l'intelligence artificielle supervisera le respect de ces règles et sera le centre d'expertise en matière d'IA dans l'Union européenne, responsable de créer des outils, des méthodologies et des critères pour évaluer les capacités des modèles d'IA à usage général.