« L’utilisation croissante des algorithmes dans les services publics pose des questions importantes sur la transparence et la protection des données personnelles. Il est crucial de veiller à ce que ces outils soient utilisés de manière éthique et respectueuse des droits fondamentaux. » Anne-Cécile Mailfert.
En 2024, selon l’Observatoire Data Publica :
- 51 % des collectivités annoncent avoir soit déjà mis en place un système d’intelligence artificielle (IA) (36 %), soit vouloir le faire dans les prochains mois (15 %) ;
- 75 % des régions et 62 % des métropoles ont déjà engagé des projets d’IA.
L’IA est une technologie révolutionnaire, essentielle pour l’action publique (I) mais pouvant comporter des effets néfastes (II). Son encadrement est alors nécessaire pour éviter et réduire les dérives liées à son utilisation (III).
I. Les potentiels de l’intelligence artificielle au sein des services publics
L’IA permet une meilleure efficacité de l’action publique permettant de satisfaire les usagers et de faciliter le travail des agents publics (A), cela va donner lieu à la création d’un État plateforme que Jacques Chevallier définit comme “le produit d’une politique volontariste visant à adapter l’État aux défis de l’ère numérique : passant par la diffusion des données publiques et la production de services numériques” permettant une évolution bénéfique des services publics (B).
A. L’augmentation de l’efficacité des services publics
Les agents publics peuvent accroître l’efficacité de la gestion des services publics en utilisant l’IA. Cette technologie permet aux agents de se concentrer sur des tâches techniques en déléguant les tâches répétitives à l’IA.
Différents cas permettent d’illustrer ce propos :
- France Travail s’appuie sur l’IA pour attribuer les allocations chômage.
- Dans le cadre de la lutte contre la fraude fiscale, l’IA a permis de détecter 140 000 cas de fraude, générant ainsi 40 millions d’euros de recettes pour les collectivités territoriales.
- Dans les aéroports français, le système “Parafe” utilise la reconnaissance faciale pour améliorer le contrôle des voyageurs.
- Enfin, le Projet Albert, une IA expérimentée aux guichets des services publics de proximité, aide les usagers dans leurs démarches, permettant ainsi de gagner du temps et de réduire les coûts des ressources humaines.
Si l’IA est utile aux agents publics, celle-ci l’est aussi pour les usagers en essayant d’améliorer le service public à leur profit.
B. L’État plateforme, un modèle répondant aux besoins des citoyens grâce à l’intelligence artificielle
Une circulaire de l’ancien Premier ministre Jean-Marc Ayrault, du 7 mars 2013, souligne que l’efficacité de l’administration publique, tant dans ses relations avec les usagers que dans son fonctionnement interne, dépend désormais fortement de la qualité de ses systèmes d’information et de communication. Les techniques modernes facilitent une meilleure interaction entre l’État et les citoyens.
C’est ainsi que naît l’État plateforme, un modèle inspiré des plateformes numériques comme Amazon et Netflix qui reposent sur la personnalisation des services grâce à la collecte des données des utilisateurs, mettant la satisfaction des usagers au centre du système. Cette approche amène à repenser le service public et ses prestations, permettant ainsi une diminution de certains coûts, notamment à travers la réduction du personnel administratif. Cependant, un service public peut perdre de son utilité s’il ne parvient pas à atteindre les citoyens.
Pour ce faire, une présence physique reste indispensable. Même si l’IA présente de nombreux avantages, selon son usage, celle-ci peut être source de complication.
II. Les défis de l’intelligence artificielle dans les services publics
L’IA peut être vue comme une menace aux droits et libertés fondamentaux des citoyens à travers son ingérence (A). Le fonctionnement de l’IA est imparfait et peut entraîner des discriminations par son système de fonctionnement (B).
A. Les problèmes inhérents à l’utilisation de l’intelligence artificielle
Bien que l’IA soit un levier d’amélioration des services et politiques publics, elle peut porter atteinte aux libertés fondamentales. Le fait de mémoriser une donnée personnelle relative à la vie privée d’un individu constitue une ingérence au sens de l’article 8 de la Convention de sauvegarde des droits de l’Homme et des libertés fondamentales qui consacre le droit à la vie privée.
En récoltant les données personnelles, l’IA menace la vie privée et la liberté d’aller et venir, notamment à travers la vidéosurveillance augmentée et les risques de cyberattaques. Par exemple, en 2022, un établissement hospitalier a fait l’objet d’attaques informatiques. Les hackers ont diffusé les données médico-administratives des patients et du personnel. Cela constitue une atteinte aux droits de ces personnes comme le droit pour celles-ci de tenir secret leur état de santé.
L’IA présente aussi des risques pour le climat. En effet, l’exploitation de l’IA implique la consommation de ressources importantes en énergie et en eau, ainsi que le rejet de gaz à effet de serre. Ce qui est non négligeable au regard du contexte actuel lié au réchauffement climatique.
L’IA est problématique pour la sauvegarde des droits et libertés fondamentaux des individus, mais elle l’est aussi en matière de respect du principe de non-discrimination dans le cadre des services publics.
B. L’intelligence artificielle, un système pouvant porter atteinte au principe de non-discrimination au sein des services publics
L’IA peut générer des discriminations par les choix de données et le paramétrage de l’algorithme, comme dans le cas de la lutte contre la fraude des prestations sociales. L’IA utilisée par la Caisse nationale des allocations familiales cible plus souvent les bénéficiaires les plus précaires. Durant la période d’apprentissage, l’IA génère des résultats en s’appuyant sur des corrélations statistiques issues de l’analyse de milliards de données.
Par exemple, pour détecter le maraudage, l’IA pourrait conclure que les personnes immobiles dans les lieux publics sont souvent des personnes de couleur. Cette corrélation « maraudage-personne de couleur » entraînerait une surveillance accrue de ces individus et la création de discriminations physiques. C’est pourquoi, les nouvelles technologies doivent être encadrées pour éviter ces problématiques affectant les citoyens.
III. Encadrement juridique
Pour éviter les dérives de l’IA, un encadrement juridique strict est nécessaire. Le législateur ainsi que les organisations internationales des droits de l’Homme se penchent sur la question afin de préserver les atteintes causées par cette nouvelle technologie.
En 2024, le Conseil de l’Europe a adopté une convention pour que les usages de l’IA soient compatibles avec les droits de l’Homme et l’État de droit. Le rapport « Notre ambition pour la France » présenté au président de la République en mai 2024 alerte sur le fait qu’une IA ne peut pas remplacer un être humain ni résoudre les défis contemporains. Le règlement général sur la protection des données (RGPD) impose des limites à l’usage de cette technologie, notamment en imposant un traitement transparent des données personnelles.
Olivia DAUTRESIRE – étudiante en Master 1 Droit public
Sources :
- https://www.vie-publique.fr/parole-dexpert/293547-ia-quel-potentiel-et-quels-risques-dans-les-services-publics
- Cahiers français, Intelligence artificielle : quel progrès ?
- Cours de Droit des services publics, Monsieur Adalid, maître de conférence de droit public à l’Université Rouen Normandie, 2024
- Cours de Protection Européenne des droits fondamentaux, Madame Toullier, maître de conférences en droit à l’Université Rouen Normandie, 2024
- Cours de Droit des libertés fondamentales, Madame Toullier, maître de conférences en droit à l’Université Rouen Normandie, 2024
https://www.vie-publique.fr/en-bref/296127-ia-dans-les-services-publics-et-droits-des-usagers