Fichage massif des allocataires pauvres

Une coalition d’organisations de la société civile conteste devant le Conseil d’État l’algorithme de notation utilisé par la Caisse nationale d’allocations familiales, suspecté de produire une surveillance disproportionnée et des discriminations systématiques, ciblant principalement les populations les plus vulnérables.
Ce sont désormais 25 organisations et syndicats dont la CGT, Solidaires, le Mouvement des mères isolées, Amnesty International France, la Ligue des droits de l’homme, le collectif Changer de cap ou le Syndicat des avocats de France qui attaquent en justice la Caisse nationale d’allocations familiales (Cnaf), à l’initiative de la Quadrature du Net, pour demander à la branche familiale du système français de protection sociale de cesser le traitement algorithmique des données des allocataires des CAF en vue de cibler ses contrôles.
Depuis 2018, la Cnaf calcule en effet pour chaque foyer un score de risque d’indu – un chiffre entre 0 et 1 censé mesurer la probabilité de trop-perçu de plus de 600 euros d’allocations sur six mois. Ce score alimente ensuite des listes d’allocataires à contrôler, transmises aux CAF.

L’algorithme de la Cnaf sous le feu des critiques

Nourri par les données personnelles de 32 millions de personnes pour calculer 13 millions de scores chaque mois, l’algorithme ciblerait délibérément les personnes les plus vulnérables, des facteurs comme de faibles revenus, le chômage, le RSA ou l’allocation adulte handicapé augmentant fortement la valeur du score. C’est ce « scoring social » que le Conseil d’État examinera d’ici quelques semaines, dans un recours qui pourrait faire date.

« On a désormais avec nous la CGT, qui est au conseil d’administration de la Cnaf. Que des syndicats représentant des personnes qui travaillent dans ces administrations se mobilisent montre qu’on ne s’oppose pas au service public. Au contraire, on essaie de lui faire retrouver son objectif initial, perdu, qui est de faire de l’accompagnement social, d’aider les gens, et non pas de mettre sous l’eau la tête de personnes précaires et déjà en difficulté », se félicite Bastien Le Querrec, juriste à la Quadrature du Net.
En effet, si la Cnaf affirme que son algorithme est un simple outil d’aide à la décision, destiné à renforcer la lutte contre la fraude et à garantir le « paiement à bon droit », les défendeurs le voient comme un dispositif qui surveille d’abord les plus vulnérables et viole le droit européen, en s’appuyant notamment sur l’arrêt Schufa de la Cour de justice de l’UE, qui considère qu’un score guidant l’action d’une administration peut constituer une décision automatisée.
En ce sens, les données produites par la Cnaf elle-même, dans une étude interne présentée à son comité d’éthique que l’Humanité a pu consulter, montrent en effet une corrélation frappante : parmi les foyers dont le score dépasse 0,9, 63 % ont été contrôlés dans les douze mois suivant le calcul.

Le scoring cible surtout les plus fragiles

En dessous de 0,7, ce taux tombe à 28 %. Autrement dit, le score fonctionne comme un déclencheur puissant pour orienter l’action des CAF. « Quand on fait la comparaison entre la fraude sociale (3,8 milliards d’euros pour la branche famille) et la fraude fiscale (plus de 100 milliards), on est sur des ordres de grandeur très différents. Donc, en termes de politique publique, le fait de mettre autant l’accent sur cette recherche d’indus ou sur cette récupération d’argent à tout prix auprès des personnes les plus pauvres qui en ont particulièrement besoin, c’est très contestable », relève Bastien Le Querrec.
Pour sa défense, la Cnaf insiste sur le fait que les contrôleurs « n’ont pas accès au score », seulement à des listes de dossiers à examiner, et que la décision finale dépend aussi d’éléments locaux – charge de travail, historique du foyer, organisation des tournées.

Par ailleurs, l’organisme public a accepté, le 15 janvier de publier le code source de son algorithme actuel, alors qu’elle avait auparavant refusé de le faire malgré les demandes répétées de différentes organisations, et précise que « plusieurs variables potentiellement sensibles ont été explicitement exclues pour limiter les risques de discrimination : nationalité, genre, adresse ou quartier, comportement en ligne, antécédents de contrôle ». Les juges apprécieront que ces types de critères aient pu être intégrés dans l’algorithme ou même envisagés de l’être !
Un représentant de la CGT des usagers de la Cnaf, qui souhaite rester anonyme, salue néanmoins cet « effort de transparence », tout en précisant que « la priorité de l’organisme, notamment envers les publics les plus en difficulté, devrait être l’accompagnement humain, l’aide personnalisée aux démarches, et pas le ciblage algorithmique à des fins de recouvrement ».

Le Défenseur des droits alerte sur les surcontrôles

En tout état de cause, l’argument majeur de la Cnaf pour justifier son système reste celui de « l’efficacité » : en 2024, les CAF ont réalisé 31,5 millions de contrôles au total, dont 2,5 millions menés par des agents sur pièces ou sur place. Parmi ces derniers, 166 258 (soit 7 %) provenaient directement du datamining (étude de données).
Et ces contrôles ciblés ont permis de détecter 326 millions d’euros d’impact financier, dont 243 millions d’indus – soit 19 % de tous les indus détectés, pour seulement 7 % des contrôles. Ils représentent également 25 % des suspicions de fraude identifiées cette année-là. Le problème, c’est que, contrairement à ce qui est supposé, les indus détectés ne relèvent pas nécessairement d’une fraude.
La plupart proviennent d’erreurs déclaratives, dans un système où les règles – composition du foyer, revenus pris en compte, changements de situation – sont d’une complexité redoutable. Un contrat court non signalé à temps, un hébergement familial temporaire ou un virement perçu comme un revenu peuvent suffire à déclencher un contrôle, une dette à rembourser ou la suspension pure et simple d’un revenu vital.
Dans ses observations transmises au Conseil d’État, le Défenseur des droits, « qui se prononce rarement aussi clairement dans ce type d’affaires », souligne le juriste de la Quadrature du Net, affirme que le modèle « produit un désavantage significatif et instaure une présomption de discrimination indirecte » : les populations déjà fragiles se retrouvent surcontrôlées. Et il rappelle « qu’à partir du moment où le modèle est opaque, il appartient à l’administration – et non aux justiciables – de prouver l’absence de discrimination ».

Des erreurs qui peuvent coûter cher aux familles fragiles

Les chiffres internes de la Cnaf renforcent ce constat. Dans les 5 % d’allocataires ayant les scores les plus élevés, on trouve : 71 % de bénéficiaires de la prime d’activité (contre 33 % dans l’ensemble des allocataires) ; 40 % de bénéficiaires du RSA (contre 13 %) ; 68 à 71 % de foyers percevant les aides au logement (contre 41 %) ; 40 à 43 % de familles monoparentales (contre 15 %). Autrement dit, l’algorithme ne cible pas l’ensemble des allocataires : il sursélectionne les ménages les plus précaires, souvent les plus exposés aux erreurs administratives.
Les conséquences ne sont pas anodines. Les contrôles issus du datamining, plus intrusifs, peuvent conduire à des visites au domicile, à la consultation de documents personnels ou à des suspensions de droits. Le Défenseur des droits note que les erreurs de qualification – confondre une erreur avec une fraude – sont fréquentes dans les CAF, aggravant les risques pour les publics déjà fragilisés, et conduisent à un renforcement de la stigmatisation et de la maltraitance institutionnelle.
En réponse, à l’issue de ce contentieux, le Conseil d’État pourrait imposer des audits obligatoires, une explicabilité accrue, voire interdire d’utiliser un score généralisé sur l’ensemble des allocataires. C’est évidemment pour la dernière option que penche la Quadrature du Net, à l’origine de la plainte.

« Cet algorithme n’est pas amendable, martèle Bastien Le Querrec. Il s’inscrit dans une politique globale de soi-disant lutte contre l’assistanat très chère à l’extrême droite et à la droite dure, qui prétend que les personnes les plus pauvres seraient des suspects par défaut, ce qui justifierait la complexité d’obtention des aides et l’accent dans le contrôle mis sur ces personnes-là. C’est toute la politique qui s’incarne dans le projet de loi sur la fraude actuellement en discussion au Parlement qu’il faut remettre en question. »
Ce qu’espère aujourd’hui la large coalition qui s’oppose à ce genre de pratique largement répandue en Europe, c’est de renforcer la demande d’interdiction de ce type d’algorithme, mais aussi d’encourager le Conseil d’État à effectuer un renvoi de l’affaire devant la Cour de justice de l’Union européenne. Car, précise Bastien Le Querrec « comme notre nouvelle coalition rassemble diverses organisations européennes et françaises issues de domaines variés, une décision applicable à l’ensemble de l’Europe serait pertinente ».