Les bénéficiaires du Revenu de solidarité active (RSA) ou les foyers monoparentaux sont-ils davantage contrôlés que les autres? Des associations contestent devant le Conseil d'État un algorithme utilisé par la Caisse nationale des allocations familiales (CNAF) pour détecter les versements indus parmi ses allocataires.
Le recours, déposé mardi, "porte tant sur l'étendue de la surveillance à l'oeuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisés dans leurs parcours de vie", ont expliqué mercredi quinze associations, dont Amnesty International, la Quadrature du Net ou la Fondation Abbé Pierre.
Utilisé depuis 2011, cet outil attribue un "score à risque" aux allocataires, afin d'identifier ceux qui pourraient être concernés par des "indus", ces sommes versées en trop aux bénéficiaires, ou des fraudes.
Cet algorithme attribue un score allant de 0 à 1, basé sur une quarantaine d'attributs dans une version utilisée entre 2014 et 2018 examinée par ces associations, tels que la composition du foyer ou l'âge: plus le score s'approche de 1, plus l'allocataire est susceptible d'être soumis à des contrôles.
"Le fait d'avoir des revenus faibles, de vivre dans un quartier défavorisé, de percevoir l'AAH (allocation adulte handicapé) ou le RSA" augmentent la probabilité de subir un contrôle, selon Katia Roux, chargée de plaidoyer technologie et droits humains à Amnesty.
- "Par nature discriminatoire" -
Ce système "est par nature discriminatoire puisqu'il va cibler délibérément les publics les plus précaires", dénonce-t-elle.
Les organisations indiquent avoir réclamé à la CNAF la suppression de cet algorithme en juillet 2024. Actant l'absence de réponse au bout de deux mois, équivalant selon elles à "refus implicite", elles ont donc décidé de saisir la justice.
"Le fait de traiter les données personnelles de près de 32,3 millions de personnes, vis-à-vis d'essayer de voir où sont les indus, est considéré comme disproportionné et donc illégal", dit encore Katia Roux.
Les associations affirment aussi que cet outil viole le règlement général sur la protection des données (RGPD) en raison d'une prise de décision "automatisée".
Elles pointent en outre une discrimination "directe" et "indirecte" d'un dispositif qui cible les personnes les plus vulnérables, comme les mères célibataires ou les foyers à faibles revenus.
Trois types de contrôles sont effectués en cas de "scoring" élevé: des vérifications internes des documents de l'allocataire, des contrôles auprès d'organismes externes (banques, fournisseurs d'internet, d'énergie, de téléphone...) et des contrôles physiques chez les allocataires.
- Erreurs de déclarations -
Lorsqu'un allocataire est signalé comme susceptible d'être soumis à un contrôle, les aides perçues peuvent être suspendues : "Pour les personnes ayant déjà des difficultés de vie, c'est la panique. Les contrôleurs ont énormément de droits, ils peuvent se faire communiquer les relevés de comptes, les factures, faire des enquêtes de voisinage..", affirme Valérie Persan, de l'association Changer de Cap, qui espère "remettre de l'humain dans les institutions".
Cet outil statistique vise à identifier parmi les 13,5 millions d'allocataires les plus susceptibles de commettre des erreurs dans leur déclaration, ciblant "les indus importants et répétés", a expliqué mercredi à l'AFP le directeur général de la CNAF Nicolas Grivel.
"Nous versons plus d'argent aux familles qui en ont le plus besoin et auprès desquelles le risque d'erreur est amplifié par des situations de vie" professionnelle complexe, fait-il valoir.
"Si une juridiction devait prendre position pour (...) faire évoluer le dispositif", la CNAF se mettrait "en conformité", assure le dirigeant qui, l'an dernier, avait assuré que cet outil n'était "pas discriminatoire".
L'expérimentation du projet de Solidarité à la source actuellement dans cinq départements et dont la généralisation à l'ensemble du territoire est prévue en mars 2025 devrait "changer la donne", en diminuant "le risque d'erreur" et "l'instabilité des droits", estime encore le directeur général de la CNAF. Ce projet prévoit l'attribution directe des aides sociales en fonction des revenus enregistrés par l'administration.