Commentaires sur L’algorithme de la CAF favorise le contrôle des plus précaires, selon une enquête du Monde

30 Décembre 2013
1 174
9 268
5 154
J'ai lu la série d'articles qu'ils ont publié ce matin,

Ce qu'il faut comprendre, c'est que l'algo est basé sur du data mining, et créé a la base "sans préjugé" :
Ils ont tiré au sort 7000 personnes et fait des controles, puis ils ont regardé quels étaient les cas où il y avait des erreurs et comparé ça (de façon automatisée) aux données sur ces personnes.
Ces données représentent des milliers de point de données potentiels (age, composition du foyer, revenus, depuis quand on touche des allocations, changements récents etc).
L'algo construit alors un score de risque. Ce qui permet de prédire le risque d'une personne.

En soit, ça ne me choque pas, on fait ce genre de chose pour énormément de cas. Perso, bossant pour en santé, des scores de risques basés sur du data mining, c'est archi courant, et ça peut pas vraiment etre biaisé par un préjugé si le modèle est bien construit.

Pour la discrimination, on peut facilement argumenter que un algo de prédiction ayant des milliers de variables est une sorte de boite noire. Surtout si en entrée, on utilise le résultat d'une étude aléatoire (sachant que le processus a été répété plusieurs fois dans le temps)

Ce qui me choque plus, c'est ce qui en est fait ensuite. Se rendre compte que certains profils sont plus "a risque", c'est une oportunité de comprendre pourquoi. L'algo ne dit pas "les gens précaires fraudent", mais "les erreurs sont plus fréquentes chez tel type de personnes". Et c'est surtout une opportunité de faire de la prévention, en accompagnant les personnes "a risque" (ex : ceux ayant vécu un changement important comme le décès de leur compagnon). Et de simplifier certaines procédures complexes, en mettant en avant les informations importantes.


Quand on creuse (avec les autres articles du monde par exemple), on se rend compte que il y a une complexité importante des déclaration de la caf, avec des cas un peu absurdes. Par exemple, la demande des allocations pour handicap sont lourdes et l'erreur est facile.

En gros, ce ne sont pas les "plus précaires" qui "frauderaient", mais simplement que leur site est mal foutu. Quand on a les moyens, on a souvent besoin de la caf que pour des cas "simples" (ex : aide pour garde d'enfant), et on est facilement guidé.
Quand on a diverses besoin d'aide, ça se complexifie.

L'algo repère de façon objective les soucis, et du coup ça me semble "ok" d'avoir cet outil là, mais il faudrait que les controles soient précédés de mesures préventives et de simplifications.
 

Les Immanquables du forum

Participe au magazine !
Une info qu'on devrait traiter sur madmoiZelle ?
 
Nouvelle ou perdue ?
Pas de panique, on t'aime déjà !

La charte de respect du forum
Le guide technique &
le guide culturel du forum
Viens te présenter !
Un problème technique ?
Topic d'entraide sur l'orthographe et la grammaire
 
La chefferie vous informe
Les annonces de l'équipe concernant le forum et madmoiZelle
Rendre visite à madmoiZelle
Le médiateur du forum
Soutiens madmoiZelle financièrement
Topic dédié à la pub sur mad
Si vous aimez madmoiZelle, désactivez AdBlock !

Les immanquables
Les topics de blabla
En ce moment... !

Mode - Beauté - Ciné - Musique - Séries - Littérature - Jeux Vidéo - Etudes - Ecriture - Cuisine - People - Télévision

Envie de rencontrer des MadZ ?
Viens trouver le forum de ta ville !

Mode
Le pire de la mode
Ces vêtements qui te font envie
Ta tenue du jour
La tenue qui plaît
Tes derniers achats de fringues

Beauté
Astuces,bons plans économies & dupes
Le topic des vernis
Questions beauté en tout genre
 
Culture
Le meilleur des images du net
L'aide aux devoirs
Tu écoutes quoi ?
Quelle est ta série du moment ?
Quel livre lisez-vous en ce moment ?
Le dernier film que vous avez vu à la maison
Le topic philosophique
 
Société
Topic des gens qui cherchent du travail
Voyager seule : conseils et témoignages
Trucs nuls de la vie d'adulte : CAF, Banque, Mutuelle, Logement etc...
 
Les topics universels
Je ne supporte pas
Je ne comprends pas
Ca me perturbe
Je me demande
J'adore...
Je m'en veux de penser ça mais...

Cupidon
Le topic des amoureuses
Le topic des polyamoureuses
Les Célibattantes