Ce sujet est dédié aux réactions concernant ce post : Pourquoi ton Internet est biaisé (et comment y remédier)
Dernière édition :
Pourquoi ton Internet est biaisé (et comment y remédier)
- Initiateur de la discussion Marie
- Date de début
En réalité, notre plus grosse bulle, c'est nous-mêmes. Nous nous tournons déjà instinctivement vers les sources d'information qui vont dans le sens de nos préjugés, et nous accordons peu de crédit -voire oublions- les sources qui les contredisent, le tout sans en avoir conscience. Les algos ne font finalement qu'imiter un mécanisme qui est déjà à la base ancré en nous, c'est même pas sûr qu'en leur absence, la situation aurait été différente. Et c'est un sacré challenge que de s'extraire de ce mécanisme, ça demande beaucoup d'énergie mentale, de remise en question et d'humilité, et ça provoque un inconfort mental assez douloureux que tout le monde n'est pas prêt à encaisser. Et puis, il faut en avoir envie, donc impossible de faire faire ce travail par quelqu'un qui préférera rester dans son confort cognitif. Résultat: la majorité des personnes atteintes par notre militantisme seront soit des déjà convertis, soit des gens qui oublieront dans la minute ce qu'elles ont lu, soit des gens opposés à ce qu'on dit et qui utiliseront des sources qui flattent leur préjugés pour prétendre que nous avons tort.
Sinon, il y a plusieurs moyens de défier les algos si on le veut:
-Aller sur youtube en mode déconnecté et avec les cookies bloqués. Comme ça, nous goûts ne sont pas retenus.
-Utiliser yex.tv, il répertorie une partie croissante du youtube francophone. Tout est classé par catégorie et sans distinction d'audience ou de nos goûts apparents.
-Utiliser des services alternatifs tels que searx.me ou duckduckgo pour la recherche, mastodon ou diaspora pour les réseaux sociaux et peertube pour les vidéos. Comme ils n'ont aucun but lucratif (fonctionnent sur base du don et du mécénat), ils n'ont pas d'algo biaisé par des intérêts financiers.
Sinon, il y a plusieurs moyens de défier les algos si on le veut:
-Aller sur youtube en mode déconnecté et avec les cookies bloqués. Comme ça, nous goûts ne sont pas retenus.
-Utiliser yex.tv, il répertorie une partie croissante du youtube francophone. Tout est classé par catégorie et sans distinction d'audience ou de nos goûts apparents.
-Utiliser des services alternatifs tels que searx.me ou duckduckgo pour la recherche, mastodon ou diaspora pour les réseaux sociaux et peertube pour les vidéos. Comme ils n'ont aucun but lucratif (fonctionnent sur base du don et du mécénat), ils n'ont pas d'algo biaisé par des intérêts financiers.
@skippy01 tu as complètement raison, les outils technologiques ne créent pas le problème mais l'amplifient 
D'ailleurs, le concept de filter bubble date "d'avant Internet" : des sociologues des médias (désolée je ne retrouve plus ma source) avaient déjà démontré comment nous nous enfermions dans le même cercle d'opinions dans nos consommations de journaux (quotidiens) au 20ème siècle.
C'est pour ça que je milite depuis des années pour une éducation aux médias grand public : sans esprit critique et sans recul dans nos consommations médiatiques, on ne pourra pas avancer
D'ailleurs, le concept de filter bubble date "d'avant Internet" : des sociologues des médias (désolée je ne retrouve plus ma source) avaient déjà démontré comment nous nous enfermions dans le même cercle d'opinions dans nos consommations de journaux (quotidiens) au 20ème siècle.
C'est pour ça que je milite depuis des années pour une éducation aux médias grand public : sans esprit critique et sans recul dans nos consommations médiatiques, on ne pourra pas avancer
Le problème est que la situation actuelle nous enferme dans un cercle vicieux, vu qu'elle empêche justement le public de prendre conscience de l'importance d'une éducation aux médias. À cela s'ajoute les conflits d'intérêt dans le monde politico-médiatique dont la majorité tire un profit financier et idéologique du manque d'éducation aux médias et d'esprit critique, donc si les seuls à mêmes de pouvoir changer les choses ont tout intérêt à ce que ça ne change pas, que faire ?
On commence à se rendre compte que ça passera avant tout par une sensibilisation dès le plus jeune âge et c'est pour ça que le secteur le plus impliqué dans cette éduc pour le moment, c'est l'Ecole. Najat Vallaud Belkacem avait intégré cet angle dans la refonte des programmes d'EMC (enseignement moral et civique), mais on n'en mesurera l'impact que dans un moment ! Actuellement en plus, ils traitent assez peu d'éducation au numérique ce qui est vraiment regrettable. Tant qu'il n'y aura pas d'impulsion gouvernementale, ça risque d'être trèèèès long.
Pour les autres générations (nous, nos parents et grands parents), jme dis qu'on n'est pas pour autant perdus. C'est en en discutant entre nous, en contredisant les gens qui propagent des fake news et en s'entraidant pour trouver des outils de vérification des sources qu'on fait avancer les choses, petit à petit. Je suis une éternelle optimiste
Pour les autres générations (nous, nos parents et grands parents), jme dis qu'on n'est pas pour autant perdus. C'est en en discutant entre nous, en contredisant les gens qui propagent des fake news et en s'entraidant pour trouver des outils de vérification des sources qu'on fait avancer les choses, petit à petit. Je suis une éternelle optimiste
J
JAK-STAT
Guest
Ca m'a fait rire le "les femmes sont moins chères et font les tâches répétitives " comme s'il comparait deux perceuses et que la perceuse femme était moins chère et tenait plus longtemps que la perceuse homme (qui elle se serait coupée au bout d'une heure parce que marre de percer des trous)
Oulah oulah, grosse grosse confusion entre "Intelligence Artificielle" et "Programme Informatique".
Tous programme informatique n'est pas IA.
Une IA apprend des données qu'elle reçoit, et s'y adapte (d'où la notion "d'intelligence"), ce n'est pas le cas des exemples utilisés dans cette citation. Quand un programme décide qu'une personne peut ou non accéder à une école, ce n'est pas de l'IA : ce n'est que le résultat d'un algorithme pré-déterminé par un humain.
Ca a une grosse importance.
Parce que là où l'IA apprend dans un contexte et change les résultats qu'elle retourne en fonction (exemple typique des IA Twittante, très sympa au départ, qui tourne vite nazi), les autres programmes ne font qu'obéir à des règles pré-établies qui sont immuables.
C'est à dire que si on rentre des règles sexistes (exemple : il faut 80% d'hommes dans cette formation), le programme va donner un résultat sexiste (= 80% d'hommes sélectionnés).
La bonne nouvelle, c'est que si on entre des paramètres non discriminants (par exemple, que le sexe ne fait pas partie d'un critère de choix), ou des paramètres égalitaires (on veut une parité des genres, ou une distribution des âges, etc...), on aura des résultats en fonction.
A l'inverse, l'IA on va lui dire "apprend ce qu'est un bon candidat, et sélectionne les bons candidats" : une manière de faire ça est de comparer les caractéristiques des candidats des X années précédentes, ceux qui ont été sélectionnés, et ceux qui ont bien réussi leur diplome. Puis de faire la sélection avec les dites caractéristiques.
Or dans cet exemple, on aboutit aussi à une sélection sexiste, parce que si l'IA observe que 80% des meilleurs diplomés sont des hommes, elle va vouloir privilégier des hommes en entrée. Sauf que les donnés sont biaisés par le sexisme existant (qui sélectionnait préférenciellement des hommes, donc normal qu'il y en ai plus dans les diplomés).
La bonne nouvelle, c'est que les IA embarque un certain nombre de règles à respecter, et que l'on peut jouer là dessus (par exemple, "la Tour ne se déplace pas diagonalement", ou "le sexe ne doit pas être pris en compte dans l'apprentissage").
Je ne sais pas si j'arrive à être clair.
Mais c'est une différence fondamentale pour comprendre comment fonctionne le monde numérique.
Et donc comment il peut être modelé à l'image de la société qu'on veut
(Ce qui est plus flippant que rassurant soyons honnêtes, parce que ce sont surtout voir même exclusivement des entreprises privées qui ont la main là dessus).
Mmmmmh... Je ne suis pas tout à fait d'accord avec toi, je pense que tu sous-estimes les domaines d'application de l'IA (ou plutôt, des algorithmes de machine-learning, puisque c'est de ça qu'il s'agit).
Le reste de ton commentaire est juste, on est d'accord que Parcoursup n'est pas une IA, et je ne peux pas me prononcer sur le cas de l'éducation de façon générale, mais dans le domaine du recrutement, il y a bien des entreprises qui se servent d'algorithmes de machine-learning pour effectuer une pré-sélection sur les candidats.
En fait, dans les exemples de domaines d'application de l'IA donnés par @Marie, à part le domaine de l'éducation où effectivement je n'ai jamais entendu parler d'utilisation de l'IA pour sélectionner les candidats, tous les autres domaines l'utilisent à un niveau ou un autre. Du coup je suis un peu étonnée que tu dises que ces exemples ne sont pas pertinents. Ou alors j'ai mal compris où tu voulais en venir ?
Par-contre, je remarque de plus en plus (et ce n'est pas propre à cet article) que le terme "algorithme" est abusivement utilisé pour faire référence aux algorithmes de machine-learning. Or l'algorithmie, c'est un peu plus vaste que ça, et le machine-learning n'est qu'une catégorie d'algorithmes.
Sinon, pour celles que le sujet intéresse, je conseille vraiment beaucoup le livre de Cathy O'Neil, Algorithmes : La bombe à retardement (Weapons of Math Destruction en anglais) qui explique bien comment l'IA est utilisée de façon de plus en plus abusive dans des domaines où, du fait des fameux biais dont il est question dans l'article, elles vont avoir tendance à renforcer les inégalités sociales.
J'ai jeté un œil au résumé du bouquin, c'est vraiment effrayant. On se sent tellement impuissant face à un mécanisme aussi gigantissime que celui-là. #BlackMirror
Merci pour cet article très intéressant. Sur la question de l'histoire des femmes dans le domaine informatique, j'avais lu cet article, qui détaille l'évolution : Comment les femmes ont été écartées de l'informatique.
C'est quand même légèrement décourageant de voir à quel point le patriarcat est encore vif : apparemment les genTes considèrent que les codes faits par des femmes sont moins bons que ceux faits par des hommes, alors que, lorsque le nom de l'auteur ou de l'autrice du code est anonymisé, les codes faits par des informaticiennes sont considérés comme de très bonne qualité, et même meilleurs que ceux faits par les informaticiens.
Pour ce qui est de sortir de sa bulle, parfois j'avoue je vais sur youtube après avoir vidé mes cookies (c'est mignon comme nom, qui donne l'impression que c'est anodin comme truc) et Oh mon Dieu je regrette tellement vite
Je suis bien d'accord sur le fait que sortir de sa bulle d'informations est nécessaire. D'un autre côté ("en même temps"
), vu la production mondiale de bêtises mises en ligne, on n'aura jamais assez d'une vie pour épuiser toutes les lectures et vidéos disponibles. Donc la plupart du temps je préfère garder mon temps libre pour lire des trucs qui peuvent m'intéresser, plutôt que des théories parfois fumeuses (au hasard, le néo-libéralisme) ou le dernier coup de pub de tel ou tel présentateur vedette.
C'est quand même légèrement décourageant de voir à quel point le patriarcat est encore vif : apparemment les genTes considèrent que les codes faits par des femmes sont moins bons que ceux faits par des hommes, alors que, lorsque le nom de l'auteur ou de l'autrice du code est anonymisé, les codes faits par des informaticiennes sont considérés comme de très bonne qualité, et même meilleurs que ceux faits par les informaticiens.
Pour ce qui est de sortir de sa bulle, parfois j'avoue je vais sur youtube après avoir vidé mes cookies (c'est mignon comme nom, qui donne l'impression que c'est anodin comme truc) et Oh mon Dieu je regrette tellement vite
Je suis bien d'accord sur le fait que sortir de sa bulle d'informations est nécessaire. D'un autre côté ("en même temps"
), vu la production mondiale de bêtises mises en ligne, on n'aura jamais assez d'une vie pour épuiser toutes les lectures et vidéos disponibles. Donc la plupart du temps je préfère garder mon temps libre pour lire des trucs qui peuvent m'intéresser, plutôt que des théories parfois fumeuses (au hasard, le néo-libéralisme) ou le dernier coup de pub de tel ou tel présentateur vedette.
ça peut avoir des conséquences très graves si ça n'est pas mieux encadré dans les années à venir, en effet.
Après, il faut garder en tête que O'Neil est américaine et que tous les exemples qu'elle donne sont américains, la législation européenne est beaucoup plus stricte sur ce que les entreprises ont le droit de faire ou non avec les données personnelles de leurs utilisateurs. Non pas que ça ne risque jamais d'arriver en Europe, mais pour l'instant on est mieux protégés.
Discussions similaires
