Commentaires sur DignifAI, l’appli qui « veut rendre aux femmes leur dignité », fait scandale

[Elisa Covo]

Ce sujet est dédié aux réactions concernant cet article :
DignifAI, l’appli qui « veut rendre aux femmes leur dignité », fait scandale

 

[Aichathegypsy]

Mon Dieu ! Je ne comprends pas que ce genre d'application puisse exister...

 

[Mayushi]

Le plus dingue c'est surtout le retard des pays sur la legislation concernant l'AI, alors je sais qu'au niveau Européen c'est en discussion, mais on aurait pu agir beaucoup plus vite au niveau national pour rendre ce genre retouches illégales. Voir simplement autoriser la censure d'application sur les places de marchés (un·e juge devrait pouvoir dire "cette appli on en veut pas en France, retirez-là immédiatement").

Pour répondre à @Aichathegypsy ces applications existent uniquement car cela rapporte de l'argent aux personnes derrières, ni plus ni moins. Avec la complicité d'Apple et Google qui vont directement profiter en ponctionnant une partie des revenus.

Le problème c'est pas tant les groupes haineux qui font ces applis (enfin si c'est un problème, mais beaucoup plus difficile à résoudre), on ne pourra pas virer les incels/racistes/misogynes d'internet du jour au lendemain. Par contre on m'explique à quel moment Apple autorise une appli de ce type sur sa place de marché ?

Aussi les abus avec l'AI on ne pourra jamais revenir en arrière c'est trop tard, on peut au mieux limiter l'impact en interdisant toutes ces applis accessibles à n'importe qui sur son smartphone. Qu'une personne qui s'y connaisse en informatique puisse faire ce genre de choses, bon c'est mal mais on pouvait faire de la retouche d'image depuis 40 ans. Le problème maintenant c'est qu'une personne lambda puisse le faire sans effort et ces applis participent activement aux cyberviolences avec la complicité d'Apple.

 

[Mayushi]

A noter que c'est aussi utilisé sur des hommes aussi, les femmes ne sont pas l'unique cible.

En réalité le problème c'est pas sur qui c'est utilisé mais par qui et pourquoi. Le paradigme est pas du tout le même avec les hommes. C'est pas pour les slut-shame comme pour les femmes. Pour les hommes ça sera plutôt dans un contexte humoristique et complètement bénin (par exemple rire d'Elon Musk). Ok va parfois se moquer du physique (le bide, les poils) de quelques hommes, mais c'est marginal et sans impact réel.

On va pas se mentir dans la grande majorité des cas l'IA est utilisée contre les femmes et même quand elle est utilisée contre les hommes c'est quasi exclusivement par des hommes. Il suffit d'aller sur les sites spécialisés qui proposent des modèles d'IA, la quasi totalité des modèles disponibles sont entrainés pour satisfaire les désirs des hommes. Il y a des modèles uniquement entrainés pour reproduire les poitrines féminines ou les vulves. Et pour les penis, ça reste uniquement pour qu'ils puissent servir sur une image de porno qui s'addresse aux hommes. J'ai pas encore vu un seul modèle d'IA dans un contexte sexuel fait par une développeuse/personne non-binaire, (ou même un homme hein) avec une autre optique que le male-gaze / la gratification sexuelle des hommes. Pour moi la guerre est déjà perdue, c'est comme le porno quoi. Quand un secteur est dominé à 99% par des hommes on ne pourra plus jamais le changer.

Aussi, quand des personnalités sont visées, toutes les femmes le sont uniquement pour leur physique et dans un but sexuel, j'ai bien dit toutes, y compris des personnes qu'on imagine pas vraiment servir de modèle pour en faire du porno comme Marine Le Pen.

En revanche les modèles d'IA qui sont entrainés de manière extensif sur des hommes le sont pour des raisons politiques ou humoristiques, pour faire de la désinformation par exemple (on va prendre un chef d'état ou des politicien·ne·s de gauche et leurs faire dire n'importe quoi).

Donc non la seule et unique cible c'est bien les femmes pour cette appli, qu'on puisse l'utiliser sur des hommes certes on le peut. Mais il faut savoir d'où elle vient et par qui elle est faite pour comprendre. C'est pas juste 4chan, mais le sous-forum /pol/ de 4chan qui est un repère notoire pour les racistes/incels/misogynes/complotistes (et c'est pas moi qui le dit, il y a eu des études scientifiques sur ce sous-forum).

Et pour finir (désolé pour le pavé ><) aujourd'hui ce qu'on voit sous forme d'appli sur internet, demain (dans moins de 3 ans) ça sera possible à faire directement sur n'importe quel téléphone, juste avec sa propre puissance de calcul. Donc il n'y aura plus aucune limite possible, de la même manière que vous utilisez des filtres aujourd'hui sur votre téléphone, demain on pourra juste avoir une case "déshabiller" / "rhabiller" et l'opération prendra 5 secondes~ maximum, puis éventuellement sera instantanée juste en pointant son appareil avec un résultat quasi parfait. Et ça sera possible sur absolument tout le monde, y compris les mineur·e·s.

 

[Papillon Bleu]

Ne sois pas désolée pour ton "pavé" @Mayushi, je l'ai trouvé très intéressant :-) (comme tes autres publications, car même quand je ne suis pas d'accord avec toi, je trouve tes arguments pertinents )

J'ai d'ailleurs lu ce matin un article qui va dans le sens de ce que tu dis, même s'il parle des deepfakes porno : https://www.francetvinfo.fr/interne...artificielle-s-annonce-difficile_6382105.html

Il pointe notamment les difficultés de la justice face à ce phénomène, qui cible tout le monde (une simple photo prise dans la rue suffit), et de la nécessité d'impliquer les géants de l'IA.

C'est flippant tout ça, vraiment...

 

[Elfianni]

Ah, les réacs conservateurs... ces hommes qui exigent des femmes les valeurs qu'ils sont incapables de tenir eux-mêmes, et les forcent à avoir des gamins qu'ils pourront ensuite violenter.
Des hommes qui considèrent les femmes comme un accessoire censé représenter tout ce qu'il y a de bien en eux, afin de leur éviter cet effort insurmontable...