Commentaires sur DignifAI, l’appli qui « veut rendre aux femmes leur dignité », fait scandale

2 Juin 2021
520
7 068
554
Le plus dingue c'est surtout le retard des pays sur la legislation concernant l'AI, alors je sais qu'au niveau Européen c'est en discussion, mais on aurait pu agir beaucoup plus vite au niveau national pour rendre ce genre retouches illégales. Voir simplement autoriser la censure d'application sur les places de marchés (un·e juge devrait pouvoir dire "cette appli on en veut pas en France, retirez-là immédiatement").

Pour répondre à @Aichathegypsy ces applications existent uniquement car cela rapporte de l'argent aux personnes derrières, ni plus ni moins. Avec la complicité d'Apple et Google qui vont directement profiter en ponctionnant une partie des revenus.

Le problème c'est pas tant les groupes haineux qui font ces applis (enfin si c'est un problème, mais beaucoup plus difficile à résoudre), on ne pourra pas virer les incels/racistes/misogynes d'internet du jour au lendemain. Par contre on m'explique à quel moment Apple autorise une appli de ce type sur sa place de marché ?

Aussi les abus avec l'AI on ne pourra jamais revenir en arrière c'est trop tard, on peut au mieux limiter l'impact en interdisant toutes ces applis accessibles à n'importe qui sur son smartphone. Qu'une personne qui s'y connaisse en informatique puisse faire ce genre de choses, bon c'est mal mais on pouvait faire de la retouche d'image depuis 40 ans. Le problème maintenant c'est qu'une personne lambda puisse le faire sans effort et ces applis participent activement aux cyberviolences avec la complicité d'Apple.
 
2 Juin 2021
520
7 068
554
A noter que c'est aussi utilisé sur des hommes aussi, les femmes ne sont pas l'unique cible.

En réalité le problème c'est pas sur qui c'est utilisé mais par qui et pourquoi. Le paradigme est pas du tout le même avec les hommes. C'est pas pour les slut-shame comme pour les femmes. Pour les hommes ça sera plutôt dans un contexte humoristique et complètement bénin (par exemple rire d'Elon Musk). Ok va parfois se moquer du physique (le bide, les poils) de quelques hommes, mais c'est marginal et sans impact réel.

On va pas se mentir dans la grande majorité des cas l'IA est utilisée contre les femmes et même quand elle est utilisée contre les hommes c'est quasi exclusivement par des hommes. Il suffit d'aller sur les sites spécialisés qui proposent des modèles d'IA, la quasi totalité des modèles disponibles sont entrainés pour satisfaire les désirs des hommes. Il y a des modèles uniquement entrainés pour reproduire les poitrines féminines ou les vulves. Et pour les penis, ça reste uniquement pour qu'ils puissent servir sur une image de porno qui s'addresse aux hommes. J'ai pas encore vu un seul modèle d'IA dans un contexte sexuel fait par une développeuse/personne non-binaire, (ou même un homme hein) avec une autre optique que le male-gaze / la gratification sexuelle des hommes. Pour moi la guerre est déjà perdue, c'est comme le porno quoi. Quand un secteur est dominé à 99% par des hommes on ne pourra plus jamais le changer.

Aussi, quand des personnalités sont visées, toutes les femmes le sont uniquement pour leur physique et dans un but sexuel, j'ai bien dit toutes, y compris des personnes qu'on imagine pas vraiment servir de modèle pour en faire du porno comme Marine Le Pen.

En revanche les modèles d'IA qui sont entrainés de manière extensif sur des hommes le sont pour des raisons politiques ou humoristiques, pour faire de la désinformation par exemple (on va prendre un chef d'état ou des politicien·ne·s de gauche et leurs faire dire n'importe quoi).

Donc non la seule et unique cible c'est bien les femmes pour cette appli, qu'on puisse l'utiliser sur des hommes certes on le peut. Mais il faut savoir d'où elle vient et par qui elle est faite pour comprendre. C'est pas juste 4chan, mais le sous-forum /pol/ de 4chan qui est un repère notoire pour les racistes/incels/misogynes/complotistes (et c'est pas moi qui le dit, il y a eu des études scientifiques sur ce sous-forum).

Et pour finir (désolé pour le pavé ><) aujourd'hui ce qu'on voit sous forme d'appli sur internet, demain (dans moins de 3 ans) ça sera possible à faire directement sur n'importe quel téléphone, juste avec sa propre puissance de calcul. Donc il n'y aura plus aucune limite possible, de la même manière que vous utilisez des filtres aujourd'hui sur votre téléphone, demain on pourra juste avoir une case "déshabiller" / "rhabiller" et l'opération prendra 5 secondes~ maximum, puis éventuellement sera instantanée juste en pointant son appareil avec un résultat quasi parfait. Et ça sera possible sur absolument tout le monde, y compris les mineur·e·s.
 
Dernière édition :
15 Août 2023
454
3 598
154
Ne sois pas désolée pour ton "pavé" @Mayushi, je l'ai trouvé très intéressant :-) (comme tes autres publications, car même quand je ne suis pas d'accord avec toi, je trouve tes arguments pertinents :bouquet:)

J'ai d'ailleurs lu ce matin un article qui va dans le sens de ce que tu dis, même s'il parle des deepfakes porno : https://www.francetvinfo.fr/interne...artificielle-s-annonce-difficile_6382105.html

Il pointe notamment les difficultés de la justice face à ce phénomène, qui cible tout le monde (une simple photo prise dans la rue suffit), et de la nécessité d'impliquer les géants de l'IA.

C'est flippant tout ça, vraiment...
 
  • Big up !
Réactions : Nytaas
12 Janvier 2024
51
291
54
Ah, les réacs conservateurs... ces hommes qui exigent des femmes les valeurs qu'ils sont incapables de tenir eux-mêmes, et les forcent à avoir des gamins qu'ils pourront ensuite violenter.
Des hommes qui considèrent les femmes comme un accessoire censé représenter tout ce qu'il y a de bien en eux, afin de leur éviter cet effort insurmontable...
 
  • Big up !
Réactions : Naty-chan et Bulldo

Les Immanquables du forum

Participe au magazine !
Une info qu'on devrait traiter sur madmoiZelle ?
 
Nouvelle ou perdue ?
Pas de panique, on t'aime déjà !

La charte de respect du forum
Le guide technique &
le guide culturel du forum
Viens te présenter !
Un problème technique ?
Topic d'entraide sur l'orthographe et la grammaire
 
La chefferie vous informe
Les annonces de l'équipe concernant le forum et madmoiZelle
Rendre visite à madmoiZelle
Le médiateur du forum
Soutiens madmoiZelle financièrement
Topic dédié à la pub sur mad
Si vous aimez madmoiZelle, désactivez AdBlock !

Les immanquables
Les topics de blabla
En ce moment... !

Mode - Beauté - Ciné - Musique - Séries - Littérature - Jeux Vidéo - Etudes - Ecriture - Cuisine - People - Télévision

Envie de rencontrer des MadZ ?
Viens trouver le forum de ta ville !

Mode
Le pire de la mode
Ces vêtements qui te font envie
Ta tenue du jour
La tenue qui plaît
Tes derniers achats de fringues

Beauté
Astuces,bons plans économies & dupes
Le topic des vernis
Questions beauté en tout genre
 
Culture
Le meilleur des images du net
L'aide aux devoirs
Tu écoutes quoi ?
Quelle est ta série du moment ?
Quel livre lisez-vous en ce moment ?
Le dernier film que vous avez vu à la maison
Le topic philosophique
 
Société
Topic des gens qui cherchent du travail
Voyager seule : conseils et témoignages
Trucs nuls de la vie d'adulte : CAF, Banque, Mutuelle, Logement etc...
 
Les topics universels
Je ne supporte pas
Je ne comprends pas
Ca me perturbe
Je me demande
J'adore...
Je m'en veux de penser ça mais...

Cupidon
Le topic des amoureuses
Le topic des polyamoureuses
Les Célibattantes