Commentaires sur Victime de deepfake pornographique, Alexandria Ocasio-Cortez estime que « ça s’apparente à un viol »

2 Juin 2021
513
6 943
554
On ne pourra jamais légiférer plus, je vois pas vraiment ce qu'il est possible de faire, la boite de pandore de l'IA est ouverte, on ne la refermera jamais. Les lois actuelles (du moins en France) permettent déjà de prendre des actions au pénal. C'est 1 an de prison de 15 000 euros d'amende pour l'atteinte à la représentation d'une personne. Vous pouvez voter toutes les lois, quand faire un deepfake prends 30 secondes et ne demande plus aucune connaissance technique, vous voulez faire quoi ? Augmenter la peine à 5 ans ? 30 ans ? Ca n'y changera rien.

On ne peut plus réguler l'IA c'est trop tard. Et la puissance de calcul disponible dans nos mains pour faire des montages de plus en plus réalistes augmente de manière exponentielle chaque année. Il faut plutôt partir du principe que si vous êtes une personnalité féminine, il y aura des deepfake de vous, point. C'est plus négotiable malheuresement. On peut trouver ça horrible (à juste titre), mais dire "on va légiférer" c'est de la poudre aux yeux. La seule solution c'est l'éducation des hommes pour expliquer en quoi diffuser ce genre de contenus est horrible pour les victimes.

Et puis bonne chance pour appliquer la loi, si une personne fait un sosie en IA mais avec quelques différences minimes on fait quoi ? C'est ce qu'il se fait déjà pour contourner la loi (et ce qui se faisait déjà à l'époque des fake classiques avec Photoshop), les contenus seront marqués comme "sosie", on ajoute un grain de beauté et on change l'écartement des yeux de 2mm et voilà légalement c'est plus la même personne.

Quand je vois les réactions des politiques j'ai toujours l'impression qu'iel ont 10 ans de retard sur tout. On vit avec l'IA une révolution qui va être encore plus forte que celle d'internet dans les années 90. C'était hier qu'il fallait légiférer, maintenant c'est trop tard.
 
23 Décembre 2012
5 343
59 967
6 794
20anspasses.wordpress.com
On ne peut plus réguler l'IA c'est trop tard. Et la puissance de calcul disponible dans nos mains pour faire des montages de plus en plus réalistes augmente de manière exponentielle chaque année. Il faut plutôt partir du principe que si vous êtes une personnalité féminine, il y aura des deepfake de vous, point. C'est plus négotiable malheuresement. On peut trouver ça horrible (à juste titre), mais dire "on va légiférer" c'est de la poudre aux yeux.
Je ne suis pas du tout d’accord, le deepfake est à la portée de tout le monde parce qu’il est mal régulé et donc des outils pour le créer sont facilement accessibles. Mais si ces outils sont interdits, seuls des personnes avec des compétences techniques avancées, du temps pour alimenter leurs modèles en données sur lesquels se former, ou en contact avec des criminels pourront le créer.
Il y a plein de techniques qui pourraient être accessibles si elles étaient légales mais ne le sont pas.
Je pense qu’il y avait un discours presque magique autour de l’IA et des technologies modernes mais ça reste des outils manipulés par des outils qui ne fonctionneraient pas aussi bien sans des milliers d’humains derrière. Aujourd’hui le monde de l’intelligence artificielle est le Far West avec beaucoup de consommateurs et de législateurs qui ne comprennent pas du tout comment ça fonctionne ou ce que c’est vraiment en réalité et se reposent sur les discours de bonimenteurs de la tech qui font semblant de proposer un service qui nous dépasse et beaucoup plus incroyable qu’il ne l’est pour attirer des investisseurs fascinés. Si les personnes en charge comprennent mieux problèmes et enjeux et mettent les garde-fous nécessaire/, on sera déjà beaucoup mieux protégés.
Même si évidemment, l’éducation est aussi un garde-fou essentiel.
 
2 Juin 2021
513
6 943
554
@MorganeGirly Et interdire comment sachant que tout se passera en local ? C'est comme dire "on va interdire la reproduction numérique". Tu ne peux pas interdire quelque chose qui est dans la nature et qui va devenir une technologie basique dans quelques années. Il faut se dire que l'IA ça devient exactement comme faire une capture d'écran ou une photo avec un téléphone. Ca va devenir un geste banal comme un copier/coller.

Les compétences techniques avancées c'est fini maintenant, l'IA est intégré dans des logiciels comme Photoshop et commence à débarquer sur des téléphones de n'importe qui. C'est toujours pareil avec la technologie, au début c'est les utilisateur·ice·s confirmé·e·s : on se souvient de la gravure de CD/DVD début des années 90, il y avait toujours "cette personne" dans notre entourage qui savait le faire, mais 95% de la population ne savait pas. Quand les MP3 sont arrivés même chose, c'était encore les initié·e·s qui étaient sur Napster. Puis c'est devenu banal, on a eu des logiciels accessibles à n'importe qui, "insérer CD original" > "insérer CD vierge" > copie effectuée. Les MP3 c'est devenu aussi simple que taper le titre d'une musique et cliquer, puis copier/coller sur un baladeur USB. Et ainsi de suite.

L'histoire se répète juste avec l'IA, on est passé en 2017 à "il me faut une RTX 1080, m'y connaitre en Python et 3 semaines pour entrainer un modèle" à "il me faut un smartphone, une appli gratuite et 5 minutes". Demain ça sera une fonctionnalité 100% locale car on commence à faire du matériel dédié à l'IA nativement. Je comprends pas comment tu légifères. Au même titre qu'on peux reproduire numériquement n'importe quoi (prendre une photo ou une vidéo), on pourra se servir de l'IA pour faire n'importe quoi ce qui y inclut les choses problématiques.
 

Les Immanquables du forum

Participe au magazine !
Une info qu'on devrait traiter sur madmoiZelle ?
 
Nouvelle ou perdue ?
Pas de panique, on t'aime déjà !

La charte de respect du forum
Le guide technique &
le guide culturel du forum
Viens te présenter !
Un problème technique ?
Topic d'entraide sur l'orthographe et la grammaire
 
La chefferie vous informe
Les annonces de l'équipe concernant le forum et madmoiZelle
Rendre visite à madmoiZelle
Le médiateur du forum
Soutiens madmoiZelle financièrement
Topic dédié à la pub sur mad
Si vous aimez madmoiZelle, désactivez AdBlock !

Les immanquables
Les topics de blabla
En ce moment... !

Mode - Beauté - Ciné - Musique - Séries - Littérature - Jeux Vidéo - Etudes - Ecriture - Cuisine - People - Télévision

Envie de rencontrer des MadZ ?
Viens trouver le forum de ta ville !

Mode
Le pire de la mode
Ces vêtements qui te font envie
Ta tenue du jour
La tenue qui plaît
Tes derniers achats de fringues

Beauté
Astuces,bons plans économies & dupes
Le topic des vernis
Questions beauté en tout genre
 
Culture
Le meilleur des images du net
L'aide aux devoirs
Tu écoutes quoi ?
Quelle est ta série du moment ?
Quel livre lisez-vous en ce moment ?
Le dernier film que vous avez vu à la maison
Le topic philosophique
 
Société
Topic des gens qui cherchent du travail
Voyager seule : conseils et témoignages
Trucs nuls de la vie d'adulte : CAF, Banque, Mutuelle, Logement etc...
 
Les topics universels
Je ne supporte pas
Je ne comprends pas
Ca me perturbe
Je me demande
J'adore...
Je m'en veux de penser ça mais...

Cupidon
Le topic des amoureuses
Le topic des polyamoureuses
Les Célibattantes