J’ai testé l’app avec une photo elle-même générée par IA, c’est assez flippant.
Ils n’auraient peut-être pas dû mentionner le nom de l’app dans l’article par contre, c’est de la pub gratuite pour eux.
Ça donne quoi un tigre a poil ?
Beaucoup de peluche surtout
On veut une photo de toi tout nu.
J’ai des photos de moi totalement nu sous mes vêtements.
Certains n’ont plus aucune gêne. Je m’habille systématiquement après m’être vêtu.
Ça me surprend pas, j’étais quasiment certain que c’était déjà fait. Même sans la nudité, les représentations feminines des IA étaient déjà limites.
- type de corps
- style vestimentaire
- posture
Ceci ne s’arretera jamais : c’est un outil de production de masse. Et ya déjà plein de femmes à poil comme d’hommes que l’industrie comme l’individu peut réutiliser pour générer des images. Mais aussi toutes nos photos familliales, les celebrité, les enfants…
En tout cas, l’article ne parle pas des hommes. La question du féminisme doit également concerner les hommes. On a bien des ateliers d’autodéfences, de communication bienveillantes, de paroles entre femmes, des livres…ya vraiment un travail de recherche social. Cependant, c’est beaucoup d’énergie pour changer la socièté de la part des femmes.
Chez les hommes : 0 efforts. Rien, nada, pas de réflexions, de remise en question, d’ateliers…et donc je pense que ça changera pas quand l’autre moitié ne fait rien. Et faudrait commencer par ça.
Déjà, que disent et pensent les jeunes gars sur ces images ? Est ce qu’ils acceptent ? Sont-ils choqués ? Et si c’était eux à poil ? Dénoncent-ils ces photos ? Le gardent ils pour eux ? Se sentent ils concernés ?
À terme, je me demande si cela ne signera pas la fin du net centralisé, ouvert et amorcera la création de d’autres couches du net limité à des groupes de personne avec des sous-réseau suite aux nouvelles lois qui vont encadrer tout ça.
Même sans la nudité, les représentations feminines des IA étaient déjà limites.
Quand j’ai commencé à jouer avec stable diffusion, j’ai été surpris et de la tendance à générer des filles sexy voir carrément nue des modèles d’IA. C’est meme difficile d’éviter ces images (quand je suis MJ en jdr, je peux vouloir une bibliothécaire, serveuse, politicienne qui ressemble à une femme ordinaire et pas sortie de sites pour adultes/jeux vidéos)
Après il faut aussi voir avec quoi on nourris les modèles d’IA, et les images de vraies femmes dans la vraie vie aussi sont sexualisées ou ignorées. Prends le moindre RS, tu fais plus de vue on twerkant en bikini qu’en parlant d’astrophysique surtout si tu es une femme
J’ai eu la même réflexion quand j’ai joué avec l’IA. J’en étais à spécifier comme négative prompt de na pas avoir de femmes, de ne pas avoir de femme sexy, de ne pas avoir de nues. La plupart des modèles sont surentraînés sur des femmes sexy. Pas sur des femmes normales.
Ah je vois, ya donc pas besoin d’avoir un prompt pour avoir ce type de résultat en faite. :/
En fait tu peux choisir ton modèle de génération. Le modèle de base semble être assez peu biaisé. Il connaît un peu tout moyennement. Les résultats sont assez bof.
Puis tu as plein de modèles enrichis. Ici une base : https://civitai.com/models
Comme tu peux le constater. La “femme” est un sujet de préoccupation.
La representation masculine aussi. J’imagine que c’est l’archétype du soldat ? :D
@Sphks @Snoopy en même temps, les mecs qui sont derrière ces modèles devaient avoir des stocks assez conséquents d’images de “référence”, alors de là à alimenter leurs entraînements avec…
Pour revenir au sujet initial (les fakes en Espagne), ça ressemble plus à l’oeuvre d’un truc de remplacement de face (genre Facefusion) qu’à un Stablediffusion/Midjourney/… sur lesquels ont peut trainer des modèles pour ressembler à une-telle, mais c’est cher payer le deepfake…
Les datasets d’entraînement sont des choses genre DeviantArt qui, oui, a pas mal de nanas en petites tenues. Ils sont très conscients des biais d’apprentissage et les corrigent autant qu’ils peuvent, mais va voir sur civitai les modèles qui sont entraînés et partagés par des particulier. À 90% c’est de la waifu. Y a pas de surprise, ça matche la demande.
On peut faire de l’inpaint avec stablediffusion, pas besoin de faire du finetuning: tu prends une photo, tu gardes le visage mais tu change la pose ou le décor.
Avec un photomontage on peut tout faire. La différence c’est la facilité élaborer un fantasme à partir d’un photo de quelqu’un qu’on connait.
Après j’ai lu qu’iels mettaient des garde-fou dans le programme des IA pour exclure certain termes de recherche et éviter cette situation.
@Snoopy une partie de ces garde-fous (sans rentrer dans les détails) se lève en commentant une ligne dans le code, hein
Les outils en ligne peuvent être censurés oui, mais les outils ouverts, non.
plus à l’oeuvre d’un truc de remplacement de face (genre Facefusion) qu’à un Stablediffusion/Midjourney/
C’est entre les deux je dirais
@Camus possible ; ça dépend si les clichés “avant remplacement de face” étaient originaux ou pas
J’avais eu une expérience intéressante (avec SD 1.5, SDXL est sûrement meilleur). J’avais voulu faire générer un tableau symétrique du Déjeuner sur l’Herbe, avec un homme nu et deux femmes habillées discutant. Il sait faire des hommes nus, il sait faire des femmes habillées, mais quand il y a une composition avec hommes et femmes et de la nudité, il a beaucoup de mal à accepter que ce ne sont pas les femmes qui seront déshabillées.
Je me demande si c’est pas un progrès, pour les victimes. Si tu peux generer des nus de n’importe qui, à un moment les nus vrais ou faux n’ont plus aucune valeurs
À terme, très probablement. C’est tout de même bien triste que la technologie ait progressé plus vite que notre morale
Je pense surtout que ça va renforcer le contenu amateur car authentique. Ou bien accèlerer la fabrique à fantasme vu les possibilités offertes comme générer son propre porno en écrivant quelque lignes.
Pour moi c’est pas vraiment un progrès car on perpétue un schéma de pensées.
T’as du porno feministe qui essaye de changer cela en intégrant des dialogues ou de changer le point de vue pour l’équilibrer.
D’autre part, ça ne resoudra rien. En fait ce n’est pas la nudité qui pose problème mais le construct du partriarcat.
Autrement dit nos interactions sociales, comment je parle, comment je pense, quelle répresentation du genre je donne…et la diffusion des images découlent de ce schémas.
Puis, c’est aussi dévalorisant pour les 2 cotés : “Les hommes sont des porcs.”.
Ces générateurs savent imiter le style amateur/authentique. Là ils génèrent tous des tops models dans les styles historiquement les plus difficiles à faire pour les artistes humains mais tu peux demander une frame d’une caméra de surveillance, un selfie fait avec un téléphone pourri ou un éclairage de supermarché.
En fait ce n’est pas la nudité qui pose problème mais le construct du partriarcat.
Exactement.
C’est plus au niveau des interactions que je pensais et pas l’éclairage ni le style. Le porno a toujours été mécanique et assez pauvre en récit et détruit l’imaginaire. Et si on filmait plutot une coupe de vin, des mains, des lèvres qui s’humectent avec autour des petits plats. Ça suffit largement comme image et c’est puissant.
Même les salons érotiques véhiculent l’image de bouche-trou alors qu’on pourrait explorer l’amour différement. Ya tout un panorama sensorielle inexploité et le dialogue pourrait charger radicalement.
Après l’IA ressemble de plus en plus au film Her et je trouve pas trop mal d’avoir un compagnon imaginaire comme dans les jeux vidéo : cortana, Johnny… Je leur ferait d’avantage confiance qu’en une personne à la condition que ce que j’écris reste sur mon serveur et ne soit pas collecté d’une manière ou d’une autre. Donc il ne faut pas leur faire confiance mais c’est trop tard car nous les utilisons déjà et c’est intègré au système d’exploitation. Exploitation pourrait bien avoir le sens d’oppresseur dans une dystopie.
Tient ce serait marrant de renverser un pays en modifiant les réponse de siri, cortana, google…par exemple en instillant méfiance envers une personne, une entreprise. Une fois l’image brisées, on laisse le peuple faire le boulot à notre place.
Le porno est un “bouche-trou” car une poignée de puritains américains nous empêchent de mettre du sexe normal dans les histoires classiques. Du coup tu trouves dans le porno les morceaux que tu peux pas avoir ailleurs. Dans un monde alternatif, le porno n’existe pas et le matos masturbatoire, c’est des extraits de séries connues. Dans ce monde alternatif, pas de “film porno” où on objectifie des actrices parce qu’on “est là pour ça” mais uniquement des scènes contextualisées avec des personnages dont tu connais les sentiments et les relations. On y voit ce qui amène à l’acte et les conséquence qu’il a sur la vie des persos.
Oui c’est intéressant comme idée d’influer des gouvernements avec ces modèle, comme les réseaux sociaux l’ont fait avec leurs algos. OpenAI d’ailleurs est un peu trop progressiste de l’avis des réacs américains qui n’aiment pas les réponses de GPT-4 trop politiquement correctes. Ça risque en effet d’être le prochain terrain de la propagande.
Je sais pas si c’est le puritain américain, je pense pas, c’était là bien avant.
Yeah, comme tu dis, artistiquement ya des choses à explorer dans les sens. On pourrait faire un film abstrait en ajoutant la lente construction des relations voire montrer le rejet, les rateaux, la séparation, relation toxique, grossesse, deuil tout ces thèmes qu’on aborde pas.
Après, je pense que c’est déjà en cours, ça m’etonnerait qu’aucun gouvernement n’a anticipé ces possibilités. Elon Musk va etre l’idiot utile de ce projet. Pour un type qui nous mettait en garde contre le danger des IA, vu sa politique sur X, je pense sincèrement qu’il va l’incarner.
Peut être mais pendant la période de transition il va quand même y avoir des jeunesses ruinées
Removed by mod
Ce qui est rigolo, c’est qu’il y a environ 30 ans, je faisais des trucs similaires avec Paint-shop-pro pour faire marrer les potes. Je mettais leur tête sur des femmes nues. Ça nous semblait fou.
Et je parie qu’avant ça, des ados ont fait la même chose avec des photos argentiques en découpant la tête aux ciseaux.
En fait rien n’a changé sur la bêtise. C’est juste plus facile de montrer qu’on est bête.
Removed by mod
Pas besoin de civitai. Tu fais de l’inpaint: tu prends une photo d’une personne habillée, tu sélectionnes son décolleté et tu dis qu’elle est topless, il te génère la chose sans problème.
“Des dizaines” Oh sweet summer child…
C’est faisable en trois clics, et aisément accessible aux ados en poussée d’hormones. Je peux t’assurer que y a plus que des dizaines de victimes.
