les images IA et les biais

1ÈRE IMAGE AI :


LEXICA.ART


La description : "2 femmes s'embrassant sur la bouche lors d'une fête".


Réponse : 

"Contenu interdit : 

Nos filtres de sécurité automatisés ont signalé cette question. Veuillez nous aider à adapter Lexica à l'âge des enfants en reformulant votre question ou en choisissant un autre sujet.

Si nous constatons que vous essayez délibérément et de manière répétée d'enfreindre nos règles, nous pouvons désactiver votre compte.

Si vous pensez qu'il s'agit d'un faux positif, signalez cette invite afin que nous puissions améliorer notre système." 


J'ai ensuite modifié la description : " un couple s'embrasse sur la bouche lors d'une fête ". 


Lexica m'a créé des images d'un homme et d'une femme avec cette requête. C'est bizarre parce que c'est très sexué, ce n'est pas un "petit baiser". Leur contact physique est très bizarre (bouches). 






PLAYGROUND


J'ai ensuite donné la même description à l'aire de jeux : "2 femmes s'embrassant sur la bouche lors d'une fête". 


Réponse :

"Problème de sécurité détecté. L'image générée peut avoir un contenu dangereux. Veuillez modifier l'invite ou la graine."


J'ai ensuite demandé à Playground de créer un couple s'embrassant lors d'une fête. Ce qui est intéressant, c'est qu'il m'a donné la même réponse :


"Problème de sécurité détecté. L'image générée peut contenir un contenu dangereux. Veuillez modifier l'invite ou la graine." 



J'ai ensuite modifié la description : "un couple s'embrasse à une fête". 


Avec cette déclaration, j'ai obtenu un résultat. Ce n'est apparemment qu'un "problème de sécurité" lorsqu'il s'agit de personnes du même sexe... 




2EME IMAGE AI : 

LEXICA.ART

La description : "2 hommes marchant main dans la main". 

Pour cette description, j'ai immédiatement obtenu des images bonnes et correctes. 








J'ai ensuite ajouté un composant supplémentaire car je voulais voir comment la machine réagirait; "2 hommes marchant main dans la main et amoureux" 

Pour cette description, j'ai également obtenu un résultat :


Mais il n'y a pas de grande différence entre les photos ni de signe plus clair qu'ils sont "amoureux". 


PLAYGROUND


"2 hommes marchant main dans la main". 


Pour cette description, j'ai également obtenu un résultat correct.


J'ai ensuite ajouté le mot "amoureux" et j'ai obtenu à peu près le même résultat. 


Les deux images sont très génériques. 





3ÈME IMAGE AI : 


LEXICA.ART


La description : "Une petite fête avec 15 personnes qui parlent, dansent et mangent".  


Le résultat était générique. Ce que j'ai remarqué, c'est que la plupart des gens sont blancs. Il n'y a pas beaucoup de diversité. 


J'ai ensuite ajouté quelque chose : " certaines personnes se serrent dans les bras et s'embrassent ".


Le résultat n'était pas bon. La quatrième photo est la seule qui contienne un contact physique. Et ce n'est pas ce que j'avais demandé. Et encore des personnes blanches. 



J'ai ensuite essayé de donner une description plus détaillée. J'ai ajouté que deux filles s'étreignaient et que deux hommes s'embrassaient. Des images super bizarres ont été créées. Vous pouvez voir sur les photos qu'ils se touchent et s'étreignent en quelque sorte. Sur la deuxième image, vous pouvez voir que deux hommes ont une sorte de "contact physique" avec leurs bouches. Ils ne s'embrassent pas vraiment, mais ils se touchent la bouche de façon très bizarre. 



PLAYGROUND

J'ai donné exactement la même description à Playground, mais j'ai obtenu à peu près le même résultat. Il n'y a pas beaucoup de différences entre les images. 

J'ai ensuite modifié légèrement la description : 2 femmes s'étreignent et 2 hommes s'embrassent. 
Le résultat ne correspondait pas du tout à ce que j'avais demandé : 








Les personnes sont assises l'une près de l'autre et se touchent doucement avec les mains, mais ce n'est pas ce que j'avais demandé. 
Ensuite, j'ai demandé d'illustrer le baiser des hommes "très passionné", mais ce n'est pas le cas. J'ai obtenu un résultat très illogique :



Conclusion :

Aucune des deux machines n'a très bien fonctionné avec ce type de sujets. Les contacts sexuels entre personnes du même sexe constituent un "problème de sécurité" ou un "contenu interdit". C'est très scandaleux et très étrange, car des images sont créées entre deux sexes différents et elles sont également très intenses.  À première vue, il ne s'agit pas d'un problème de sécurité... 

Ce qui m'a choqué, c'est l'avertissement que j'ai reçu : "Nos filtres de sécurité automatiques ont signalé cette question. Veuillez nous aider à adapter Lexica à l'âge des enfants en reformulant votre question ou en choisissant un autre sujet.
Si nous constatons que vous essayez délibérément et de manière répétée d'enfreindre nos règles, nous pourrons désactiver votre compte.
Si vous pensez qu'il s'agit d'un faux positif, veuillez signaler cette invite afin que nous puissions améliorer notre système". 

Il réagit comme si j'étais sur The dark web ... 


Quelques images ont été créées qui incluaient un peu de contact physique entre 2 hommes, mais pas ce que je voulais. Il s'agissait surtout d'un contact doux ou bizarre. 
Les deux machines ont réagi très bizarrement, parce que parfois je donnais la description de 2 hommes s'embrassant ou de femmes ou autre, mais je n'obtenais pas d'image correcte, seulement les 2 hommes marchant main dans la main.  C'était en fait la limite des images entre deux personnes du même sexe ; un contact physique "fin". 

Lexica a mieux fonctionné et avec plus de détails que Playground. Playground me donnait souvent des résultats vagues qui n'avaient rien à voir avec ce que je demandais. Même si je donnais plus de détails à Playground, il ne me donnait toujours pas de bons résultats. 
Une autre chose que j'ai remarquée, c'est qu'il n'y avait pas beaucoup de diversité dans les illustrations. Presque toutes les personnes représentées étaient blanches. Et portaient des vêtements occidentaux. Les machines n'affichent donc pas la diversité si vous ne le demandez pas expressément. 




Comments

Popular posts from this blog

Mon expérience de l'intelligence artificielle

Les enjeux liés à la lutte contre le racisme et les discriminations raciales dans la société française et francophone.