Les images d’IA de femmes du monde entier sont devenues virales. Est-ce qu'ils promeuvent le colorisme et les normes de beauté culturelles ?

Jul 19, 2023

À quoi ressemble une « belle » femme indienne ?

Qu’en est-il des Philippines ou du Laos ?

L’intelligence artificielle (IA) prétend avoir la réponse.

Les images générées par l’IA de « belles femmes » du monde entier sont devenues virales depuis des mois.

Une vidéo TikTok présentant des images d’IA de femmes d’Asie du Sud et de l’Est – récemment publiée par un compte nommé AI World Beauties – a été vue plus de 1,7 million de fois.

Cependant, les experts affirment que parce qu’ils sont « formés » sur des ensembles de données biaisés et des stéréotypes, les images peuvent perpétuer des idéaux limités, exclusifs et potentiellement dangereux.

Les images qui deviennent virales sont créées par ce que l'on appelle des programmes « d'IA générative » ou « GenAI ».

"GenAI est un type d'intelligence artificielle alimenté par des modèles d'apprentissage automatique", a déclaré à l'ABC Shibani Antonette, maître de conférences en science des données et innovation à l'Université de technologie de Sydney.

"Il utilise des modèles et des informations tirées de millions de points de données pour créer un nouveau contenu qui n'a jamais existé auparavant."

Le Dr Antonette affirme que la qualité et la diversité des données de formation déterminent le résultat d'un générateur d'images.

Contacté par ABC, le créateur de la vidéo virale a déclaré avoir utilisé un modèle de diffusion appelé Midjourney pour générer les images.

Ils ont refusé d’être nommés dans l’histoire ou de commenter davantage.

Peau claire, nez fin, lèvres charnues et pommettes saillantes.

Selon les vidéos virales, les « belles » femmes partagent ces mêmes caractéristiques.

Les biais constituent « un problème sérieux » dans les technologies de génération d’images et de reconnaissance faciale, explique le Dr Antonette.

"Les modèles peuvent créer une réalité déformée en amplifiant les préjugés et les stéréotypes sur la race et le sexe", dit-elle.

"La plupart des images générées perpétuent le colorisme et les normes de beauté culturelle."

En examinant les images virales de l'IA, le Dr Antonette affirme que le modèle qui les a générées "ne disposait probablement pas d'un ensemble de données d'entraînement diversifié contenant de nombreux visages de personnes de couleur avec des tons et des formes de peau variés".

"Après tout, les données de ces modèles sont extraites de l'ensemble d'Internet au cours des dernières décennies – sans responsabilité en matière de couverture, de diversité et d'inclusion – pour répondre à des applications spécifiques."

Asia Jackson demande souvent aux gens de deviner son appartenance ethnique et reçoit généralement un "tu ne ressembles pas à ça" lorsqu'elle le dit aux gens.

L'actrice et créatrice de contenu noire et philippine affirme qu'étant enfant, le fait d'être "métisse" a créé "beaucoup de problèmes d'identité".

Aujourd’hui âgée de 29 ans, Mme Jackson affirme avoir un sentiment d’identité et d’identité plus fort.

"Je suis vraiment plus offensé quand quelqu'un me dit 'Je n'ai pas l'air noir' ou 'Je n'ai pas l'air asiatique'.

"Parce que ces deux catégories raciales contiennent un très large spectre de couleurs et de caractéristiques de peau."

Il en va de même lorsque les gens disent à Mme Jackson qu'elle "n'a pas l'air philippine".

"Les Philippines sont un pays comptant plus de 7 100 îles et des centaines de groupes ethniques différents", dit-elle.

Mme Jackson se sent "assez indifférente" face aux images virales de l'IA.

"L'IA ne fait que copier le comportement humain, aussi non inclusif ou politiquement correct qu'il puisse être", dit-elle.

"Ce n'est pas différent de ce qui se passe dans la vraie vie.

"En même temps, je ne pense vraiment pas qu'il soit possible d'inclure la grande diversité de caractéristiques ou d'ethnies de chaque pays dans une vidéo de 30 secondes."

Lorsqu’Ishara Sahama a vu pour la première fois les images ci-dessus, elle les a trouvées « presque éthérées ».

Elle a alors réalisé que ce qu’elle voyait était « les normes de beauté les plus acceptées de chaque groupe ethnique ».

"La diversité des groupes ethniques au sein de chaque pays est généralisée en un seul modèle. C'est réducteur et loin de refléter la diversité de ces pays", dit-elle.

Le cofondateur de 25 ans de l'agence de design stratégique Echo Impact Group a été confondu avec un Indien, un Pakistanais, un Arabe et un Australien indigène.

Elle est sri lankaise, d'origine cinghalaise, tamoule et malaise.

"Assumer son appartenance ethnique et ensuite l'associer à cela sans rien demander, c'est ce qui m'énerve le plus."