Pourquoi créer votre avatar sur Internet est dangereux

De grandes avancées ont été faites cette année dans l’univers de l’intelligence artificielle. Plusieurs algorithmes très avancés ont été mis sur le marché et permettent de créer des images grâce à des commandes textuelles envoyées à des "superordinateurs". Ces plateformes comme Midjourney ou Deep AI se basent sur des millions de photos présentes sur Internet pour produire des contenus sur mesure. 

Il suffirait ainsi de taper “Azuima Issa en guerrière amazone” pour savoir à quoi ressemblerait l’incandescente Miss Réunion 2015 dans un remake de Wonder Woman. Pour l’instant, cela ne fonctionne qu’avec des superstars internationales mais cela sera sûrement bientôt possible avec nos Réunionnais. Laissez encore un peu de temps à l’intelligence artificielle et elle finira par tout savoir sur tout le monde.

Mais après la mise en ligne de ces plateformes, des applications ont vu le jour au mois de décembre et soulèvent encore plus d’interrogations.
 

Hypersexualisation et racisme

Lensa.AI ou encore Dawn AI notamment, proposent aux internautes d’envoyer une dizaine de selfies pour ensuite se voir transformer en avatar. Les utilisateurs peuvent choisir d’être transformés en personnages de manga ou d'œuvres d’art connues, par exemple.

Mais de nombreux observateurs déplorent plusieurs problèmes liés aux images renvoyées par les “super-ordinateurs” utilisés. Les internautes féminines reçoivent des avatars hypersexualisées, et ce même si leurs selfies ne l’étaient pas. Elles sont mises en scène de façon lascive, souvent dénudées et imaginées dans des rôles stéréotypés. À l’inverse, les utilisateurs masculins deviennent des combattants, des astronautes ou des explorateurs. 

Ces applications ont aussi tendance à éclaircir la peau des personnes de couleur et renforcent donc les stéréotypes déjà présents dans la société.

Les intelligences artificielles se basent sur des millions d’images publiées sur Internet. Ces photos ou créations artistiques sont les sources “d’inspiration” des algorithmes qui reproduisent ainsi les schémas machistes et racistes d’une société patriarcale qui invisibilise les minorités.

Une fausse image avec vos vraies données personnelles

L’autre problématique est celle de la réutilisation des informations privées des internautes. Les applications assurent supprimer les selfies envoyés dès que l’avatar a été créé. Mais elles ne précisent pas toujours ce qu’elles font des métadonnées (localisation, type de téléphone, informations sur votre compte). Même si elles déclarent parfois ne pas les utiliser directement, ces données peuvent être fournies à leurs partenaires et être utilisées pour des campagnes publicitaires notamment.

Envoyer vos selfies dans ces applications peut donc autoriser les entreprises à réutiliser vos données. Il est par ailleurs indiqué que ces plateformes s’octroient tous les droits d’usage de vos publications faites sur les réseaux sociaux avec les contenus produits par l’intelligence artificielle. 

Si vous publiez vos avatars sur Instagram en mentionnant la société créatrice, vous donnez à cette dernière l’autorisation d’intégrer ces images dans leurs communications et dans leurs bases de données.
 

Les dérives pornographiques

Ces applications sont aussi dangereuses car il est possible d’envoyer des photos de n’importe qui. Le site spécialisé dans les nouvelles technologies, TechCrunch, a ainsi testé les limites (il y en a peu) des outils gratuits mis en ligne. Des clichés de célébrités prises sur Internet ont suffi à créer des montages photos avec les visages d’actrices connues sur des corps dénudés.

Il n’y a donc aucune protection contre les actes de “Revenge Porn” et des personnes mal intentionnées peuvent alors créer des montages de leurs ex dans des poses érotiques.

Même si vous n’utilisez pas ces applications, votre image peut se retrouver utilisée en ligne par l'entreprise qui crée les avatars mais aussi par n'importe qui d'autre.

Des créations nouvelles ou du plagiat

Ces applications soulèvent une dernière problématique, celle de la propriété intellectuelle. Les algorithmes utilisés par les applications utilisent donc une base de données publiques, celle d’Internet. On y retrouve donc des photos publiées sur des réseaux sociaux ou différents sites Internet.

Les images sont des versions numériques de grandes œuvres d’art d’époque, comme La Joconde ou Le Cri, mais il s’agit aussi de créations d’artistes digitaux ou photographes du monde entier.

L’intelligence artificielle se nourrit donc des réalisations de professionnels pour recréer des images entièrement inspirées des uns et des autres. Plusieurs créateurs crient donc au plagiat.

Mais cette technologie n’a été rendue publique que récemment et aucune procédure judiciaire n’est arrivée à terme. L’interprétation des textes de loi n’est pas encore connue. Plusieurs procès sont en cours, notamment contre Microsoft aux Etats-Unis, et pourront décider de l’avenir de ces applications.

Que faire si vous avez déjà utilisé ces applications ?

Il vous faudra envoyer un e-mail à l’entreprise concernée pour demander la suppression de vos données hébergées sur le serveur.