Ce week-end, un groupe de nazis et d’ultra-nationalistes s’est présenté à une marche à Washington DC – mais d’une manière ou d’une autre, toute l’histoire est devenue virale grâce à un compte généré par l’IA (Intelligence Artificielle)… C’est l’occasion de vous montrer comment ca fonctionne.

AUTEUR

ACTU INTEL

CATEGORIES

POSTÉ LE

6 décembre 2021

SOURCE

Actu Intel

Les images de la marche qui ont été immédiatement partagées par la gauche et les journalistes ont toutes été postées par « patriot front » alias « sheryl lewellen » – après la marche nazie, tous les comptes générés par l’IA ont disparu.

Voici le compte Twitter de « Sheryl Lewellen », qui a rejoint Twitter en Novembre 2021 :

« Sheryl Lewellen » a donc poste un lien vers une video intitulee « ACTUELLEMENT : Environ 500 hommes munis de boucliers anti-émeute défilent à Washington DC » :

On peut aussi voir que « Sheryl Lewellen » a renomme son compte en « Reclaim America – PatriotFront.US ». Vous pouvez voir juste en-dessous du nom du compte, le nom d’utilisateur qui commence par un arobase (@) est toujours « @SherylLewellen » :

Voici un avant/apres :

Il s’agissait en fait d’une operation de promotion de la part de « Patriot Front ». Voici ce qu’ils par la suite poste :

Par la suite, le compte a ete suspendu par Twitter :

Alors voyons comment ce faux profil a ete cree et comment l’IA a ete utilisee… Sur l’animation ci-dessous, vous pouvez voir que « Sheryl Lewellen » n’a en fait jamais existe, il s’agit d’une combinaison de plusieurs images (compteur en haut a droite) :

Une brève introduction à StyleGAN – Style Generative Adversarial Network (réseau adversarial génératif de style)

« Les réseaux adversariaux génératifs, ou GAN en abrégé, sont efficaces pour générer de grandes images de haute qualité.

La plupart des améliorations ont été apportées aux modèles discriminants dans le but d’entraîner des modèles générateurs plus efficaces, mais moins d’efforts ont été déployés pour améliorer les modèles générateurs.

Le réseau adversarial génératif de style (Style Generative Adversarial Network, ou StyleGAN en abrégé) est une extension de l’architecture GAN qui propose d’importants changements au modèle générateur, notamment l’utilisation d’un réseau de mappage pour faire correspondre des points de l’espace latent à un espace latent intermédiaire, l’utilisation de l’espace latent intermédiaire pour contrôler le style à chaque point du modèle générateur et l’introduction du bruit comme source de variation à chaque point du modèle générateur.

Le modèle résultant est capable non seulement de générer des photos de visages d’une qualité photoréaliste impressionnante. »

La technique traditionnelle consistait a melanger plusieurs photos de profil et a rafiner les details apres, comme vous pouvez le voir sur la droite de l’image ci-dessus. Il s’agit d’un mélange de 250 photos de visages à partir de photos de profils Twitter.

A gauche, voici ce qu’on obtient avec un mélange de 250 visages générés par l’IA, en utilisant le StyleGAN.

L’image ci-dessus illustre egalement cela, avec l’utilisation de StyleGAN en haut, et de l’ancienne technique en bas.

Ci-dessus, un autre exemple de faux compte genere par l’IA, pour obtenir un fier supporter de Biden…

La qualite des images generees est telles qu’en faisant une recherche inversee, on peut obtenir jusqu’a une vingtaine de resultats sur differents sites ! Une recherche inversee consiste a envoyer une image au moteur de recherche. Le moteur de recherche va ensuite comparer notre image avec plein d’autres et renvoyer des resultats. Par opposition a une recherche classique ou on envoie du texte au moteur de recherche, et il nous renvoie plusieurs types de contenus qui correspondent (images, textes, video…).

L’image ci-dessus donne le nom du comte Twitter, puis le nombre de resultats (nombre de photos qui correspondent), puis le nombre de sites qui contiennent les resultats.

Sur un forum dedie a ce genre de sujets, on peut lire ce qui est sur l’image ci-dessus. Traduction :

Pourquoi n’es-tu pas en train de détruire les forums gauchistes et d’infiltrer les groupes gauchistes ?

Sortez et attaquez la capacité de votre ennemi à communiquer.

S’ils vous bloquent ou mettent en place des politiques pour éviter le shilling, tant mieux ! Vous avez nui à la facilité d’utilisation de leur forum/groupe et accru les tensions et la paranoïa. S’ils ne vous bannissent pas, tant mieux ! Continuez à poster et à faire de la merde pour diminuer leur plaisir.

Et vous vous amusez en le faisant !

C’est du gagnant-gagnant.

Reponse en bas :

Twitter est génial. C’est si facile d’y aller avec un visage généré par l’IA à partir de https://thispersondoesnotexist.com/.

Vous pouvez vous faire passer pour n’importe qui et obtenir un grand nombre de vues en répondant à de grands comptes Twitter, à condition d’être l’un des premiers à poster.

Note : le site https://thispersondoesnotexist.com vous presente a chaque rafraichissement de la page une nouvelle photo d’une personne qui n’existe pas. Chaque photo est generee par l’IA.

L’image ci-dessus confirme que les reseaux de bots sur les reseaux sociaux sont en faite une multitude de petits comptes, avec peu de followers, peu de posts et peu de likes. Cependant, comme il s’agit de bots, ils peuvent detecter quand les gros comptes populaires (avec beaucoup de followers) postent, et donc ils peuvent facilement etre dans les premiers a reagir. Et cela permet aux autres bots de savoir qu’ils doivent se concentrer sur les premieres reponses, car il s’agit probablement d’autres bots.

C’est cet effet de groupe qui donne l’impression qu’ils sont nombreux ! Il doit bien y avoir quelques moutons dans le lot, mais la plupart sont effectivement bien des bots sans aucun interet si ce n’est pour entretenir l’image que beaucoup de gens sont pour les vaccins, soutiennent Biden ou les autres politiques ailleurs dans le monde. Tout ca, ce n’est qu’une illusion.

L’image ci-dessus donne le nom du compte Twitter, le nom donne au compte, le nombre de gens qui suivent le compte, le nombre d’autres comptes que le faux compte suit, le nombre de tweet de ce faux compte, et le nombre de likes, puis la date/heure de creation et enfin la localisation geographique.

Dans la plupart des images générées, comme dans la video ci-dessus, les yeux sont au centre de la génération d’IA – pour certains de ces générateurs, les attributs exacts de la position des yeux sont connus, ce qui peut être un indicateur si les yeux sont toujours au centre dans les images.

Mais la plupart des IA (ou du moins celles qui sont connues) fonctionnent selon ce principe : elles partent toujours des yeux et génèrent à partir de là le reste de l’image.

Mais elles ont parfois des problèmes si une personne apparaît à côté de ses images d’origine – par exemple si deux visages sont sur une photo et que l’un est central et l’autre non. Comme pour la biométrie, la plupart des IA ont des difficultés à analyser les personnes à la peau foncée ou ne sont pas capables de générer des personnes à la peau foncée.

Exemple avec les 2 images ci-dessus : Des personnes générées par une IA « bizarre » ont échoué, mais dans les deux cas, la deuxième personne de la photo n’était pas générée proprement.