Les affiches qui parsèment les rues de Buenos Aires avaient une certaine touche soviétique.
Il y avait l’un des candidats à la présidentielle argentine, Sergio Massa, vêtu d’une chemise avec ce qui semblait être des médailles militaires, désignant un ciel bleu. Il était entouré de centaines de personnes âgées – vêtues de vêtements ternes, avec des visages sérieux et souvent défigurés – qui regardaient vers lui avec espoir.
Le style n’était pas une erreur. L’illustrateur avait reçu des instructions claires.
“Illustration d’une affiche de propagande politique soviétique par Gustav Klutsis représentant un leader, Masssa, debout fermement”, indique une invitation selon laquelle la campagne de M. Massa a alimenté un programme d’intelligence artificielle pour produire l’image. “Des symboles d’unité et de pouvoir remplissent l’environnement”, poursuit l’invite. “L’image respire l’autorité et la détermination.”
Javier Milei, l’autre candidat au second tour des élections de dimanche, a riposté en partageant ce qui semble être des images d’IA représentant M. Massa comme un dirigeant communiste chinois et lui-même en tant que lion de dessin animé câlin. Ils ont été visionnés plus de 30 millions de fois.
Les élections argentines sont rapidement devenues un terrain d’essai pour l’IA dans les campagnes, les deux candidats et leurs partisans employant la technologie pour falsifier des images et des vidéos existantes et en créer d’autres à partir de zéro.
L’IA a amené les candidats à dire des choses qu’ils ne disaient pas et les a mises dans des films et des mèmes célèbres. Il a créé des affiches de campagne et déclenché des débats sur la question de savoir si les vraies vidéos sont réellement réelles.
Le rôle important de l’IA dans la campagne électorale argentine et le débat politique qu’elle a déclenché soulignent la prévalence croissante de cette technologie et montrent que, avec sa puissance croissante et sa baisse de coût, elle est désormais susceptible de jouer un rôle dans de nombreuses élections démocratiques à travers le monde.
Les experts comparent cette époque aux débuts des médias sociaux, une technologie offrant de nouveaux outils alléchants pour la politique – et des menaces imprévues.
La campagne de M. Massa a créé un système d’IA capable de créer des images et des vidéos de nombreux acteurs principaux de l’élection – les candidats, les colistiers, les alliés politiques – faisant une grande variété de choses.
La campagne a utilisé l’IA pour présenter M. Massa, le ministre argentin de l’Economie de centre-gauche, comme fort, intrépide et charismatique, y compris des vidéos le montrant comme un soldat de guerre, un Ghostbuster et Indiana Jones, ainsi que des affiches évoquant Barack. L’affiche « Hope » d’Obama en 2008 et une couverture du New Yorker.
La campagne a également utilisé le système pour dépeindre son adversaire, M. Milei – un économiste libertaire d’extrême droite et personnalité de la télévision connu pour ses explosions – comme instable, le mettant dans des films comme « Orange mécanique » et « Peur et dégoût à Las Vegas ». »
Une grande partie du contenu est clairement fausse. Mais quelques créations se sont inscrites dans la ligne de la désinformation. La campagne Massa a produit une vidéo « deepfake » dans laquelle M. Milei explique comment fonctionnerait un marché d’organes humains, ce qui, selon lui, correspond philosophiquement à ses vues libertaires.
« Imaginez avoir des enfants et penser que chacun est un investissement à long terme. Pas dans le sens traditionnel, mais en pensant au potentiel économique de leurs organes », dit l’image manipulée de M. Milei dans la vidéo fabriquée, publiée par la campagne Massa sur son compte Instagram pour le contenu d’IA, intitulée « AI for the Homeland ». »
La légende du message dit : “Nous avons demandé à une intelligence artificielle d’aider Javier à expliquer le business de la vente d’organes et cela s’est produit.”
Dans une interview, M. Massa a déclaré qu’il avait été choqué la première fois qu’il avait vu ce que l’IA pouvait faire. «Je n’avais pas l’esprit préparé au monde dans lequel je vais vivre», a-t-il déclaré. «C’est un énorme défi. Nous sommes sur un cheval que nous devons monter mais nous ne connaissons toujours pas ses ficelles.
Le New York Times lui a ensuite montré le deepfake créé par sa campagne sur M. Milei et ses organes humains. Il semblait perturbé. “Je ne suis pas d’accord avec cette utilisation”, a-t-il déclaré.
Son porte-parole a souligné plus tard que le message était une plaisanterie et clairement étiqueté généré par l’IA. Sa campagne a déclaré dans un communiqué que son utilisation de l’IA était destinée à divertir et à faire valoir des arguments politiques, et non à tromper.
Les chercheurs s’inquiètent depuis longtemps de l’impact de l’IA sur les élections. La technologie peut tromper et confondre les électeurs, semant le doute sur ce qui est réel, ajoutant ainsi à la désinformation qui peut se propager par les réseaux sociaux.
Pendant des années, ces craintes étaient en grande partie spéculatives, car la technologie permettant de produire de tels faux était trop compliquée, coûteuse et peu sophistiquée.
“Nous assistons aujourd’hui à cette explosion absolue d’ensembles d’outils démocratisés incroyablement accessibles et de plus en plus puissants, et ce calcul a radicalement changé”, a déclaré Henry Ajder, un expert basé en Angleterre qui a conseillé les gouvernements sur le contenu généré par l’IA.
Cette année, un candidat à la mairie de Toronto a utilisé des images sombres de sans-abri générées par l’IA pour télégraphier ce que Toronto deviendrait s’il n’était pas élu. Aux États-Unis, le Parti républicain a publié une vidéo créée avec l’IA qui montre la Chine envahissant Taïwan et d’autres scènes dystopiques pour décrire ce qui, selon lui, se produirait si le président Biden remportait un second mandat.
Et le gouverneur de campagne Ron DeSantis de Floride a partagé une vidéo montrant des images générées par l’IA de Donald J. Trump serrant dans ses bras le Dr Anthony S. Fauci, qui est devenu un ennemi de la droite américaine pour son rôle dans la réponse nationale à la pandémie.
Jusqu’à présent, le contenu généré par l’IA et partagé par les campagnes en Argentine a été soit qualifié de généré par l’IA, soit si clairement fabriqué qu’il est peu probable qu’il puisse tromper même les électeurs les plus crédules. Au lieu de cela, la technologie a renforcé la capacité de créer du contenu viral qui aurait auparavant pris des jours ou des semaines à des équipes de graphistes.
Meta, la société propriétaire de Facebook et d’Instagram, a déclaré cette semaine qu’elle exigerait que les publicités politiques révèlent si elles ont utilisé l’IA. D’autres publications non rémunérées sur les sites qui utilisent l’IA, même si elles sont liées à la politique, ne seraient pas tenues de divulguer aucune information. La Commission électorale fédérale américaine réfléchit également à l’opportunité de réglementer l’utilisation de l’IA dans les publicités politiques.
L’Institute for Strategic Dialogue, un groupe de recherche basé à Londres qui étudie les plateformes Internet, a signé une lettre appelant à de telles réglementations. Isabelle Frances-Wright, responsable de la technologie et de la société du groupe, a déclaré que l’utilisation intensive de l’IA lors des élections en Argentine était inquiétante.
«Je pense absolument que c’est une pente glissante», a-t-elle déclaré. « Dans un an, ce qui semble déjà très réaliste ne le sera que davantage. »
La campagne Massa a déclaré avoir décidé d’utiliser l’IA pour tenter de montrer que le péronisme, le mouvement politique derrière M. Massa, vieux de 78 ans, peut attirer les jeunes électeurs en mélangeant l’image de M. Massa avec la culture pop et les mèmes.
Pour ce faire, des ingénieurs de campagne et des artistes ont introduit des photos de différents acteurs politiques argentins dans un logiciel open source appelé Stable Diffusion pour entraîner leur propre système d’IA afin qu’il puisse créer de fausses images de ces personnes réelles. Ils peuvent désormais produire rapidement une image ou une vidéo de plus d’une douzaine d’acteurs politiques de premier plan en Argentine faisant presque tout ce qu’ils demandent.
Au cours de la campagne, l’équipe de communication de M. Massa a informé les artistes travaillant avec l’IA de la campagne des messages ou des émotions qu’ils souhaitaient que les images transmettent, comme l’unité nationale, les valeurs familiales et la peur. Les artistes ont ensuite réfléchi à des idées pour intégrer M. Massa ou M. Milei, ainsi que d’autres personnalités politiques, dans un contenu faisant référence à des films, des mèmes, des styles artistiques ou des moments de l’histoire.
Pour Halloween, la campagne Massa a demandé à son IA de créer une série d’images caricaturales de M. Milei et de ses alliés sous forme de zombies. La campagne a également utilisé l’IA pour créer une bande-annonce dramatique, mettant en vedette Buenos Aires, la capitale argentine, en train de brûler, M. Milei dans le rôle d’un méchant maléfique en camisole de force et M. Massa dans le rôle du héros qui sauvera le pays.
Les images de l’IA sont également apparues dans le monde réel. Les affiches soviétiques faisaient partie des dizaines de dessins que la campagne et les partisans de M. Massa ont imprimés pour les afficher dans les espaces publics argentins.
Certaines images ont été générées par l’IA de la campagne, tandis que d’autres ont été créées par des partisans utilisant l’IA, notamment l’une des plus connues, une image de M. Massa chevauchant un cheval à la manière de José de San Martín, un héros de l’indépendance argentine.
“Massa était trop raide”, a déclaré Octavio Tome, un organisateur communautaire qui a contribué à créer l’image. “Nous montrons un Massa aux allures de patron, et il est très argentin.”
La montée de l’IA lors des élections en Argentine a également amené certains électeurs à s’interroger sur la réalité. Après la diffusion d’une vidéo la semaine dernière montrant M. Massa épuisé après un événement de campagne, ses détracteurs l’ont accusé de se droguer. Ses partisans ont rapidement riposté, affirmant que la vidéo était en réalité un deepfake.
Sa campagne a cependant confirmé que la vidéo était bel et bien réelle.
M. Massa a déclaré que les gens utilisaient déjà l’IA pour tenter de dissimuler des erreurs ou des scandales passés. “Il est très facile de se cacher derrière l’intelligence artificielle lorsque quelque chose que vous avez dit est révélé et que vous ne le vouliez pas”, a déclaré M. Massa lors de l’interview.
Plus tôt dans la course, Patricia Bullrich, une candidate qui n’a pas réussi à se qualifier pour le second tour, a tenté d’expliquer la fuite d’enregistrements audio de son conseiller économique offrant un emploi à une femme en échange de relations sexuelles en affirmant que les enregistrements étaient fabriqués. “Ils peuvent simuler des voix, modifier des vidéos”, a-t-elle déclaré.
Les enregistrements étaient-ils réels ou faux ? C’est vague.
Leave a Reply