Depuis le début du conflit qui oppose l'Iran aux États-Unis et à Israël, l'intelligence artificielle est devenue un outil de communication primordial pour le gouvernement iranien. Ainsi, comme nous l'avions évoqué dans un précédent article, dans le cadre d'une guerre de l'information, les comptes des ambassades d'Iran sont devenus des pourvoyeurs réguliers de contenus viraux de propagande générés par IA.
Récemment l'IA a été utilisée à plusieurs reprises par des comptes gouvernementaux et des internautes pro-régime pour générer des fausses images de dirigeants iraniens
Le 22 septembre, le compte officiel en anglais de l'ayatollah Mojtaba Khamenei, publie un prétendu portrait du guide suprême iranien pour accompagner une annonce du dirigeant à l'adresse des étudiants pour la prochaine rentrée académique. L'image a été également relayée sur le site de l'agence de presse iranienne Fars.
Cependant cette image est factice. En la passant dans SynthID, un outil de détection d'images artificielles utilisé par Google, le résultat révèle ainsi que le faux cliché contient un filigrane qui indique qu'il a été produit par l'IA génératrice d'image de Google, Nano Banana.
Ce n'est par ailleurs pas la première fois qu'un compte officiel du gouvernement relaie un faux portrait du guide suprême. Au mois de mars un journaliste de la BBC avait constaté que l'image de profil du compte X de Mojtaba Khamenei en iranien avait été également générée par IA. Gravement blessé par une frappe israélienne au début du conflit, le guide suprême n'est pas réapparu depuis en public et aucune image vérifiable de sa personne n'a été publiée depuis l'attaque dont il a été victime.
Le 22 septembre un compte favorable au gouvernement iranien publie une supposée image du président de la République islamique d'Iran, Masoud Pezeshkian censée avoir été prise lors de son discours à la tribune à l'Assemblée générale de l'ONU.
La prétendue photographie, vue plus de 646 000 fois sur X, montre le dirigeant en train de brandir dans sa main droite un portrait d'Ali Khamenei, le précédent guide suprême tué au début de la guerre contre les États-Unis et Israël, et dans sa main gauche un sac à dos rose ensanglanté d'une écolière.
Le sac à dos est une référence aux cartables retrouvés des écolières iraniennes tuées lors d'un bombardement américain le 28 février contre une école à Minab dans le sud de l'Iran. Selon le New York Times ce bombardement aurait été vraisemblablement perpétré suite à une erreur de ciblage de l'armée américaine.
Cependant, comme l'indique la version de SynthID utilisée par Open Ai, la société propriétaire de ChatGPT, cette image a été générée par ChatGPT.
Comme le prouvent les images de la retransmission de son discours, Masoud Pezeshkian a bien présenté un portrait d'Ali Khamenei à la tribune de l'ONU. Cependant le portrait réellement brandi par le président iranien, avec un fond blanc, était d'un aspect totalement différent de celui affiché dans l'image généré par IA, qui affichait un fond vert.
De même, si le président iranien a fait effectivement allusion aux écolières de Minab durant son discours en présentant à la tribune une photographie des élèves, le dirigeant n'a en revanche pas présenté de cartable ensanglanté durant son allocution.
Ce n'est pas la première fois que l'IA est utilisée pour produire des images de sacs à dos en référence aux écolières de Minab. Si des sacs à dos ont pu être réellement brandis en mémoire des écolières par les joueurs de l'équipe nationale de football d'Iran, des fausses images de sac générées par intelligence artificielle sont aussi régulièrement publiées par des comptes pro-gouvernementaux ou d'ambassades iraniennes.