Les deep-fakes modifient notre perception de la réalité

Et, hélas, nous sommes inégaux face à ces manipulations

 
Si encore il n’y avait que le fait de vouloir nous tromper, nous faire « prendre des vessies pour des lanternes » comme disait déjà ma grand-mère (celle de mon cimetière), mais il se trouve que ces trucages, toujours plus perfectionnés pour nous faire gober des « stories » abracadabrantesques pour être réalisés grâce aux intelligences artificielles, déforment finalement notre vision de la réalité, affectant du coup nos comportements de consommateurs et de citoyens.
 
Souvenez-vous de cette histoire qu’on m’aura rappelé récemment où, en 2022, la télévision ukrainienne, hackée, piratée, a diffusé un « hypertrucage » (ou « deep-fake ») du président ukrainien « Zèle-en-Ski » annonçant qu’il rendait les armes (un fantasme russe que soutient tous les « pacifistes », naturellement), ce qui aurait pu transformer la réalité du champ de bataille : Il suffisait alors d’une offensive sans avoir à tirer un coup de feu et la République Ukrainienne tombait dans les griffes de l’ours russe…
Mais pas seulement : En mai 2023, une image représentant le Pentagone avec un nuage de fumée a provoqué une chute instantanée de 0,29 % des cours de bourse du S&P500, nécessitant un démenti officiel du ministre de la Défense « ricain ».
On avait cru alors à une attaque terroriste sous faux-drapeau…
Ça n’a heureusement durer que peu de temps, mais ça avait secoué les consciences.
À Hong-Kong également, un employé a transféré 25 millions de dollars en pensant suivre des ordres des directeurs de son entreprise avec qui il avait eu un appel en visioconférence. En réalité, il n’avait jamais eu le moindre humain face à lui, mais c’était tellement bluffant qu’il s’y était laissé prendre.
 
Ces hypertrucages – images, vidéos et même contenus interactifs – mobilisent notre ouïe, notre vue, notre participation et visent à vous tromper et vous escroquer (quand ce sont des malveillants qui s’en prennent à vos données bancaires, par exemple).
Ils sont créés en superposant à des images réelles des données qui ne le sont pas grâce à des algorithmes de « machine learning » combinés à des logiciels de cartographie faciale, et peuvent être rendus encore plus performants grâce à l’intelligence artificielle générative.
Même si parfois on se rend compte qu’il manque des doigts à une main d’humain, où qu’une ombre portée ne correspond pas à l’ensemble de la scène.
Dans le temps, sur une de mes machines, j’avais un logiciel d’architecture à base de « ray-tracing » tellement bluffant que j’avais pu modéliser ma maison de Balagne dans son décor naturel.
Il me suffisait de changer le fond, les arbres, le relief, les couleurs de la mer ou du ciel et j’inventais des histoires avec des personnages, à ce moment-là, épurés de tout détail : C’était chronophage, mais bluffant.
J’ai ainsi eu des images de « JP2 » partageant un drink sur ma terrasse avec « Moraline de Conack ».
« JP 2 » était assez facile à « fabriquer », de loin et « Moraline » elle avait une silhouette et un visage passionnant…
Depuis, l’ordinateur est naze et les sauvegardes sont sur disquette 3’’ (l’ancien format d’Asmtrad) : Plus aucune machine ne sait les lire !
 
Aujourd’hui, certains outils tels que Speechify largement démocratisés en ligne, permettent de faire dire n’importe quoi à quelqu’un si l’on dispose d’un enregistrement de trente secondes de sa voix.
Les contenus créés sont si réalistes qu’ils peuvent tromper même ceux qui estiment pouvoir les détecter, rendant difficile la distinction entre le vrai et le faux.
En somme, désormais, voir, entendre, n’est plus suffisant pour y croire : Les images, vidéos et autres contenus fabriqués peuvent être indiscernables des contenus authentiques.
Et ce phénomène pose de sérieux défis pour la société.
 
Ainsi, les images de mannequins utilisées dans les campagnes publicitaires de certaines grandes marques sont générées par des systèmes d’intelligence artificielle.
Elles véhiculent une certaine idée de la beauté et des normes esthétiques souvent inatteignables dans le monde réel.
On vous vend du rêve, du mensonge… (« S’il vous plait, maestro, des mensonges en musiques ! » chante Patricia Kass…)
Au-delà d’une esthétique qui pourrait simplement caractériser les contenus générés et modifiés par intelligence artificielle, les mannequins et influenceurs artificiels créés par « hypertrucages » cherchent tout simplement à s’insérer dans le monde réel comme s’ils étaient des humains.
« Incognitoto Influencer », un influenceur virtuel « hyper-truqué », est ainsi apparu sur les images de toutes les Fashion Week en 2023 alors que personne ne l’y a rencontré.
Aitana Lopez, mannequin hyper-truquée, possède ses propres réseaux sociaux.
Et là, on est assez loin du cliché « photoshopé »… il s’agit d’une pure création à partir de rien sinon un logiciel informatique, sans une once de « jus de neurone »… ou alors très lointain, dans la conception du logiciel.
 
D’autant que dans ces cas-ci, il ne s’agit pas de générer ponctuellement une image « lisse » pour vendre un produit, mais de mettre en scène une personnalité virtuelle, plus qu’un avatar, pour qu’elle influence les humains dans le monde physique, le réel, celui que l’on touche, pas celui de Matrix ou de Meta.
Et il semble qu’il n’y a pas de limite à ce que l’on peut faire faire à ces agents hyper-truqués, puisqu’ils n’existent pas. En ce sens, les hypertrucages peuvent véhiculer des modèles de vie quotidienne irréalistes, qui peuvent accentuer le mal-être de ceux qui chercheraient les mêmes modes de vie.
C’est finalement plus fort que le Coran ou la Bible qui vous cause tout pareillement de choses qu’on n’a pas pu toucher mais sont capables de vous transporter dans des états superlatifs…
 
Ainsi, l’IA a ressuscité « Adolf-Benito-Hitler » et l’extrême droâte n’hésite pas à l’utiliser pour séduire les plus jeunes.
« Poux-tine » lui-même, en février 2024 dans son interview avec T. Carlson, réinventait l’histoire de son pays en direct[1]… C’était probablement pour des raisons de politiques internes, mais il se servait, tel un robot pqrce qu’en direct, des bases de données de l’équivalent de Wikipédia mais russe, à savoir Ruwiki.
J’y reviendrai probablement cet été dans le roman actuellement en préparation (« Tome II » – La tête dans les étoiles), tellement cet épisode reste surréaliste, comme déconnecté des réalités, ce qui était assez osé face à un journaliste « ricain », même si celui-là était probablement « complice » pour être un habitué des salons du Kremlin.
 
En cela, la recherche en marketing considère que les hypertrucages sont différents des mécanismes de publicité traditionnels. Les images hyper-truquées peuvent être tellement inspirantes que les individus peuvent y croire directement sans chercher à trop les comprendre. Plus les hypertrucages sont riches (par exemple en véhiculant de l’information au-delà d’une simple photographie mais par l’intermédiaire d’un contenu vidéo), plus les consommateurs sont enclins à vouloir acheter les produits liés.
Pour autant, cela ne signifie pas que les marques ne doivent pas y mettre des limites : Les consommateurs qui n’ont pas détecté l’hypertrucage mais apprennent qu’ils ont été trompés ont ensuite moins envie d’acheter des produits de cette marque.
C’est ce que montrent les études autour de ces sujets…
 
Enfin, les outils d’intelligence artificielle utilisés pour générer les hypertrucages reflètent et amplifient les biais de nos sociétés.
Par exemple, il y a huit ans, une IA invitée à juger un concours de beauté a discriminé les personnes à la peau noire.
Pourtant, comme disait l’autre, certains échantillons de « bois d’ébène » sont un véritable régal pour la macula… Mais au moins autant que d’autres ethnies.
Aujourd’hui encore, le moteur de recherche « Bing-bing-tralala » montre presque exclusivement des bébés caucasiens aux yeux bleus lorsqu’on recherche des images de « beautiful babies », alors que bon…
Ce qui laisse supposer que les influenceurs virtuels hyper-truqués puissent présenter uniquement certaines ethnies et visions de la beauté comme « inspirantes » esthétiquement et socialement.
Et ce qui reste une erreur fondamentale…
 
Mais pas seulement non plus, les hypertrucages peuvent ébranler la vie politique : Les femmes et hommes politiques peuvent faire l’objet de parodies modernes grâce aux hypertrucages. En 2023, « Clad 3815 » a fait intervenir sur sa chaîne Twitch les leaders politiques « Gauloisiens-authentiques » pour une session interactive sous forme d’hypertrucage, à visée divertissante.
Or, le contenu généré par IA, s’il n’est pas annoncé comme tel, peut être manipulateur, puisqu’il laisse à penser qu’il montre la réalité alors que ce n’est pas le cas.
Par exemple, pour le Nouvel An 2024, un membre du parti présidentiel « Gauloisien-tricolore » a diffusé un hypertrucage sur « Xxxl » représentant « Marinella-tchi-tchi » souhaitant la bonne année en russe, sans indiquer qu’il s’agissait d’un montage, ce qui peut affecter la vision que l’on a de la « cheftaine » (quoique…), et/ou sembler divertissant eu égard aux débats sur la position de son parti politique vis-à-vis de la Russie.
Là encore… quoique !
Dans le même genre, un faux « Élan-Must » aura escroqué une « Sud-Koréenne » en marge de la cérémonie du Breakthrough Prize à l’Academy Museum of Motion Pictures de Los Angeles (Californie), le 13 avril 2024.
 
Ces hypertrucages politiques affectent effectivement notre vision du monde : Des expérimentations ont montré que les « deep-fakes » peuvent convaincre jusqu’à 50 % du public « ricain » de scandales qui n’ont jamais eu lieu.
Bon, il faut dire que les « ricains » sont des cibles faciles : Leur manque d’esprit critique les auront fait voter une deuxième fois pour un candidat et une équipe qui vont les ruiner et s’en mettre plein les fouilles en deux temps trois mouvements, que ça se terminera mal : Ils sont même capables d’abattre un Pédégé de compagnie d’assurance médicale qui ne faisait que son boulot…
Là, la victime comme son agresseur, on voit bien qu’ils n’ont rien compris et se sont fait tous les deux entuber dans les grandes profondeurs par un système d’assurance pour le moins archaïque et coûteux…
Mais pour savoir ça, il faut savoir compter et lire, même entre les lignes…
Pas facile pour le « ricain » moyen !
 
Le plus important reste de savoir que nous ne sommes pas tous égaux face à ces manipulations. Par exemple, les individus les plus intéressés par la politique seront mieux à même de détecter ces hypertrucages que d’autres, ce qui pourrait s’expliquer par leur connaissance générale des informations politiques, leur compétence développée à les analyser, et leur exposition accrue à ce type de contenu.
Autrement dit le résultat de l’exercice de leur « sens critique » en toute objectivité : Il y en a même qui se disent « éveillés » alors qu’ils sombrent dans une autre névrose, celle du complotisme.
 
En revanche, ceux qui ne reconnaissent pas ces hypertrucages peuvent voir leurs opinions politiques affectées. En effet, une fois qu’un individu est confronté à un deep-fake qui représente un homme ou une femme politique, l’opinion qu’a cet individu du politique en question tend à se détériorer, alors que son opinion du parti politique représenté ne changera pas.
J’ai ainsi appris que si l’hypertrucage est présenté à des individus qui ont déjà une mauvaise opinion du parti politique représenté, leur avis devient plus négatif tant concernant le parti que l’homme ou la femme politique en question après avoir vu l’hypertrucage.
Ceci signifie que les hypertrucages peuvent être utilisés pour manipuler les opinions avec des campagnes d’affichage ciblé.
Et il n’y a pas de raison de se gêner pour les « architectes du chaos » : Quand un fake fait buzz, il faut la garder, l’exploiter, l’amplifier, la dupliquer, plus on en parle, on la relaye ou la critique, plus elle prend de l’épaisseur et peu importe les effets négatifs ou positifs du fake, puisqu’il s’agit de créer du chaos, de faire perdre leurs repères habituels au plus grand nombre.
 
Et c’est comme ça que le chaos sait générer des bulletins dans les urnes pour ceux qui savent rebondir dessus.
La manipulation profite ainsi aux avis « extrémistes » qui rabâchent leurs certitudes dogmatiques avec constance alors que le pékin désorienté déserte les consultations électorales, doutant de tout et de tous !
On l’a bien vu à l’occasion des dernières européennes et des législatives qui ont suivi chez nous.
Mais c’est pareil en « Teutonnie », en « Öster-Reich », en « Ritalie », en « Magyarország », en « România » et encore partout ailleurs, y compris chez les « ricains » et les « brexiters »…
 
Si l’on est optimiste, on peut penser que l’intelligence artificielle générative permettra de créer des contenus éducatifs, comme des vidéos de personnages historiques racontant l’histoire de manière captivante, ou de reconstituer des événements historiques.
J’avoue que la visite virtuelle de Notre-Dame-Paris-sur-la-Seine, avant sa réouverture aura été passionnante. Je te vous jure qu’on a le vertige à gambader sur des planches en équilibre au moment de la fabrication de la fameuse « forêt » initiale en compagnie de Maurice de Sully qui t’explique ce qu’il veut faire.
Un peu avant, j’avais été enthousiasmé par la visite de mon pays sur une sorte de machine volante qui te fait foncer tête baissée au-dessus de la côte Normande ou des Pyrénées, cheveux au vent, sur une plateforme inclinable…
Véritablement bluffé.
 
L’IA peut également permettre l’émergence de nouveaux services. Certains explorent l’idée de l’utiliser pour accompagner des personnes dans le deuil. Pourquoi pas…
Mais si on est pessimiste, la différence entre un hypertrucage et une simple utilisation de l’intelligence artificielle générative est faite en fonction de l’objectif de la génération du contenu : L’hypertrucage est lié à l’idée de tromper et de manipuler.
Et c’est ce qui va prendre le dessus.
Si des usages responsables de l’intelligence artificielle générative sont possibles, il est important de les promouvoir, et d’encadrer les déviances possibles.
Car les usages « irresponsables » seront nettement plus « vendeurs »…
 
Dans ce sens, la réflexion sur l’encadrement des hypertrucages a été soulevée dès 2019 à l’Assemblée nationale « Gauloisienne-républicaine », et les parties prenantes se sont responsabilisés : Les images générées par IA sur Google sont tatouées depuis 2023, une technique appliquée en 2024 à des contenus vidéos, notamment ceux créés sur Gemini et via ses chatbots.
En 2023, « Twit-Twitch » avait annoncé l’interdiction de la diffusion de « deep-fakes » à caractère pornographique : C’est qu’il y en avait déjà des tombereaux.
En 2024, la Californie s’est même dotée d’une loi contre la génération d’hypertrucages dans le cadre des élections.
 
Sera-ce suffisant ?
Évidemment que non : Il est toujours possible de franchir une frontière et de se réfugier là où les mentalités et les lois sont différentes.
« Trompe » oblige déjà, même avant d’avoir été intronisé, les responsables des réseaux sociaux à ne plus le censurer quand il raconte une ânerie plus grosse que sa quéquette… et chez lui, c’est vite dépassé !
Et il est soutenu par « Élan-Must » dans cette croisade pour « la liberté de penser »… finalement la violant avec délectation grâce au « mensonge informatique »…
Rien n’arrêtera les « architectes du chaos » tant que nos gamins seront accros aux écrans au moins autant que leurs éducateurs…
 
Et plus ça sera gros, plus ça passera : On en arrive encore à vous faire croire que « Bibi-Trognon » est son frère uniquement pour vous assurer que « Jupiter » aime les garçons.
C’est vrai, mais c’est quand même fabuleux… pour le frère Jean-Claude, décédé en 2018… et qui serait donc la mère, oui la mère puisque la mère serait son frère, des gamins « Trognon » !!!
C’est vous dire que les éducateurs de la Nation ont manqué à tous leurs devoirs.
Normal : Ils ont fait Mai 68… et persistent parfois à voter « Mes-Luches » !
 
Pour mémoire (n’en déplaise à « Poux-tine ») : « LE PRÉSENT BILLET A ENCORE ÉTÉ RÉDIGÉ PAR UNE PERSONNE « NON RUSSE » ET MIS EN LIGNE PAR UN MÉDIA DE MASSE « NON RUSSE », REMPLISSANT DONC LES FONCTIONS D’UN AGENT « NON RUSSE » !
Post-scriptum : Alexeï Navalny est mort en détention pour ses opinions politiques. Les Russes se condamnent à perpétuité à en supporter toute la honte !
Постскриптум: Алексей Навальный умер в заключении за свои политические взгляды. Россияне обрекают себя на всю жизнь нести весь позор!
Parrainez Renommez la rue de l'ambassade de Russie à Paris en rue Alexeï Navalny (change.org)

---

[1] I-Cube (l'exilé): Poutine répond à Tucker Carlson (1/8) et suivant…