Ou quand l’IA décide déjà à votre place (2)…

Et où des algorithmes gouverneraient les peuples !
 
Pour faire suite à mon billet d’hier, une autre source que des « scienteux » de la faculté m’avait fait savoir son point de vue par courriel et vient ainsi compléter le traitement du sujet.
Je reprends pour nous éclairer.
 
Ils en disent que celui qui contrôle les algorithmes contrôle en fait le récit.
Probablement.
Et celui qui contrôle le récit contrôle l’opinion publique.
C’est moins évident, mais on peut l’envisager.
Quant à celui qui contrôle l’opinion publique, c’est lui qui détient le pouvoir politique.
C’est dans l’ordre des choses même si c’est tout de même plus compliqué que ça.
Notamment parce qu’il y a souvent concurrence de « récits ».
 
Mais on peut noter, comme mon interlocuteur, que la récente vente forcée de la version « ricaine » de la populaire application de partage de vidéos « Tik-Tak-Tok-Toé » (et non de l’entreprise dans son ensemble) à un groupe d’investisseurs dirigé par le milliardaire « ricain » Larry Ellison constitue un événement géopolitique d’une importance majeure.
Certes : C’est même assez intéressant comme processus.
Cela montre en tout et non seulement à quel point les réseaux sociaux sont devenus essentiels dans le marché mondial des médias, mais aussi combien il est crucial de contrôler les algorithmes qui déterminent le flux de contenu présenté aux utilisateurs.
 
« Tik-Tak-Tok-Toé » est arrivé sur le marché américain en 2017 et il a rapidement gagné en popularité – surtout parmi les jeunes, ces cerveaux encore immatures et toujours en formation.
En un peu moins de huit ans de présence aux États-Unis, l’application a offert à un acteur étranger une influence sans précédent sur l’opinion publique « ricaine » – influence qui a déjà eu d’importantes conséquences politiques.
Que c’est assez extraordinaire de s’en rendre compte… avec un retard à l’allumage de 8 ans !
C’est dire la cécité des cerveaux les mieux formés de leurs « sachants » à eux.
Mais ce n’est pas le sujet…
 
Jusqu’à la semaine dernière, des algorithmes de facto contrôlés par le principal rival géopolitique des États-Unis déterminaient chaque jour quels contenus médiatiques une grande partie des « ricains » voyaient : Un pouvoir immense.
Avec le retour du réalisme en politique internationale et à l’ère de la guerre hybride, ce pouvoir peut effectivement être utilisé comme d’une arme.
D’ailleurs, indépendamment de ce que l’on pense de la moralité de l’opération militaire d’Israël à Gaza (sujet que je m’abstiens volontiers d’aborder sur ce blog, alors que… ça me démange, mais c’est tellement polémique…), beaucoup – y compris « Benne-Jasmin-Net-à-Yahoo » lui-même – estiment que « Tik-Tak-Tok-Toé » est la principale raison de la forte hausse des sentiments anti-israéliens et antisémites aux États-Unis (comme s’il n’y avait que ça…), l’application favorisant délibérément les contenus propalestiniens.
Il faut reconnaître que c’est une façon de foutre le bordel chez « pas chez soi » (alors qu’on peut considérer que…) et qu’après on s’étonne qu’ils se foutent sur la gueule…
Comme si les uns et les autres avaient besoin de ça pour se haïr mutuellement alors qu’il est difficile de mesurer précisément dans quelle mesure « Tik-Tak-Tok-Toé » a contribué à retourner l’opinion publique « ricaine » contre Israël.
Mais son rôle reste indéniable.
Des « ricains » manipulés par des « Chines-tok-toé », qui l’eut cru ?
Et que ce sont des « feujs » sionistes qui en payent les conséquences ?
Avouez que ce serait diabolique, surtout si c’était le fruit d’une volonté politique affirmée de la théocratie iranienne qui soutient encore et encore le « Ramasse » antisémite…
Démoniaque, vous dis-je…
 
Mais ce n’est pas tout : L’application a probablement aussi influencé certains résultats politiques internes aux USA, qui se traduiront bientôt par un pouvoir concret pour des acteurs inattendus. Ainsi, l’actuel maire de New-York, le démocrate « Rahan-Mam-Dani », très à gôche selon les standards « ricains », n’aurait sans doute jamais remporté la nomination de son parti sans le soutien de l’application et il ne serait probablement pas l’édile de la grosse pomme aujourd’hui.
Un des fantasmes de « Mes-Luches »…
Mais lui n’intéresse plus ni les chinois ni les iraniens.
 
Finalement, peu importe la position que l’on adopte sur le conflit israélo-palestinien ou ce que l’on pense de « Mam-Dani », c’est dans tous les cas une évolution qui reste inquiétante pour l’avenir de la liberté d’expression : « Elle devrait alerter tous ceux qui croient en la démocratie et en des systèmes politiques ouverts : Un tel pouvoir d’influence, concentré entre si peu de mains, est dangereux. »
Exact, quel que soit le dit pouvoir et les dites mains.
D’ailleurs, si un « grand pouvoir » impose une grande responsabilité, il appelle à l’existence d’un « grand contre-pouvoir » !
 
« Le fait qu’un réseau social puisse avoir une telle influence sur les opinions politiques des citoyens dans des sociétés ouvertes constitue une menace directe pour toutes les démocraties ».
Peut-être… Finalement, c’est une question d’instruction publique : Un peu de bon sens dans la tête de nos « d’jeuns » et la bataille d’opinion aurait une autre allure.
Les réseaux aussi.
Car d’une façon ou d’une autre, la libre circulation de l’information est la condition fondamentale de tout système démocratique, la pierre angulaire sur laquelle reposent toutes les autres structures. Sans ce fondement (et quelques autres), tout peut s’effondrer.
Et justement, les réseaux sociaux, quels qu’ils soient, participent à cette libre circulation de l’information : Il y a « Tik-Tac-Tok-Toé », mais aussi « Xxxl », « Fesse-Bouc », « Amstram-gramme-pouf-et-pouf-et-Radadam » et quelques autres.
Tant qu’il y a concurrence et pluralité, je ne suis pas spécialement inquiet…
 
Sauf qu’aujourd’hui, les algorithmes qui déterminent quels messages apparaissent dans le flux d’actualités des utilisateurs de réseaux sociaux et d’autres plateformes d’information sont secrets, certes, et à des degrés divers.
Les algorithmes de « Fesse-bouc », de « Youyou-en-Tube » et de « Tik-Tak-Tok-Toé » sont des secrets commerciaux : Du code source fermé ou des logiciels propriétaires auxquels personne n’a accès en dehors des entreprises elles-mêmes.
Tout comme les lignes-codes de Windows ou d’Androïd.
C’est le modèle « IBM » avec son langage « Natif » (et ses mises à jour sur abonnement) et plus tard « Unix » là où « Bill-Des-Portes » aura pu glisser son « MS-Dos » puis ses différentes versions de Windows et Apple son iOS, Mac, Apple TV et Apple Watch, avec son langage propre, le Swift qu’il partage, au moins autant que la communauté Linux.
 
« Xxxl », anciennement « Twister », fait légèrement mieux : Son algorithme est en partie en open source, notamment la portion qui régit le système de recommandations du fil « Pour vous ».
Mais « Xxxl » présente encore des problèmes, car ce code ouvert n’est pas complet. Il manque notamment des mises à jour régulières du dépôt public, ce qui soulève des questions quant à savoir si le code disponible reflète réellement l’algorithme effectivement utilisé.
 
D’un autre côté, même si les entreprises étrangères de médias sociaux ne sont pas actuellement des acteurs hostiles et cherchent avant tout le profit, adaptant leurs algorithmes en conséquence, il est évident qu’elles peuvent être instrumentalisées à des fins de politique réelle me rassure-t-on.
Par de simples ajustements, ces algorithmes peuvent facilement être utilisés pour manipuler subtilement les opinions politiques des utilisateurs, au bénéfice de ceux qui les contrôlent.
Ce n’est pas pour rien que « Élan-Must » aura emprunté de quoi racheter à prix d’or le réseau « Twister » et aura immédiatement levé les mesures « anti-trompe » que ses dirigeants avaient prises au nom de l’éthique de la boutique…
MAGA n’aurait peut-être pas pu émerger jusqu’à Washington.
 
Par conséquent, le fait que des algorithmes puissent potentiellement servir à de telles activités malveillantes (ou non…) est en soi un problème grave, même si leurs détenteurs n’ont aucune intention de le faire pour l’instant.
L’existence même d’une telle vulnérabilité est effectivement problématique.
« Elle rend nos sociétés perméables à des opérations d’influence étrangères qui ne poursuivent pas nos intérêts. »
Et les pays européens, qui ne contrôlent aucun grand réseau social mais en sont parmi les plus gros utilisateurs, sont donc particulièrement vulnérables à la manipulation de l’opinion publique.
Nos lois actuelles protègent les algorithmes des réseaux sociaux comme des secrets commerciaux. Ainsi, avec le cadre juridique actuel, des acteurs potentiellement malveillants peuvent exploiter ces failles pour diffuser de la désinformation et mener de la propagande sans que nous puissions intervenir.
Nous le savons.
 
En dernière analyse, ces algorithmes à « code fermé » peuvent aussi constituer un risque pour la sécurité nationale, car ils peuvent aussi être utilisés pour polariser délibérément nos sociétés, qui n’ont pas vraiment besoin de ça pour l’être déjà copieusement.
Étant donné que les pays européens deviennent de plus en plus hétérogènes, il est facile de personnaliser les flux d’information afin d’opposer consciemment des groupes les uns aux autres, de semer la discorde et de provoquer des troubles politiques.
Ce que nos amis « russes & consorts » ne se gênent pas de faire à chaque occasion dans ce qu’ils appellent la « guerre hybride » : Eux y sont depuis plus d’une dizaine d’année (officiellement depuis 2014, avec un premier effet majeur à travers le Brexit), alors que nous ne sommes toujours pas « à l’offensive »…
Comme le montre l’exemple de « Tik-Tak-Tok-Toé » aux USA, il ne faut pas longtemps pour façonner l’opinion publique à l’aide d’algorithmes ciblés.
Quelques années suffisent.
6 ans seulement entre l’invasion de la Crimée et le Brexit…
Et une fois que le mal est fait, il peut être extrêmement difficile, voire impossible, de revenir en arrière, avec des conséquences potentiellement catastrophiques pour nos sociétés ouvertes qui capitule devant les populismes divers et variés.
 
« Même si ces vulnérabilités ne sont pas forcément exploitées à court terme, elles représentent une faiblesse politique latente et inacceptable, susceptible en théorie de paralyser nos nations d’un simple clic. C’est tout simplement inacceptable, et nos dirigeants doivent agir, quel qu’en soit le coût. »
Il ne faut rien exagérer puisque c’est déjà en cours.
Pour l’heure, c’est le hacking de données et les dénis de services qui posent le plus de problème.
D’autant qu’au moins une solution existe, même si elle exigera du courage pour s’opposer à des intérêts économiques extrêmement puissants, et probablement à la fois aux États-Unis et à la Chine : « L’autorité » peut bloquer l’accès à ces réseaux du jour au lendemain, d’un simple clic…
Avec ou sans le soutien des opinions publiques qui peuvent le réclamer…
 
Et puis paradoxalement, ces deux rivaux géopolitiques historiques (Chine/USA) pourraient s’accorder pour préserver le statu quo, puisqu’ils dominent le marché des réseaux sociaux et que ces plateformes peuvent aujourd’hui servir d’armes de politique réelle : Tous les pays européens (et ceux qui voudront se joindre à eux) devraient alors exiger que les algorithmes des plus grandes entreprises de réseaux sociaux soient rendus publics via un code source ouvert, accessible et vérifiable en temps réel !
L’alternative au blocage… Utopiste ?
« Ensemble, l’Europe représente une puissance géo-économique impossible à ignorer ou à intimider, puisque ces entreprises comptent des centaines de millions d’utilisateurs sur le Vieux Continent. »
Admettons…
 
Il faut admettre que de telles mesures permettraient l’une et l’autre et alternativement une autorégulation des algorithmes et éviterait leur usage à des fins de propagande politique, car les experts en informatique pourraient les examiner dès qu’un dysfonctionnement serait suspecté.
On pourrait également créer un organe politique paneuropéen chargé de surveiller et de tester régulièrement si certains récits politiques sont délibérément favorisés par ceux qui contrôlent ces algorithmes.
Pour l’heure on se contente de « fake-checkeurs » qui font pas mal leur boulot.
« Les détracteurs de cette proposition (de dévoilement des codes sous peine de blocage) affirmeront sans doute qu’il s’agit d’une atteinte à la liberté d’expression, mais c’est précisément l’inverse. Laisser des acteurs externes – dont les intérêts politiques et économiques ne coïncident pas nécessairement avec les nôtres – contrôler le récit médiatique par la maîtrise des algorithmes revient à saper directement la liberté d’expression ».
Là encore, admettons.
Mais qu’arriveraient-ils si demain les codes-sources étaient disponibles pour tous « les pirates » qui pourraient alors véroler à leur profit les applications et l’information qui y circuleraient ?
 
Faut-il vraiment que les conseils d’administration de puissantes entreprises technologiques de Silicon Valley ou de Pékin détiennent en pratique un droit de veto sur les sujets politiques, économiques et culturels qui peuvent – ou non – être portés à la connaissance du public et atteindre le débat démocratique, ou faut-il persister à les protéger par les lois sur les droits d’auteur pour éviter que n’importe quel mal-embouché les détourne ?
Dilemme que j’invite mes « correspondants » à trancher…
 
Mais soulever cette question de l’utilisation de l’IA à travers les « réseaux sociaux » (qui de mon point de vue sont plutôt anti-sociaux pour couper et cacher le lien social derrière des écrans) est une démarche intéressante, voire enrichissante.
 
Pour mémoire (n’en déplaise à « Poux-tine ») : « LE PRÉSENT BILLET A ENCORE ÉTÉ RÉDIGÉ PAR UNE PERSONNE « NON RUSSE » ET MIS EN LIGNE PAR UN MÉDIA DE MASSE « NON RUSSE », REMPLISSANT DONC LES FONCTIONS D’UN AGENT « NON RUSSE » !
Post-scriptum : Alexeï Navalny est mort en détention pour ses opinions politiques. Les Russes se condamnent à perpétuité à en supporter toute la honte !
Постскриптум: Алексей Навальный умер в заключении за свои политические взгляды. Россияне обрекают себя на всю жизнь нести весь позор!
Parrainez Renommez la rue de l'ambassade de Russie à Paris en rue Alexeï Navalny (change.org)