Ou quand l’IA décide déjà à votre place (1)…

Délire dystopique ou réalité ?
 
L’intelligence artificielle (IA) ne se contenterait plus de guider nos choix : Elle anticiperait nos besoins et agirait déjà à notre place.
J’avais été impressionné, au début des années 90 du siècle précédent, par les progrès d’IBM (à l’heure du 36 et du 38…) : Les meks faisaient déjà tourner, notamment chez « Nicolas » (le pinardier de la belle époque à « Paris-sur-la-plage »), un logiciel qui anticipait les commandes des magasins en fonction des sorties de caisse.
Ça encore, c’était assez facile pour préparer des commandes/livraisons hebdomadaires de réassortiment. Mais pour préparer les commandes des stocks à livrer semaine après semaine sur toute une année, c’était un peu plus gonflé…
 
Et pourtant ça marchait aussi bien que ces logiciels capables de prédire à la journée le nombre de repas à préparer dans tel ou tel restaurant d’autoroute ou de faire le réassortiment des gondoles de sandwichs en fonction du calendrier, de la météo et du trafic enregistré aux barrières de péage.
Dans le même genre, en fonction de l’activité de la première semaine de l’année, mes « systèmes experts » à « mpâ-même » étaient capables de me donner une fourchette de CA pour l’année entière, marge faite et bénéfice réalisé au 31 décembre dès la première semaine de l’année écoulée.
Et fin février, ils donnaient les résultats de l’année à écouler avec une précision de plus ou moins 3 %.
Avec ça, j’ai épaté plusieurs banquiers… et même mes patrons (et plus tard mes clients… sauf Belin : Lui il trichait quand il était le patron du Mémorial pour la Paix de Caen, avec ses distributions d’entrées gratuites au péage de Dozulé…).
Des outils prévisionnels assez merveilleux, à peu près quelle que soit l’activité mesurée… même saisonnière et même si la météo l’impactait fortement.
 
Depuis lors, un texte vient d’être publié dans le cadre des « Dauphine Digital Days » qui fait ressortir « un futur » déjà présent, 30 ans plus tard. Il porte sur les comportements des consommateurs, ces inconnus que les outils marketing et autres enquêtes d’opinion ne cessent de cerner.
Je n’y connais strictement rien (moâ je suis fiscaliste, rien de mieux…) mais j’ai fréquenté des gens assez extraordinaires, notamment un ami de mon « Papa à Moâ » (celui qui me fait chialer à chaque fois que je l’évoque) et qui avait fondé « Matem », une boîte d’études de marché. André Leboeuf, pour ceux qui ne connaissent pas et qui vieillit encore probablement dans un « Ehpad d’Alzheimurés » qui voulait que je reprenne sa boutique (et sa table en marbre)…
Pour lui, c’était assez simple : Il suffisait de poser la bonne question et après transformer en langage mathématique la réponse pour faire dire ce qu’on voulait.  
Mais désormais, il paraît que les modèles classiques de comportement du consommateur reposent sur l’intention, la préférence et le choix. Encore que l’automatisation introduite par l’intelligence artificielle (IA) transformerait en profondeur la chaîne décisionnelle.
En s’immisçant dans les étapes de reconnaissance des besoins, d’évaluation des alternatives et d’achat, l’IA ne se contenterait désormais plus de guider, elle agit !
De la mesure, on serait ainsi subrepticement passé à la prise de décision.
Et ça, si on le voyait arriver, on n’en mesure pas encore toute la portée.
 
En effet, cette mutation questionne le cadre théorique du « consumer agency », l’idée selon laquelle les consommateurs ont la capacité d’agir de manière intentionnelle, de faire des choix et d’exercer une influence sur leur propre vie et sur leur environnement.
Et ce déplacement progressif du pouvoir décisionnel interroge.
D’ailleurs, plus significatif, il interpelle la nature même de l’acte de consommer !
En tout cas pour quelques « sachants » qui s’extasient devant leur créature…
 
Les algorithmes prédictifs, sont donc des programmes qui anticipent des résultats futurs à partir de données passées et je vous fais une description conceptuelle des « arbres de décision » dans un roman qui m’aura bien amusé (autour des chapitres 40 et suivants), que je conjugue là avec mes « recherches personnelles » sur la maîtrise des aléas.
Des programmes qui sont désormais des acteurs incontournables de l’environnement numérique, présents sur des plateformes, telles que Netflix, Amazon, « Tik-tac-Tok-Toé » ou Spotify et encore ailleurs.
Conçus pour analyser les comportements des utilisateurs, ces systèmes visent à personnaliser l’expérience en proposant des contenus et des produits adaptés aux préférences individuelles. En réduisant le temps de recherche et en améliorant la pertinence des recommandations, ils offrent une promesse d’assistance optimisée.
Et prédictives… que ces plateformes sont capables de monétiser : C’est leur modèle économique originel.
 
Toutefois, cette personnalisation soulève une question centrale : Ces algorithmes améliorent-ils l’accès aux contenus et aux produits pertinents, ou participent-ils à un enfermement progressif dans des habitudes de consommation préétablies ?
Car en favorisant les contenus similaires à ceux déjà consultés, les systèmes de recommandation tendent à renforcer les préférences préexistantes des utilisateurs, tout en restreignant la diversité des propositions auxquelles ces derniers sont exposés.
Ce phénomène, identifié sous le terme de « bulle de filtre », limite l’ouverture à des perspectives nouvelles et contribue à une uniformisation des expériences de consommation.
C’est comme ça que je me tamponne toute la gamme des chansons de Jean Ferrat ou de Barbara, Brassens & Cie, parce que ma « co-living » aime bien quelques-uns de leurs titres…
Pour ainsi dire, l’utilisateur se trouve ainsi progressivement enfermé dans un environnement façonné par ses interactions antérieures, au détriment d’une exploration libre et fortuite, le « faire les boutiques » d’autrefois, le « lèche-vitrine » d’antan.
Et je suis privé de Patricia Kaas qui pourtant chante pour ceux qui, comme moâ, n’ont rien ! Un comble…
 
Et ce glissement remet en question l’équilibre entre l’intelligence artificielle en tant qu’outil d’assistance et son potentiel aliénant, dans la mesure où la liberté de choix et l’autonomie décisionnelle constituent des dimensions fondamentales du bien-être psychologique et de la construction identitaire.
Il soulève également des enjeux éthiques majeurs : Dans quelle mesure l’expérience de consommation est-elle encore véritablement choisie, lorsqu’elle est orientée, voire imposée, par des algorithmes, souvent à l’insu des consommateurs, notamment ceux dont la « littératie numérique » demeure limitée ?
L’optimisation des publicités et des publications en ligne repose d’ailleurs sur ces critères imposés par les plateformes.
Et cette tendance est particulièrement visible sur des plateformes comme YouTube, où les vidéos adoptent systématiquement des codes visuels optimisés : Visages expressifs, polices de grande taille, couleurs vives.
Ce format ne résulte pas d’une préférence spontanée des internautes, mais découle en réalité des choix algorithmiques qui privilégient ces éléments pour maximiser le taux de clics…
 
De manière similaire, sur les réseaux sociaux, les publications adoptent des structures spécifiques, phrases courtes et anecdotes engageantes, comme sur « Xxxl » (ex-« twister »), où les utilisateurs condensent leurs messages en formules percutantes pour maximiser les « retwists ».
D’autant que cela ne vise pas nécessairement à améliorer l’expérience de lecture, mais répond aux critères de visibilité imposés par l’algorithme de la plateforme !
Ainsi, l’objectif des annonceurs ne se limite plus à séduire un public humain, mais vise principalement à optimiser la diffusion de leurs contenus en fonction des impératifs algorithmiques.
Et c’est cette dynamique conduit à une homogénéisation des messages publicitaires, où l’innovation et l’authenticité tendent à s’effacer au profit d’une production standardisée répondant aux logiques des algorithmes.
Sachant, ou plutôt présumant et anticipant ces mécanismes, personnellement, j’ai changé de plateforme d’accueil pour mes « petits-posts », offrant gratuitement mes dires à « Gogol » qui en fait ce qu’il veut, ne me rémunérant d’aucune façon…
Et c’est d’ailleurs assez curieux : Je ne diffuse pas sur les réseaux sociaux, hors trois historiques où mes posts sont totalement noyés dans la marée quotidienne, mais j’ai tout de même plus de lecteurs (environ 20.000 par mois) stationnés hors de la « Gauloisie-impitoyable », plutôt que dans mon propre pays…
Par quel miracle algorithmique expliquer ce « 40/60 » ?
Je crois que je mourrai sans savoir…
 
La question qu’on peut se poser, c’est de savoir comment ces formats prédominants sont-ils imposés par les algorithmes ?
Ou reflètent-ils seulement et vraiment les attentes des consommateurs ?
En effet, si les algorithmes sont conçus pour maximiser l’engagement, cela suppose qu’ils s’appuient en partie sur les comportements et les préférences des utilisateurs.
Pourtant, la véritable interrogation réside dans l’effet « feed-back », dans la manière dont les algorithmes influencent, par des expositions répétées, nos propres préférences, jusqu’à redéfinir ce que nous percevons comme attractif ou pertinent !
 
Ainsi, on peut comprendre que l’évolution déjà existante avant l’apparition de l’IA, que celle-ci a donné naissance aux systèmes d’achat autonomes, qui prennent des décisions d’achat en toute indépendance.
Dans mes systèmes « type IBM » d’antan, on prenait soin d’obliger à une validation par un humain devant son écran et son clavier.
Même à une époque où j’avais pris en charge de « faire les promotions » pour relancer l’activité d’un grossiste en perdition, le programme que je m’étais concocté me proposait des choix, mais il fallait que je valide, voire que je corrige le prix final pour sauvegarder les marges des clients détaillants…
 
En fait, aujourd’hui les systèmes proposés reposent sur deux types d’agents intelligents : Les agents verticaux et les agents horizontaux.
Les agents verticaux sont des IA spécialisées dans des domaines précis. Ils optimisent la gestion des achats en analysant des besoins spécifiques.
Par exemple, les réfrigérateurs « intelligents » scannent leur contenu, identifient les produits manquants et passent commande automatiquement avant même que les consommateurs ne décident eux-mêmes de passer commande.
Les agents horizontaux coordonnent quant à eux plusieurs domaines d’achat.
Des assistants, comme Alexa et « Gogol Assistant », analysent les besoins en alimentation, mobilité et divertissement pour proposer une consommation intégrée et cohérente.
Et l’interaction multi-agents permet ainsi d’accroître l’autonomie des systèmes d’achat.
 
Les agents verticaux assurent quant à eux la précision et l’optimisation des achats, tandis que les agents horizontaux garantissent la cohérence des décisions à l’échelle globale.
Cette synergie préfigure un avenir où la consommation devient totalement ou partiellement automatisée et prédictive.
Progressivement, nous ne déciderons plus quand acheter ni même quoi acheter : Ces systèmes autonomes agissent pour nous, que ce soit pour notre bien ou à notre détriment !
 
L’accès à l’information et l’instantanéité offertes par l’IA aurait fait de nous des consommateurs « augmentés » nous assurent ainsi les « ingénieurs du chaos » qui se prennent pour des « sachants ».
Pourtant, son évolution rapide soulève désormais une question fondamentale dont certains commencent seulement à s’étonner : Sommes-nous encore les véritables décideurs de notre consommation, ou sommes-nous progressivement relégués à un rôle passif ?
Car l’IA ne se limite plus à nous assister, elle structure désormais un écosystème au sein duquel nos décisions tendent à être préprogrammées par des algorithmes, dans une logique d’optimisation.
Et ce afin d’anticiper la chaîne de production en amont de nos décisions afin d’optimiser les ressources disponibles.
 
Une telle dynamique soulève aussi des interrogations profondes quant à l’avenir des modes de consommation : L’IA est-elle en passe de devenir le véritable consommateur, tandis que l’humain se limiterait à suivre un flux prédéfini ?
Assistons-nous à l’émergence d’un marché où les interactions entre intelligences artificielles supplantent celles entre individus ?
 
Et si d’autres vont plus loin en profondeur, c’est enfin pour se demander si, ces technologies qui offrent un confort indéniable, qu’elles en sont les conséquences sur notre « libre arbitre » et sur notre autonomie en tant que consommateurs, citoyens et humains ?
Dès lors, ne sommes-nous pas à l’aube d’une révolution où l’humain, consommateur passif, s’effacerait au profit d’une économie pilotée par des systèmes de consommation intelligents autonomes ?
D’ailleurs, pour ces derniers, plus qu’une volonté de contrôle total des technologies qui freine l’innovation, c’est peut-être notre propre autonomie qu’il convient de repenser à l’aune de l’émergence de ces systèmes.
Il s’agirait alors de construire des pratiques par lesquelles l’individu œuvre à sa propre transformation et à son émancipation des diverses formes de domination algorithmique.
 
Encore faudrait-il qu’on s’en rende compte.
Or, on assiste plutôt à un abrutissement profond de nos concitoyens, tous ou à tout le moins une large majorité, réfugiés derrière leurs écrans, leurs écouteurs aux oreilles, jusque dans le métro, les bus et sur les trottoirs, coupés du monde réel, abreuvés, drogués, d’interactions avec des machines.
Les consciences s’endorment tellement ils ont confiance dans leurs machines et leurs progiciels qui les enferment dans des bulles numériques…
 
On finira par leur faire avaler des couleuvres et prendre des vessies pour des lanternes avec ces technologies-là !
Et je vous entends déjà râler : « Eh, I³, tu crois quoi ? Ce n’est pas déjà fait ? »
Si, bien sûr.
Ce sont les outils qui évoluent… en puissance et en précision !
Fabuleux, finalement…
 
Pour mémoire (n’en déplaise à « Poux-tine ») : « LE PRÉSENT BILLET A ENCORE ÉTÉ RÉDIGÉ PAR UNE PERSONNE « NON RUSSE » ET MIS EN LIGNE PAR UN MÉDIA DE MASSE « NON RUSSE », REMPLISSANT DONC LES FONCTIONS D’UN AGENT « NON RUSSE » !
Post-scriptum : Alexeï Navalny est mort en détention pour ses opinions politiques. Les Russes se condamnent à perpétuité à en supporter toute la honte !
Постскриптум: Алексей Навальный умер в заключении за свои политические взгляды. Россияне обрекают себя на всю жизнь нести весь позор!
Parrainez Renommez la rue de l'ambassade de Russie à Paris en rue Alexeï Navalny (change.org)