Les outils de la « démocrature »
Nous vivons un tournant (et à plus d’un titre : On revient demain sur les récents scrutins) qui voit des systèmes nous
enjoindre d’agir en toutes circonstances en vue d’optimiser nos actes.
« Jupiter », ce fat, a lancé un plan « intelligence
artificielle » à 1,5 milliard d’euros pour faire de la « Gauloisie »
un leader du secteur. C’est fort drôle quand on sait que les continents Indien,
chinois et Nord-Américain en font dix fois plus chacun et sans presqu’aucune subvention
publique.
Comme quoi, c’est la grande obsession de l’époque.
Entreprises, politiques et chercheurs ne jurent en
effet que par l’IA car elle laisse entrevoir l’émergence d’un monde partout
sécurisé, optimisé et fluidifié… Et des perspectives économiques illimitées !
Pensez donc : On vous imposera mettre de l’IA
dans votre bagnole, parce que 90 % des accidents ont une origine humaine.
Et puisque la fiscalité-comportementaliste n’est pas
suffisante, c’est directement dans le caddie et cabas qu’on vous interdira de
vous procurer ce qui est déconseillé pour votre santé maladive…
Comme si, sur notre petit bout de caillou voguant dans
l’espace intersidéral composé pour l’essentiel de vide et de rayonnements (plus
tard on dira « d’informations ») pouvait avoir des retombées économiques
et financières « illimitées ».
Mais ils y croient tous, dur comme de l’acier-trempé !
Déjà que l’argent va manquer et que les « marchés
financiers » en brule par trains entiers, c’est dire s’ils planent à côté
de leurs ailes, en pense-je.
Enfin passons : C’est l’époque des « grands
paradoxes », après tout, et ça n’en est jamais qu’un de plus !
Les grandes puissances, États-Unis et Chine,
mobilisent effectivement d’énormes moyens en vue d’être aux avant-postes de l’ère
de « l’IA-triomphante ». Et voilà qu’après la « start-up-nation », « Jupiter »
veut faire de la « Gauloisie-intelligente » un « hub mondial de l’IA » et « attirer
les meilleurs chercheurs étrangers » !
Jupitérien, qu’il avait dit qu’il serait…
Et comme il est bien entendu qu’« il ne faut pas rater le train de l’histoire », les investissements
s’opèrent dans la plus grande précipitation. À telle enseigne que « Mourir-Ma-jolie »,
le secrétaire d’État au Numérique, dit comprendre que « certains préfèrent avancer sur les technologies d’abord et réfléchir
ensuite » !
Tirons donc les premiers, on verra bien ce qu’il va en
retomber. Alors que vu la portée des enjeux, le bon sens (dont manifestement
tout le monde manque) commanderait au contraire que ces questions fassent
l’objet d’un vrai débat public de façon urgents. Ce qui n’est bien évidemment absolument
pas le cas aujourd’hui.
Quel enjeu ? On en dirait que ces technologies
cherchent à imiter notre cerveau et sont censées nous aider…
Une ambition que de concevoir des systèmes modélisés
sur le cerveau humain guide effectivement les recherches menées dans les
laboratoires. IBM (après avoir racheté hors de prix une boîte de cloud) dit
avoir mis au point des puces synaptiques, et Intel aurait élaboré une puce dite
neuromorphique.
À L’analyse il s’agit là seulement d’un vocabulaire parfaitement
impropre à la réalité : « Nous
n’avons, en aucune manière, affaire à une réplique de notre intelligence, même
partielle. Le terme « intelligence artificielle » est un abus de langage
laissant croire qu’elle serait naturellement habilitée à se substituer à la
nôtre en vue d’assurer une meilleure conduite de nos vies ».
Il faudrait remettre en cause cette appellation
anthropomorphe, en pense-je.
D’autant que le terme est une transposition du terme
anglo-saxon, « intelligence », qui se traduit, dans son sens premier,
par « renseignement » en francilien-natif.
Pas une once de cogito.
En vérité, ce qui est nommé « IA » représente un mode
de rationalité technologique cherchant à optimiser toute situation, à
satisfaire nombre d’intérêts privés et, au bout du compte, à faire prévaloir un
utilitarisme généralisé.
Encore qu’il ne s’agisse jamais que d’un produit d’une
intelligence « naturelle & biologique » programmant un logiciel
chargé d’aller plus vite et sans se tromper qu’un cerveau humain…
Néanmoins, reconnaissons que ce qui caractérise l’IA,
c’est que c’est une puissance d’expertise qui ne cesse de se perfectionner. Ses
systèmes auto-apprenants sont capables d’analyser des situations toujours plus
variées et de nous révéler des états de fait dont nous n’avions aucune
conscience dans certains cas. « Ils
le font à des vitesses qui dépassent nos capacités cognitives. Nous vivons un
changement de statut des technologies numériques : elles ne sont plus seulement
destinées à nous permettre d’accéder à l’information mais à nous divulguer la
réalité des phénomènes au-delà des apparences. »
Au fond, ces systèmes « computationnels »
sont dotés d’une singulière et troublante vocation : Énoncer la vérité !
La technique se voit recevoir des prérogatives
inédites : Éclairer de ses lumières et métadonnées le cours de notre existence,
rien de moins.
« Au moment
où ces machines sont appelées à nous dire la vérité, elles se trouvent douées
de parole, à l’image de ces enceintes connectées avec lesquelles nous pouvons
dialoguer ». Cette disposition est déjà à l’œuvre dans les chatbots,
les agents conversationnels, ou dans les assistants numériques personnels
conçus pour nous guider dans notre quotidien.
« Nous
allons de plus en plus être entourés de spectres chargés d’administrer nos vies ».
C’est le « pouvoir-kairos », autrement dit la volonté
de l’industrie du numérique d’être continuellement à nos côtés afin de
chercher, dès que l’occasion s’en présente, d’infléchir nos gestes en énonçant
ce qui est supposé nous convenir.
La bataille économique à venir entre Google, Facebook,
Amazon, Baidu (le Google chinois) et quelques autres ira donner lieu à une
compétition acharnée pour la conquête de cette « présence spectrale »,
chaque acteur s’évertuant à imposer son emprise aux dépens de tous les autres.
« Nous
vivons un tournant injonctif de la technique » en pense quelques-uns. « Il s’agit là d’un phénomène unique dans
l’histoire de l’humanité qui voit des systèmes nous enjoindre d’agir de telle
ou telle manière. » Pour l’heure, si hier ça n’existait pas encore, cela
peut aller d’un niveau modéré et incitatif, à l’œuvre dans une application de
coaching sportif par exemple, à un niveau prescriptif, dans le cas de l’examen
de l’octroi d’un emprunt bancaire…
« Même le
secteur du recrutement commence à avoir recours à des robots conversationnels
pour sélectionner les candidats ! »
Et l’on vous sert la fable d’une complémentarité
homme-machine mais en réalité, plus le niveau de l’expertise automatisée se
perfectionnera, plus l’évaluation humaine sera marginalisée : Il faut s’y
préparer.
Et déjà on atteint déjà des niveaux d’injonction
coercitifs dans le champ du travail, avec des systèmes dictant à des personnes
les gestes à exécuter. « Le libre
exercice de notre faculté de jugement se trouve substitué par des protocoles
destinés à orienter nos actes ». Il s’agit là d’une rupture politique,
juridique et anthropologique sans précédent, jusque dans la conduite d’un
véhicule…
Et le danger, c’est que ces machines « aidantes »
prennent toujours plus de décisions à notre place. Car sous couvert de
facilitation croissante de nos tâches, personne n’a encore vu le renversement
qui s’est produit : Ces technologies d’aide à la décision sont devenues
des instances décisionnelles.
« D’une
certaine manière, nous serons moins appelés à donner des instructions aux
machines qu’à en recevoir d’elles » prédisent quelques-uns…
Des illuminés ?
Une logique pourtant déjà à l’œuvre dans la médecine
dont on ne cesse de louer les avantages qu’elle va tirer de l’intelligence
artificielle. « On se réjouit du
diagnostic automatisé qui offrirait un saut qualitatif, mais on n’évoque jamais
le fait que ces mêmes systèmes sont déjà dotés de la faculté de prescription
entraînant l’achat de mots-clés par les groupes pharmaceutiques. »
En nous truffant de capteurs, ces puissances
financières promettent d’interpréter en permanence nos flux physiologiques dans
le but de nous recommander produits de bien-être et traitements thérapeutiques.
« Cette
promesse de grandes avancées médicales cache le véritable objectif de
l’industrie du numérique qui entend faire main basse sur la santé ! »
Pourquoi personne ne parle pas des techniques
d’interprétation des comportements conçu par « Fesse-Book » ? Parce
que si elles étaient rendues publiques, ces recherches permettraient de mieux
comprendre ce qui est en train de se jouer.
« La
technique, en tant que champ relativement autonome, a aujourd’hui disparu. Seul
demeure le techno-économique. » Par exemple, pour se donner bonne
conscience, Musk qui a donné l’alerte et toute la sphère des ingénieurs enrôlés
par l’industrie numérique, répètent en boucle que « la machine doit être au service de l’homme ». Ils invoquent
continuellement l’éthique : « C’est
l’une des grandes impostures de notre temps. »
Des discours de façade qui permettent de faire bonne
figure à peu de frais, alors que ce sont ces mêmes personnes qui s’emploient à
accroître l’expertise de ces systèmes au mépris des conséquences.
Plus généralement, c’est la concrétisation du « rêve
des saint-simoniens », aspirant à une saine administration des choses.
Effectivement, les responsables politiques entendent
profiter de l’IA pour instaurer une gouvernance automatisée de nombreux
secteurs de la société : « Les
relations entre citoyens et l’administration, les transports, l’éducation, la
justice… Cette logique offre l’avantage de nécessiter moins d’agents humains et
de diminuer les coûts. D’où l’importance de l’open data pour les gouvernements
socio-libéraux qui comptent, grâce à la mise à disposition des données
publiques, laisser au régime privé le soin d’organiser le cours des affaires
collectives, entraînant une marchandisation de la vie publique. »
N’oubliez pas que la « smart city », qu’on vous vante
à chaque occasion, reste emblématique de cette idéologie qui verrait les
systèmes réguler au mieux notre quotidien : « On laisse agir les systèmes au sein d’un monde parfait parce que sans
signataire et régi par des signaux. »
Autrement dit, nous assistons à la liquidation en
cours « du politique », entendu comme l’engagement de choix
incertains après conflit et délibération.
Nous vivons en quelle que sorte une faillite de la
conscience.
« Lorsque
nous voulons faire preuve de vigilance, nous en venons toujours à la question
des données personnelles, qui certes représente un enjeu d’importance, mais qui
reste limitée au primat de la seule protection de la vie privée : Jamais
nous ne nous soucions de la préservation de notre liberté dans le cadre de la
vie en commun et des nouvelles structures asymétriques de pouvoir qu’entraîne
l’usage de l’IA, dans le management ».
Du coup, depuis quelque temps, la question des « biais
» occupe une place centrale. Là encore, il s’agit de points d’importance vu
qu’ils peuvent entraîner de possibles discriminations. « Mais quand bien même nous nous en
débarrasserions, cela n’empêchera pas ce large mouvement d’énonciation
automatisée de la vérité à des fins marchandes et utilitaristes de s’instituer.
Mais quid du libre exercice de notre faculté de jugement, du déni de notre
sensibilité et de notre faillibilité, du respect de la pluralité humaine ? »
Ce sont là des questions d’ordre civilisationnel
auxquelles nous devrions nous confronter sans attendre.
Car nous sommes démunis par la vitesse des
développements qui nous empêchent de nous prononcer en conscience et qui sont
présentés comme inéluctables. « Les évangélistes » de
l’automatisation du monde que sont « Jupiter » et « Sa-trique-Villa-ni »
avec leur plan IA ne jurent finalement que par le dogme de la croissance, au
mépris de toutes les conséquences civilisationnelles.
Pour bien faire, il faudrait que les citoyens sortent
de leur apathie : « Il
faut contredire les techno-discours et faire remonter des témoignages émanant
de la réalité du terrain, là où ces systèmes opèrent, sur les lieux de travail,
dans les écoles, les hôpitaux… »
Il faudrait manifester notre refus à l’égard de
certains dispositifs lorsqu’ils bafouent notre intégrité et notre dignité :
« Contre cet assaut antihumaniste,
faisons prévaloir une équation simple mais intangible : plus on compte nous
dessaisir de notre pouvoir d’agir, plus il convient d’être agissant. »
Naturellement, c’est chose impossible : C’est
tellement plus confortable de se laisser porter par un système, des systèmes) d’intelligence
artificielle qui ne sont programmés que pour notre bonheur (collectif et
individuel) !
À quoi bon : Il faudrait être fou pour lutter
contre les bienfaits du progrès. Mes potes « staliniens » en disaient
autant du temps de l’URSS qui envoyait se soigner dans les Goulags tous ceux
qui étaient contre la vérité-socialiste…
Ce qui m’étonne toujours un peu, c’est que ce n’est
plus la première fois que j’intercepte un dire, une opinion, un récit, un
article, une étude qui va dans le même sens.
La montée des « populismes » ici et
ailleurs, jusqu’à nos portes et à l’autre bout de l’horizon, avec leurs
cortèges de cocus déshérités et spoliés par des incapables-inconscients (l’autre
face de la pièce de monnaie des « autistes-trisomiques »), vous
vantent désormais la fin de la démocratie élective avec cette hypothèse :
Et si on remplaçait les « élus-du-peuple » par des « système-experts »
bourrés d’IA ?
Hein, très drôle la fin d’une civilisation des droits
démocratiques…
Nous y reviendrons probablement.
Par la force des choses.
Aucun commentaire:
Enregistrer un commentaire