Onglets

mercredi 10 février 2021

L'intelligence artificielle et ses algorithmes nous gouvernent-ils déjà ?

La vie en chiffres 

Je suis né dans le 5ème le 28/09/1947, 3 kg, 52 cm. Maman 20 ans et Papa 27. À 6 ans, 1er ou 2ème à l’école du 10 de la 5ème rue, noté entre 15 et 20. Un QI de plus de 80 ? Les trams 3

et 24 m'emmènent du numéro de rues 13 au 33. Au 13 ,4ème étage, 72 marches, Mamy 48 ans, Papou 56. Là un vélo à 4, puis 2 roues, une auto à 2 pédales et 4 roues et 1 volant, un train Hornby 200 à 8 roues tourne sur son circuit de 120 cm. 1954, 7 ans, la guerre. 8 ans, 1m20, 36 kg, puis 11 ans en 6ème. 4 heures de français, 6 heures de maths en M1. Pythagore heureux : 3 plus 4 aux carrés = 25. Nombres 1èrs : 2, 3, 7, 11, 13. Pas 9=3*3. La IIIème république use 8 présidents, 15 législatures, 10 référendums, rappelle 300 000 soldats en Algérie à 0% d’efficacité. 13 mai 1958, 90% d’Alger se révolte. Le 4 /06, 2ème étage, devant 1 million, le général 2 étoiles comprend. 


90% de naïfs dit Papa. 28/09/1958, c’est le projet de Vème république, approuvé à 82,6%, mais entre 37 et 92 % dans les colonies. Vème promulguée le 4/10/58. À Noël, les visages à 90 degrés, une cousine de 16 ans tourne sa langue 4 fois à droite, 3 fois à gauche, comme ça 5 minutes. Chaud 13 cm plus bas, mais espoir déçu, Ajuelos dit 22 cm, mais avec 7,2 de moyenne en classe. Les 1ers prix pour moi au lycée de Camus, lui vite écrasé dans sa Facel-Vega FV3, 355 CV, 4/01/1960, nationale 5, à 6 km de Sens. Plaque de 50 sur 40 cm fixée par 4 boulons au 1er étage du lycée, le 3ème de France pour les admissions à Normale.18/12/1961, blanc paquebot Kairouan, 8589 UMS, 142 m sur 18 m, départ d’Alger soleil 18 degrés, arrivée à Marseille 3 degrés neige fondue. Maman dit c’est les 1000 litres de larmes de l’exode des 1500 passagers qui auraient dû tout faire couler. Tout ça fait grandir, la preuve, me voilà 1 47 09 99 352 057 de France. 1/07/1962, Algérie indépendante. Cuba du 16 au 28/09/1962 , crise nucléaire résolue à 100%.

Patria o muette, discours record de Fidel à L’ONU : 4h29mn. 

Mille et cætera….

Peut-on ainsi tout transcrire en chiffres ?
Sa vie en nombre d’hématies ou de leucocytes ?
L’économie du pays en montant de son PIB ? sachant que tout évènement catastrophique le fait grimper !
L’avenir de la vie sur la planète en un nombre de degrés ?
Une pandémie en des dizaines de mesures anxiogènes et quotidiennes ?


Une promotion culturelle selon le nombre de "likes"? 
Tout serait-il ainsi quantifiable ?

Le danger des experts

L'inquiétant est l’émergence d’experts formés au service d’entreprises et/ou de gouvernements, utilisant des chiffres choisis uniquement pour confirmer leur ambition financière ou politico-stratégique . Ainsi, derrière chaque nouvel indice inventé se cache une intention malicieuse d’embrigadement.


Dans l'environnement boursier, il est connu que des agents algorithmiques prennent des décisions mille fois plus rapidement que les humains ne pourraient le faire. Alors
qu’un humain a besoin d’une bonne seconde

pour reconnaître et réagir à un danger potentiel. 



Caporalisation de la société : une fois la mesure (ou l’indice) choisi et son infaillibilité posée en principe absolu et incontestable, se développe tout un ensemble de devins idolâtres, messagers d’une foi cherchant à imposer le chiffre comme un messianisme souhaitable et inévitable.

L'intelligence artificielle nous gouvernerait-t-elle déjà en "douce" ? 

En des termes plus simples que les articles d'experts qui suivent :

En 2016. Obama s'inquiétait déjà de la puissance et de la possibilité de contrôle d'applications utilisant l'intelligence artificielle (IA ou AI). 

L’administration Obama, en 2016, a rendu public un rapport sur des points essentiels axés sur l’enjeu de la gouvernabilité des algorithmes et systèmes intelligents, à savoir :

  • le potentiel avéré des applications de l’intelligence artificielle pour relever les défis socioéconomiques et optimiser l’efficacité dans la prestation des services gouvernementaux;
  • le rôle clé des agences fédérales dans la promotion de l’AI et de l’innovation;
  • la nécessité d’assurer une réglementation adaptée à l’AI en tirant profit d’expertise techniques et transdisciplinaires;
  • la gestion des risques d’utilisation de systèmes intelligents, notamment en assurant le caractère juste, équitable et transparent des processus décisionnels. 

En des termes plus simples que les articles d'experts qui suivent :

Comment gérer l'univers du numérique ? Peut-il se gouverner ? Doit-on le gouverner ? 

 + De l’internet originel des années 1960 à l’ère du tout-numérique contemporaine, la (non-) gouvernabilité du digital a fait naître des conceptions multiples, parfois radicalement opposées. Et qui ne cessent d’évoluer en même temps que le font les technologies.
Entre liberté et contrôle, l’intervalle est vaste et constitue une zone grise où les courants et interprétations les plus divers peuvent s’exprimer. L’univers du digital ne fait pas exception : comment le gouverner ? Peut-il se gouverner ? Et d’ailleurs, doit-on le gouverner ?

En des termes plus simples que les articles d'experts qui suivent :

Le digital présenterait un caractère ingérable. Serait-ce un espace de chaos, ou ce caractère ingouvernable serait-il une formidable opportunité d’auto-organisation ? 

 + La genèse, ou l’internet « politique »
La question elle-même nécessite une extrême précaution quand il s’agit de la formuler. Benjamin Loveluck, maître de conférences à Télécom ParisTech, interroge ainsi : « Dans la question ‘le digital peut-il se gouverner ?’, il y a d’abord une ambiguïté. Est-ce qu’on demande : ‘le digital peut-il être gouverné ?’ Ou bien : ‘le digital peut-il se gouverner lui-même ?’. L’idée implicite est que le digital présente un caractère ingouvernable. Pour certains, c’est un problème car il s’agirait d’un espace de chaos, ou du moins de non-droit. Mais pour d’autres, ce caractère ingouvernable est une vertu, car le numérique représente en réalité une formidable opportunité d’auto-organisation collective. ».



En des termes plus simples que les articles d'experts :

Une régulation automatisée permettrait de faire l'économie de relations humaines. 

 + Selon le même Benjamin Loveluck, « les plateformes ouvrent la perspective d’un libéralisme technocratique ‑ un monde sans frictions géré et administré de manière liquide, mais à travers l’application de boîtes noires logicielles. C’est le fantasme d’une régulation automatisée qui permettrait de faire l’économie des décisions humaines, et de leurs dimensions conflictuelles, rugueuses."

En des termes plus simples :

Les réseaux d'IA ingouvernés seraient très présents, et les vieux États dépassés. 

+ « Le réseau serait un espace ingouverné et ingouvernable en vertu de sa conception même. L’auto-organisation serait la règle, et les États, ces ‘géants fatigués’, seraient difficilement capables de s’y opposer. »


En des termes plus simples que les articles d'experts :

Les algorithmes répondent à une demande des acteurs. 

 + Lorsque nous évoquons le caractère a-normatif de la gouvernementalité algorithmique, nous ne prétendons pas que les dispositifs techniques de la gouvernementalité algorithmique surgiraient spontanément du monde numérisé, de manière autonome et indépendante de toute intentionnalité humaine, de tout « script » technologique, ou que les applications, dans le domaine de la sécurité, du marketing ou du divertissement (pour ne citer que celles-là) intégrant ces systèmes algorithmiques auto-apprenants ne répondraient pas à une demande des acteurs. 

En des termes plus simples :

Les systèmes algorithmiques auto-apprenants
sont ont l'objet de demandes humaines. 

 + Selon "Gouvernabilité et émancipation" : il nous faut ici expliciter quelque peu cette indépendance par rapport à toute norme antécédente. Lorsque nous évoquons le caractère a-normatif de la gouvernementalité algorithmique, nous ne prétendons pas que les dispositifs techniques de la gouvernementalité algorithmique surgiraient spontanément du monde numérisé, de manière autonome et indépendante de toute intentionnalité humaine, de tout « script » technologique, ou que les applications, dans le domaine de la sécurité, du marketing ou du divertissement (pour ne citer que celles-là) intégrant ces systèmes algorithmiques auto-apprenants ne répondraient pas à une demande. 

En des termes plus simples :

Capital social », culturel » ou humain», les croyances et les désirs se résument à leur capacité à générer de la plus-value. En comptant le nombre de likes et de followers, on alimente des algorithmes vite incontrôlables. 

 + La logique de l’automatisation numérique a pénétré les sphères des affects et des sentiments, les compétences linguistiques, les modes de coopération, les formes de connaissances, aussi bien que les manifestations du désir. Plus radicalement encore, la pensée humaine elle-même 
est censée être devenue une fonction du capital. Les analyses contemporaines de cette nou-
velle condition, menées en termes de « capital social », de « capital culturel » ou de « capital 
humain», nous expliquent que la connaissance, l’intelligence, les croyances et les désirs se 
réduisent à leur valeur instrumentale et à leur capacité à générer de la plus-value.


Dans ce 
régime automatisé des affects et des savoirs, les capacités se mesurent et se quantifient au 
sein d’un champ défini en termes d’argent ou d’information. En collectant des données et 
en quantifiant des comportements, des attitudes et des croyances, l’univers néolibéral des produits dérivés de la finance et des big data fournit un mode de calcul destiné à juger des actions humaines, ainsi qu’un mécanisme destiné à inciter et à diriger ces actions.
On peut affirmer sans difficulté que, de nos jours, le cerveau social consiste en une écologie machinique d’agents algorithmiques. Dans ce régime automatisé des affects et des savoirs, les capacités se mesurent et se quantifient au sein d’un champ défini en termes d’argent ou d’information. En collectant des données et en quantifiant des comportements, des attitudes et des croyances, des "like", des nombres de vues, de followers, l’univers néolibéral des produits dérivés de la finance et des big data fournit un mode de calcul destiné à mettre en algorithmes (volontairement ?) incontrôlables des actions humaines, ainsi qu’un mécanisme destiné à inciter et à diriger ces actions.


Cette forme algorithmique de gouvernabilité donne également lieu à une financiarisation diffuse des potentialités, à travers laquelle la vie esthétique est constamment quantifiée et traduite en scénarios imposés. 

Pour conclure,  les chiffres étaient l'outil pour la prise de décision humaine, aujourd'hui ils décident eux même ! 


Vive l'innumérable

- Une première idée pourrait être l’amour, l’Amour... Pourtant, en effeuillant la marguerite, on gradue depuis le niveau « un peu » jusqu’au maximum « passionnément »

. Quant à nos experts en chiffre (d’affaire), ils ont vite eu l’idée de créer des sites dits de rencontre, où le principe est un algorithme croisant des listes de chiffres confiés par les futurs bienheureux couples pour chacune de leurs qualité/défaut.
 Avec bonheur, les regards complices et le coup de foudre semblent subsister, juste soumis à la flèche de Cupidon.
- D'autres cultures, évoquant souvent leur religion, perçoivent le nombre de façon très négative.
« Une ancienne tradition kabyle veut que l’on ne compte jamais la générosité de Dieu. On ne compte pas les hommes présents à une assemblée. On ne compte pas les oeufs de la couvée. On ne compte pas les grains que l’on abrite dans la grande jarre de terre. Dans certains replis de la montagne , on interdit tout à fait de prononcer des nombres. (…) Les roumis ne comprennent pas que compter, c’est limiter le futur, c’est cracher au visage de Dieu. » (Alice Zeniter, l'art de perdre). 
- Surtout, et heureusement, c’est tout le grand domaine de l’Art qui échappe à la numérisation.


+ La musique bien sûr, quel fou chiffrerait la beauté d’une polyphonie du Moyen-âge ou d’une Saison de Vivaldi 


ou encore du final de l’hymne à la joie « Alle Menschen werden Brüder » ? 
+ Face à Van Gogh et sa « Nuit étoilée », 

devant « Les cygnes reflétant des éléphants », il s’agit d’exaltation évidemment inchiffrable. 


+ Affaire de goût, c'est le mien, le théâtre est peut-être, sauf exception, moins propice à la passion. 
+ Toute la littérature : la lecture provoque en nous des sentiments si variés, tels qu’aucune échelle ne saurait heureusement couvrir. À la dernière page de « Madame Bovary », ou à celle de « L’étranger » ou encore aux paroles finales de « Crime et châtiment », 


c’est un incommensurable émoi qui nous envahit. 
+ Bien que sa musique doive parfois compter ses pieds, la Poésie est sans doute l’Art le plus lointain du chiffre. C’est une vibration émotionnelle si pure que nous offre « Ô toi que j’eusse aimée, ô toi qui le savais ! … »

« La chair est triste, hélas ! et j’ai lu tous les livres. » ou encore « Lorsque je descendais des Fleuves impassibles, je ne me sentis plus guidés par les haleurs »
 

et ces vers d’Andrée Chedid

«Aux ténèbres j’ai dressé des clartés, planté des flambeaux à la lisière des nuits, des clartés qui persistent, des flambeaux qui se glissent entre ombres et barbaries.»