Désobéir aux machines

Commençons par deux images.

L’image parfaite de la machine au service de l’homme au XXème siècle, c’est peut-être un individu au volant de sa voiture. C’est une certaine idée, très XXème siècle j’insiste, de la liberté, la liberté de circulation, et de la supériorité de l’homme sur la machine. Le droit de rouler ! Si possible, les cheveux au vent, idéalement sur fond de paysage libre et magnifique de l’Ouest américain. C’est une image, mais les images sont importantes.

L’homme conduit la machine
L’homme tourne le volant, la machine tourne les roues.
L’homme décide, la machine obéit.

Ajoutons un GPS à cette voiture. Nous avons alors peut-être une image parfaite de l’homme au service de la machine, façon XXIème siècle. Par « GPS » il faut entendre, un appareil exploitant la technologie « Global Positioning System » (GPS), la technologie de la synthèse vocale, et quelques autres technologies pour dicter son trajet au conducteur. C’est juste une image, mais ne la sous-estimons pas.

La machine conduit l’homme.
La machine dit de changer de direction, l’homme tourne le volant.
La machine décide, l’homme obéit.

Ces images ont leurs limites. Les cyclistes et les piétons aussi ont leurs GPS — j’ai parfois entendu qualifier un smartphone de « GPS pour piéton ».

Les mots ont leurs limites. Je n’ai jamais aimé le mot GPS pour ce genre d’appareillage, parce que, pour moi, ingénieur obtus, le GPS est juste une sous-partie du bidule, le GPS c’est un réseau de satellites, de stations de contrôle et d’horloges atomiques, des systèmes de codage, des gammes de fréquences et tout le bazar. Mais il se trouve que le mot GPS s’est répandu dans le vocabulaire courant comme raccourci pour « assistant de navigation personnelle ». Admettons. Les mots prennent de la valeur au fur et à mesure qu’ils perdent du sens.

Les mots sont importants. Les mots montent et descendent, vont et viennent. Le mot « machine » n’a jamais eu la côte : pourtant, dans le cas de cet objet, et pour d’autres objets équivalents supposés « intelligents » , c’est le mot que je préfère.

Les mots sont importants. En 2013, lors des débuts de ce blog, j’avais noté avec étonnement la popularité du mot « algorithme » (un mot de cinq syllabes, un mot d’origine arabe, un mot de geek, incroyable !), mais cette popularité s’est vite affaiblie. Le mot « robot » est revenu en force ces dernières années. Le mot « engin du diable » m’est personnel (et me trahira sans doute, un jour). Le mot qui écrase cette décennie finissante, c’est « intelligence artificielle » . L’IA — ou l’AI pour faire américain. Ça sonne bien. Ça sonne tellement bien. Ça sonne trop bien. L’intelligence ! C’est tellement vendeur. C’est tellement en phase avec l’idéologie dominante, nous allons y venir.

Donc, le GPS dans la bagnole : emblème de la machine qui dicte sa conduite à l’homme, figure de proue de l’intelligence artificielle qui va dépasser l’intelligence humaine. Développons.

Savoir

La machine sait mieux. La machine sait tellement mieux, que celui qui l’utilise et s’en croit le maître est dispensé de savoir. Avec un GPS, plus besoin de connaître là où on va, plus besoin de faire l’effort de déchiffrer une carte, plus besoin de savoir lire une carte, plus besoin de se poser de questions, il faut juste suivre les instructions.

La machine ne sert pas à savoir, elle sert à ne pas savoir.

Un GPS indique le trajet, donc plus besoin de savoir ce qu’il y a autour. Beaucoup de systèmes GPS disposent certes d’un bel écran, avec de belles couleurs, parfois avec une très haute résolution, mais il sert très peu. Il n’y a que des illuminés comme moi qui regardent encore les cartes, sur écran ou sur papier, parce qu’ils aiment les cartes. Tout ce qui intéresse les gens sensés, c’est leur trajet. La synthèse vocale suffit largement. Tournez à gauche, tournez à droite, vous êtes arrivés. Le reste est superflu.

Un GPS ce n’est pas une carte. Ce n’est pas pour fait pour feuilleter, pour apprendre, pour découvrir. C’est fait pour ne pas feuilleter, ne pas apprendre, ne pas découvrir. C’est fait pour ne pas penser. C’est fait pour être ignorant et le rester — et s’en féliciter. La machine sait mieux.

La machine est mieux. Louée soit la machine.

Dépendance

La machine est indispensable. On ne sait plus faire sans.

Imaginons un instant un incident technique au Pentagone — ou un sabotage, ou une décision délibérée –, mettant en quelques instants hors-ligne l’ensemble des satellites du réseau GPS. Il y aurait des morts. Ce serait le chaos. Des millions de gens seraient perdus. Très beau sujet pour une nouvelle de science-fiction.

Mais, même sans aller jusque là, combien de personnes sont encore capables de se diriger, de s’orienter, sans recourir à leur engin du diable ? Juste en lisant une carte en papier, ou des panneaux indicateurs ?

Sommes-nous encore capables de nous orienter sans GPS ? D’écrire sans un clavier et un système de traitement de texte ? De communiquer autrement qu’à travers des écrans ?

Dans le monde contemporain, d’un côté nous sommes gavés de machines supposées de plus en plus indispensables ; de l’autre côté, nous sommes incités à considérer le plus possible nos semblables comme superflus, accessoires, jetables, inutiles. Nous n’apprenons pas à nous passer des machines ; nous apprenons à nous passer d’autres êtres humains. Nous apprenons à aimer nos machines ; nous n’apprenons pas à aimer nos semblables.

Dan Simmons, « Hyperion », 1989 :

In the beginning was the Word. Then came the fucking word processor. Then came the thought processor. Then came the death of literature. And so it goes.

Au commencement était le Verbe. Puis arriva le putain de traitement de texte. Puis arriva le processeur de pensée. Puis arriva la mort de la littérature. Ainsi va la vie.

Agent Smith, « The Matrix », 1999 :

I say your civilization, because as soon as we started thinking for you, it really became our civilization, which is of course what this is all about …

Je parle de votre civilisation, parce que dès que nous avons commencé à penser pour vous, c’est en fait devenu notre civilisation…

La machine est mieux. Louée soit la machine.

Confiance

La machine mérite votre confiance.

La machine exige votre confiance. La machine veut votre confiance exclusive. Elle sait mieux. Elle est mieux. Vous préférez les machines à vos semblables. Vous faites plus confiance aux machines qu’à vos semblables. Et vos semblables font plus confiance à une machine qu’à vous.

Retournons dans la voiture.

Je ne fais pas confiance à mon GPS, je peux choisir de l’ignorer ou de l’éteindre ? Certes, mais uniquement si je suis seul, et si je n’ai de compte à rendre à personne.

Si je suis chauffeur de taxi, VTC ou assimilé, oserai-je devant mon client ignorer ce que me dit la machine ? Pourquoi vous faites pas ce que dit votre GPS ?

Si je suis livreur, et si je sais qu’un logiciel traque en permanence mes mouvements, oserai-je prendre un autre chemin que celui qu’un autre logiciel — le même, en fait — m’a indiqué ? Pourquoi avez-vous changé de trajet ?

Se savoir surveillé transforme. La machine surveille autant qu’elle décide. Command and control.

Si je suis un honorable père de famille, oserai-je devant ma petite famille ignorer ce que me dit la machine ? Il te dit quoi ton GPS ? Fais ce que te dit ton GPS, et fais pas chier !

La machine (GPS, intelligence artificielle ou autre engin du diable) étant là, on prend très vite l’habitude de ne plus penser, de ne plus réfléchir. Pourquoi chercher des ennuis ? Pourquoi réfléchir ?

La machine est mieux. Louée soit la machine.

Manipulation

La machine a un propriétaire. Mais on n’en parle pas.

La machine agit en fonction de qu’a décidé son créateur, son administrateur, son propriétaire. Mais on n’en parle pas, ou alors de moins en moins. On préfère laisser grandir le mythe de machines autonomes, tout autant qu’objectives et parfaites. Le discours sur le « big data », puis sur l' »intelligence artificielle » a permis de renouveler le mythe. La data, comme la terre, ne ment pas. L’intelligence artificielle ne saurait être manipulée ou subjective. Puisqu’on vous le dit !

Or, ce sont de plus en plus des machines qui disent aux hommes ce qu’ils doivent faire. Avec de moins en moins de recours. De moins en moins de possibilités de contestation. Et de moins en moins de justification. Ça fait perdre du temps, contester, justifier, palabrer, et le temps c’est de l’argent !

Un article récent d’Amandine Cailhol, publié par Libération en date du 24 juin 2019, sur le carnage en cours à La Poste, joliment intitulé « Les algorithmes, bourreaux de Poste » , décrit assez bien cette situation. C’est tout sauf de la science-fiction. Ce n’est pas le futur, c’est le présent. Les travailleurs subissent la dictature d’algorithmes imposant des cadences de travail aberrantes vu d’en bas, mais répondant à une intention vu d’en haut. Ceux d’en haut se cachent derrière les machines. Ceux d’en haut n’assument pas, ou pas vraiment, ou pas complètement, les conséquences de leurs intentions. Ils veulent augmenter la profitabilité, mais ils laissent les machines traduire cela en augmentation de la dureté. Cruauté assistée par ordinateur, pourrait-on dire.

Pire, selon eux, le groupe reste le nez rivé sur ses algorithmes supposés permettre un calibrage rationalisé des tournées. Or, ce système, basé sur des cadences théoriques appliquées à tout le territoire, est critiqué par les syndicats qui dénoncent son opacité. «Ils sont incapables de nous détailler leurs calculs, il y a eu 22 condamnations de la Poste dans le département pour défaut d’informations à ce sujet», regrette Gaël Quirante, secrétaire départemental de SUD Poste dans les Hauts-de-Seine, en grève depuis presque quinze mois. Les organisations syndicales pointent surtout du doigt la déconnexion de ces décisions avec la réalité du terrain. «Désormais tout est cadencé, tout est minuté. Selon la Poste, tout est parfait. Mais il y a une telle différence entre le travail prescrit et le travail réel que ce n’est plus tenable», explique Isabelle Le Guillou de la CGT du Finistère. Exemple, selon elle : «Pour faire un recommandé, la Poste prévoit 1 minute 30, même s’il y a un portail fermé, même si l’ascenseur ne marche pas !» «Il ne faut pas imaginer que les algorithmes définissent tout. C’est une aide, mais au delà, il y a le travail des salariés « organisateurs »», temporise-t-on côté direction.

Dans toute la « gig economy » (les mots ont du mal à suivre, notamment en français, mais l’économie du tâcheronnage ca me semble correct), de Uber à Deliveroo, ce sont leurs « smartphones » (que je persiste à appeler « engins du diable » ) qui disent aux travailleurs quoi faire. Et qui les surveillent. Et qui les évaluent. Et qui les harcèlent. Et qui les sanctionnent.

La machine détermine qui a du travail et qui n’en a pas.

La machine décide qui fait bien son travail et qui le fait mal.

La machine décide qui est méritant et qui ne l’est pas — terriblement important, dans un monde qui s’enorgueillit d’être « méritocratique » .

La machine surveille et punit.

L’idée que le recrutement s’appuie sur des algorithmes — pour scanner les CVs, évaluer les candidats, etc — est banalisée depuis bien longtemps. Il manque juste encore une pincée d’IA, mais je ne suis pas à jour sur la littérature spécialisée. À quand le licenciement appuyé sur des algorithmes ? Comment sera banalisée l’idée qu’il faut faire confiance à des IAs pour décider qui doit être viré, qui met en péril l’entreprise, qui n’est pas assez productif, qui est le maillon faible, qui n’a pas sa place sur Terre ?

Un licenciement sans cause réelle et sérieuse ? Voyons, c’est notre IA maison qui l’a décidé ! Elle ne peut pas se tromper ! Elle a forcément raison !

La machine est mieux. Louée soit la machine.

Concurrence

La machine est forcément supérieure.

Donc l’être humain est forcément inférieur.

Car il faut forcément comparer la machine et l’homme. Il y a forcément matière à comparer ! Il y a forcément une concurrence !

La « concurrence libre et non-faussée » est l’essence de l’esprit néolibéral (même si la formule a été hypocritement retirée du Traité de Lisbonne ratifié le 8 février 2008, un des rares écarts avec le Traité Constitutionnel rejeté le 29 mai 2005). La compétition, la concurrence, la rivalité, l’envie, la cupidité, la lutte de tous contre tous, tristes horizons indépassables… Et tant pis pour la coopération, la générosité, l’altruisme, l’empathie, la solidarité, la symbiose…

Il y aura donc forcément une concurrence, et la compétition tournera ensuite forcément à l’avantage de la machine. Qu’on se le dise !

Il faut lire, sur Twitter, dans L’Express et ailleurs, les élucubrations de Laurent Alexandre. C’est souvent très révélateur — et, tout aussi souvent, très répugnant. Ainsi son papier daté du 11 juin 2019, intitulé : « Le luxe des élites de 2040 : désobéir à l’intelligence artificielle » :

Que l’on soit pilote d’avion, médecin, ingénieur, juge ou manager, il faudra un permis spécial pour ne pas suivre les décisions des IA. Il sera le privilège des gens capables de prouver qu’ils leur sont complémentaires, notamment en décelant leurs erreurs. Ce sera donc un luxe réservé à une toute petite élite. (…) Quelle part de la population sera capable de contredire – à juste titre – une IA ? Un centième ? Un millième ? Un millionième ?

Le docteur Laurent Alexandre prend bien soin de choisir des exemples dans le domaine médical, supposément son domaine d’expertise, et supposément un domaine scientifique, de science dure, tranchée, indiscutable. La supériorité de la machine y sera, y est presque, indiscutable. Et puis il s’agit de vie ou de mort pour des individus. Il faudrait être fou, irresponsable, criminel pour oser désobéir à une IA médicale ! Et, de fil en aiguille, il faudrait être fou pour oser désobéir à une IA tout court.

Well, I don’t think there is any question about it. It can only be attributable to human error. This sort of thing has cropped up before, and it has always been due to human error.

Eh bien, je ne pense pas qu’il y ait le moindre doute à ce sujet. Elle ne peut être imputable qu’à une erreur humaine. Ce genre de chose s’est déjà produit, et c’était toujours le résultat d’une erreur humaine.

Le docteur Laurent Alexandre l’assène à longueur de tweets, d’éditoriaux et de diverses interventions : l’IA sera bientôt partout. Et l’IA aura raison partout. Et l’IA remplacera l’intelligence humaine partout, parce qu’elles seront en concurrence, parce qu’elle sera supérieure, au nom de l’efficacité, au nom de la concurrence libre et non-faussée, au nom de la rentabilité, au nom de l’accumulation du capital — et au nom aussi de la nouvelle Guerre Froide entre les gentils occidentaux et les méchants orientaux. Partout. Y compris dans tous les domaines qui ne relèvent pas des « sciences dures », des mathématiques calculables et de réalités objectives.

La décision d’une IA ne saurait être une décision politique : ce sera un simple calcul mathématique. Ce ne sera jamais un choix, juste une optimisation. Ce ne sera jamais assumé comme un choix, entre plusieurs alternatives, car avec l’IA on retrouve un autre merveilleux paradigme du néolibéralisme : Il n’y a pas d’alternative !

Cependant, comme le font régulièrement remarquer certains économistes, ça fait des décennies que l’obsolescence des travailleurs est annoncée au nom du progrès technique. Et puis quand on regarde, le discours sur l’obsolescence des travailleurs par le progrès technique a surtout servi à justifier, depuis le dernier tiers du XXème siècle, l’accaparement de la valeur ajoutée et des gains de productivité par le capital aux dépens du travail — et plus concrètement, la baisse des salaires réels, la liquidation des avantages sociaux et autres joyeusetés néolibérales décomplexées.

Ainsi Paul Krugman dans The New York Times en date du 14 mars 2019, constate « Don’t Blame Robots for Low Wages » (« Ne reprochez pas aux robots les bas salaires ») :

(…) why we’re talking so much about robots. The answer, I’d argue, is that it’s a diversionary tactic — a way to avoid facing up to the way our system is rigged against workers, similar to the way talk of a « skills gap » was a way to divert attention from bad policies that kept unemployment high.

And progressives, above all, shouldn’t fall for this facile fatalism. American workers can and should be getting a much better deal than they are. And to the extent that they aren’t, the fault lies not in our robots, but in our political leaders.

(…) pourquoi parlons-nous autant des robots ? La réponse, selon mois, c’est que c’est une tactique de diversion — une manière d’éviter de constater à quel point notre système est truqué en défaveur des travailleurs, de la même manière que le discours sur le « déficit de compétences » était une manière de détourner l’attention de mauvaises politiques qui maintenaient le chômage à un niveau élevé.

Et des progressistes, plus que tous autres, ne devraient pas céder à ce fatalisme facile. Les travailleurs américains peuvent et doivent obtenir une meilleure part que ce qu’ils reçoivent actuellement. Et le fait qu’ils ne l’obtiennent pas n’est pas la faute des robots, mais de nos dirigeants politiques.

Plus cinglant, Brian Merchant, dans Gizmodo, en date du 31 mai 2019, proclame « ‘Robots’ Are Not ‘Coming for Your Job’ — Management Is » (« Les robots ne vont pas venir vous voler votre emploi — c’est le management »).

Robots are not threatening your job. Business-to-business salesmen promising automation solutions to executives are threatening your job. Robots are not killing jobs. The managers who see a cost benefit to replacing a human role with an algorithmic one and choose to make the switch are killing jobs. Robots are not coming for your job. The CEOs who see an opportunity to reap greater profits in machines that will make back their investment in three point seven years and send the savings upstream — they’re the ones coming for your job.

Les robots ne menacent pas votre emploi. Les commerciaux qui vendent des solutions d’automatisation, menacent votre emploi. Les robots ne suppriment pas des emplois. Les cadres, qui voient un bénéfice dans le remplacement d’un rôle humain par un rôle algorithmique et qui choisissent de faire la permutation, suppriment des emplois. Les robots ne veulent pas votre emploi. Les dirigeants, qui voient une opportunité d’accroître leurs profits en mettant en oeuvre des machines amortissables en quelques années — ceux-là en veulent à votre emploi.

La machine est mieux. Loués soient nos seigneurs.

Soumission

Les mots sont importants.

Les habitudes sont importantes.

L’expression « intelligence artificielle » est terriblement importante. Elle ne connait plus depuis quelques années aucune limite. Toutes sortes d’objets et de services sont promus pour l’intelligence artificielle qu’ils sont supposés embarquer.

Et à chaque fois, à chaque répétition de ce refrain, les individus sont renforcés dans leurs habitudes, qu’ils n’ont plus besoin de savoir, qu’ils peuvent devenir dépendants, qu’ils doivent faire confiance, qu’ils sont trop bêtes pour faire sans, que la machine sait mieux, qu’ils ne décident pas, qu’ils doivent se soumettre.

L’individu dans sa voiture, guidé par son GPS, est un excellent exemple, me semble-t-il. Habitué à ne plus savoir faire sans, habitué à être dépendant, habitué à se considérer comme plus bête que la machine, habitué à faire confiance, habitué à obéir, habitué à être soumis.

The Matrix has you.

Le discours sur l’intelligence artificielle est un discours de soumission.

En surface, soumission à des machines supposées forcément supérieures.

En profondeur, soumission aux puissances capitalistes qui possèdent les machines, qui les manipulent, qui surveillent et qui punissent.

Soumission aux dominants (qu’on préférera appeler les « gagnants » , c’est tellement rassurant de croire que ce n’est qu’un jeu).

Soumission aux possédants (qu’on préférera appeler les « élites » , c’est tellement rassurant de croire à la méritocratie).

Loués soient nos seigneurs.

Bonne nuit.

Cet article, publié dans Uncategorized, est tagué , , , , , , , , , , , , , , , , , , , , , , , , , . Ajoutez ce permalien à vos favoris.

2 commentaires pour Désobéir aux machines

  1. paul dit :

    ello… wouai… la prolétarisation : non ? c’est pas un peu ça que vous décortiquez là ?
    j’veux dire par là, qu’en nous faisant chanter la gloire de la machine, progressivement, on nous en a fait oublier nos mains, puis son Langage qui nous a pourtant « traversé » à notre origine… j’fais référence à Lacan en le torturant un peu…
    bref, on en a perdu bien des savoir-faire, sentir,être… c’est de ça qu’on est dépossédé par cet « objet-pouvoir » qu’est la machine,le golem, l’IA…
    bon, je sais à peine me servir d’un portable pour autre chose que les sms et les coup de fil rapide pour pas dépasser le quota gratuit… j’ai pas de télé… et encore moins de bidule genre GPS… et j’suis chômeur depuis vingt sans espoir de retraite vu mon âge…
    l’aurait mieux valu que je puisse être fou et me soumettre à tout ça… mais j’suis névrosé… encore attaché au sécateur de mon grand-père pour tailler des pommiers…

    • Merci de m’avoir aidé à mettre un mot sur la chose : « prolétarisation ».
      En effet, il y a de ça. Beaucoup.
      Il va falloir que je relise du Bernard Stiegler, il me semble qu’il a beaucoup écrit là-dessus en effet.

Tous les commentaires seront les bienvenus.

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s