Pistes de lecture – Prendre conscience des monstres capitalistes géants du numérique

L’air du temps en cette fin d’année 2017 est peut-être, peut-être, au réveil face aux « géants du numérique ».

Les « géants du numérique » : les GAFAMs, et quelques autres, mais surtout les GAFAMs : Google Apple Facebook Amazon Microsoft. Les cinq plus grosses capitalisations boursières, au total près de trois mille milliards de dollars — à cinq, environ le double de ce que valent ensemble les quarante sociétés du CAC40. Des monstres. Est-il vraiment nécessaire de donner des chiffres ?

J’ai souvent parlé d’eux sur ce blog. Beaucoup de gens parlent d’eux. Mais, au fond, la plupart des gens ne pensent même plus à eux. Ils font partie de la substance de notre petit monde, tout le temps, partout.

On s’est habitués, en fait. On s’est habitués à ces géants capitalistes, tout naturellement capitalistes et évidemment sans scrupules.

On s’est habitués à leurs services gratuits ; on s’est habitués à être devenus leurs produits : « si c’est gratuit, c’est que vous êtes le produit ». On s’est habitués à être dépendants.

On s’est habitués à leur irresponsabilité. Ils ne doivent des comptes qu’à leurs actionnaires, ils ne rendent des comptes qu’aux représentants des gros actionnaires. Ils ne reconnaissent guère que l’autorité de quelques tribunaux près de leurs sièges sociaux, dans l’État de Californie ou l’État de Washington. Et bien sûr, ils sont associés proches du gouvernement fédéral américain, du Pentagone et de Wall Street. Quand à l’Union Européenne, c’est une de leurs colonies, malgré quelques gesticulations à Bruxelles et grâce à des complices un peu partout.

On s’est habitués à n’être rien, évidemment rien, face à eux. On s’est habitués à l’idée que rien, ni personne, ou presque, ne peut avoir prise sur ces monstres, ne peut entraver leur marche inéluctable vers la domination du monde.

Et puis, peut-être que non, finalement. Peut-être qu’une prise de conscience est en cours. Peut-être même que l’heure de la mise au pas de ces monstres approche.

Voici quelques pistes de lecture, quelques indices en ce sens, avec un accent plus particulier sur le plus petit et peut-être le plus nuisible de la bande : Facebook.

Une remarque pratique : Ça faisait longtemps que je n’avais pas fait un billet de type « pistes de lecture » . Il se trouve que la plupart de mes sources sont en anglais. Dans la mesure du possible, à partir de dorénavant, je vais essayer de traduire en français les extraits que je propose. Ces traductions — ou versions — n’engagent que moi, et par souci de lisibilité, elles contiendront parfois certains raccourcis, approximations ou contextualisations. J’espère que d’éventuels lecteurs ne s’en formaliseront pas.

Have you ever stood and stared at it? Marveled at its beauty, its genius? Billions of people just living out their lives… oblivious.

Vous êtes-vous jamais levé pour contempler tout cela ? Vous êtes-vous émerveillé de sa beauté, de son génie ? Des milliards de personnes vivant juste leurs vies… inconscientes.

* * *

Evgeny Morozov avait ouvert le bal dans un article publié par The Guardian le 2 septembre 2017, traduit en français par Le Monde Diplomatique le 7 septembre, sous le titre « Retour de bâton pour la Silicon Valley » :

Comme les choses ont changé. Un secteur autrefois salué pour sa contribution au printemps arabe se retrouve désormais accusé de complicité avec l’État islamique. Un secteur qui se faisait fort de sa diversité et sa tolérance apparaît régulièrement dans les journaux pour des cas de harcèlement sexuel ou pour les opinions controversées de ses salariés sur des sujets comme l’égalité hommes-femmes. Un secteur qui s’est fait une réputation en nous offrant des objets et services gratuits est jugé responsable de la hausse des prix dans d’autres domaines, en particulier le logement.

La Silicon Valley fait aujourd’hui l’objet d’une vive opposition. En ce moment, on ne peut pas ouvrir un journal, pas même ces torchons communistes que sont The Financial Times et The Economist, sans tomber sur des appels enflammés à endiguer le pouvoir des « Big Tech », en donnant aux plates-formes numériques le statut d’entreprises d’utilité publique, voire à les nationaliser.

  • Il faut toujours lire le Biélorusse Evgeny Morozov, né en 1984. C’est une des figures incontournables de cette triste décennie. De préférence en anglais, même s’il est maintenant souvent traduit.
  • Je note cependant que, personnellement, je n’aurais pas traduit « Fortunately, there’s a finite supply of bullshit on this planet. » par « Heureusement la bêtise humaine a ses limites. » … et je crains qu’il n’ait hélas tort sur ce point. The sky is the limit.

Continuons par un article tout frais d’Edward Luce, dans « The Financial Times », en date du 11 octobre 2017, intitulé « The liberal siren song on Silicon Valley » — « Le chant des sirènes démocrates à propos de la Silicon Valley » :

In the space of a few months, the likes of Mark Zuckerberg, Facebook’s founder, and Eric Schmidt, chief executive of Alphabet, the owner of Google, have gone from heroes to pariahs. The Democratic party’s new big idea is to break up the Silicon Valley groups — or to impose far tougher regulations.

(…) there are strong economic grounds to step up regulation of Big Tech. Likewise, there is mounting evidence to show that the Silicon Valley groups are abusing their monopoly leverage. (…)

Elizabeth Warren, the 2020 presidential hopeful, has called on Democrats to emulate the trustbusting Teddy Roosevelt. But Facebook is not Standard Oil. Nor is social media a Wall Street bank.

En l’espace de quelques mois, des figures telles que Mark Zuckerberg, le fondateur de Facebook, Eric Schmidt, le directeur général d’Alphabet, la maison-mère de Google, sont passés de héros à parias. La nouvelle grande idée du Parti Démocrate est de démanteler les grands groupes de la Silicon Valley, ou d’imposer des réglementations beaucoup plus dures qu’actuellement. (…)

Il y a de forts arguments économiques en faveur d’une durcissement de l’encadrement réglementaires des grands groupes de la Silicon Valley. De même, il y a de plus en plus de preuves que ces groupes abusent de leur situation de monopoles. (…)

Elizabeth Warren, possible candidate à la présidentielle en 2020, a appelé les démocrates à suivre les traces de Teddy Roosevelt, qui avait démantelé un grand nombre de cartels. Mais Facebook n’est pas la Standard Oil. Un réseau social n’est pas une banque de Wall Street.

  • Cet été, The Economist a proposé un scénario possible pour la présidentielle de 2020, dans une série de « What Ifs ». Version courte : Trump est réélu par défaut et à la surprise générale. Son opposition s’est divisée et déchirée en deux camps irréconciliables : les démocrates « gauchistes » menés par Elizabeth Warren ; et les démocrates « modernes » menés par Mark Zuckerberg. Oui, Mark Zuckerberg. Yes he can! En 2016, le camp « gauchiste » de Bernie Sanders avait été contraint de se rallier au camp « moderne » d’Hillary Clinton… en pure perte. En 2020, que se passera-t-il ?

Sam Biddle dans The Intercept, en date du 3 octobre 2017, explique fort bien l’inutilité des appels à l’auto-régulation qu’on entend partout au sujet des « fake news », notamment depuis l’élection de Trump : « Stop Expecting Facebook and Google to Curb Misinformation — It’s Great for Business » — « Arrêtez de croire que Facebook et Google vont lutter contre la désinformation : C’est super pour les affaires ! » :

The problem is thoroughly identified: Facebook, Google, and, to a lesser extent, Twitter have the quality control of a yard sale and the scale of 100,000 Walmarts. But despite all our railing and shaming, these companies have a major disincentive to reform: money. (…)

It would seem ridiculous to ask Fox News why it doesn’t reform its portrayal of black children as animals and criminals, of Muslims as savages and bombers, and so forth. It’s obvious why they wouldn’t, because these portrayals are their stock-in-trade, and what company would put itself out of business? We find ourselves at a similar impasse with Facebook and friends. (…)

Maybe the governments and regulatory bodies of the world will decide that no company, least of all Facebook, should be able to contact two billion people at once if it so chose, and break it into smaller, tamer pieces. Until then, at the very least, stop expecting these companies to move anywhere beyond the shortest distance achievable with dragged feet. There’s simply too much money to be made right now in the muck.

Le problème est clairement identifié : Facebook, Google, et, dans une moindre mesure, Twitter, ont le niveau de contrôle de qualité d’une brocante de quartier, pour le taille de 500.000 hypermarchés. Mais quelles que soient les railleries et les humiliations qu’on leur infligera, ces entreprises ont une raison essentielle pour ne pas changer : l’argent. (…)

Il semblerait ridicule de demander à Fox News d’arrêter de présenter les enfants noirs comme des animaux et des criminels, les musulmans comme des sauvages et des poseurs de bombes, et ainsi de suite. Il est évident qu’ils ne le feront pas, parce que ces caricatures sont leur fonds de commerce, et quelle entreprise va renoncer à son fonds de commerce ? Nous sommes dans la même impasse avec Facebook et ses potes. (…)

Peut-être que les gouvernements et les régulateurs du monde vont décider qu’aucune entreprise, et certainement pas Facebook, n’a le droit de s’adresser de son propre chef à deux milliards d’individus simultanément, et vont découper l’entreprise en morceaux plus petits et plus faciles à discipliner. En attendant, n’attendez surtout pas que ces entreprises ne fassent quoi que ce soit sans lourdement traîner les pieds. Elles ont juste beaucoup trop de pognon à se faire, ici et maintenant, dans la boue.

Paul Lewis, dans The Guardian en date du 6 octobre 2017, sous le titre « ‘Our minds can be hijacked’: the tech insiders who fear a smartphone dystopia » — « Nos esprits peuvent être détournés : les professionnels de la technologie qui redoutent une dystopie façonnée par les smartphones », offre un prodigieux tour d’horizon de l’état de l’art de la manipulation assistée par ordinateur :

One morning in April this year, designers, programmers and tech entrepreneurs from across the world gathered at a conference centre on the shore of the San Francisco Bay. They had each paid up to $1,700 to learn how to manipulate people into habitual use of their products, on a course curated by conference organiser Nir Eyal.

Eyal, 39, the author of Hooked: How to Build Habit-Forming Products, has spent several years consulting for the tech industry, teaching techniques he developed by closely studying how the Silicon Valley giants operate.

« The technologies we use have turned into compulsions, if not full-fledged addictions, » Eyal writes. « It’s the impulse to check a message notification. It’s the pull to visit YouTube, Facebook, or Twitter for just a few minutes, only to find yourself still tapping and scrolling an hour later. » None of this is an accident, he writes. It is all « just as their designers intended ».

He explains the subtle psychological tricks that can be used to make people develop habits, such as varying the rewards people receive to create « a craving », or exploiting negative emotions that can act as « triggers ». « Feelings of boredom, loneliness, frustration, confusion and indecisiveness often instigate a slight pain or irritation and prompt an almost instantaneous and often mindless action to quell the negative sensation, » Eyal writes.

Attendees of the 2017 Habit Summit might have been surprised when Eyal walked on stage to announce that this year’s keynote speech was about « something a little different ». He wanted to address the growing concern that technological manipulation was somehow harmful or immoral. He told his audience that they should be careful not to abuse persuasive design, and wary of crossing a line into coercion.

Un matin en avril cette année, des concepteurs, des programmeurs et des entrepreneurs sont venus du monde entier assister à une conférence sur la côte de la baie de San Francisco. Ils avaient tous payés jusqu’à 1700 USD pour apprendre comment manipuler les gens dans leur usage quotidien de leurs produits. Cette formation était organisée par Nir Eyal.

Eyal, 39 ans, auteur de « Accro : Comment construire des produits formant des habitudes », a passé plusieurs années comme consultant dans l’industrie technologique, enseignant des techniques qu’il a développées en étudiant de près comment fonctionnent les géants de la Silicon Valley.

« Les technologies que nous utilisons sont devenues compulsives, pour ne pas dire complètement addictives », écrit Eyal. « C’est l’impulsion d’aller voir si on a reçu une notification. C’est l’envie d’aller visiter YouTube, Facebook, ou Twitter juste pour quelques minutes, pour se retrouver encore en train de tapoter et dérouler une heure plus tard. » Rien de tout cela n’est un accident, écrit-il. C’est entièrement « conformes aux intentions des concepteurs ».

Il explique les trucs psychologiques subtiles qui peuvent être utilisés pour créer des habitudes chez les gens, par exemple en variant les récompenses que les gens reçoivent pour créer « un besoin », ou en exploitant les émotions négatives qui peuvent agir comme « déclencheurs ». « Des impressions d’ennui, de solitude, de frustration, de confusion ou d’indécision vont souvent susciter une légère douleur ou une irritation, et déclencher une action presque instantanée et souvent irréfléchie pour apaiser la sensation négative », écrit Eyal.

Les participants au « Sommet des Habitudes 2017 » ont peut-être été surpris lorsque Eyal est monté à la tribune pour annoncer que son discours de clôture cette année serait « un peu différent ». Il voulait répondre à l’inquiétude croissante que la manipulation technologique serait quelque part nuisible ou immorale. Il a expliqué à son public qu’il devait faire attention de ne pas abuser de la « conception persuasive », et prendre garde à ne pas franchir la ligne qui la sépare de la coercition.

Et plus loin :

The techniques these companies use are not always generic: they can be algorithmically tailored to each person. An internal Facebook report leaked this year, for example, revealed that the company can identify when teens feel « insecure », « worthless » and « need a confidence boost ». Such granular information, Harris adds, is « a perfect model of what buttons you can push in a particular person ».

Tech companies can exploit such vulnerabilities to keep people hooked; manipulating, for example, when people receive « likes » for their posts, ensuring they arrive when an individual is likely to feel vulnerable, or in need of approval, or maybe just bored. And the very same techniques can be sold to the highest bidder. « There’s no ethics, » he says. A company paying Facebook to use its levers of persuasion could be a car business targeting tailored advertisements to different types of users who want a new vehicle. Or it could be a Moscow-based troll farm seeking to turn voters in a swing county in Wisconsin.

Harris believes that tech companies never deliberately set out to make their products addictive. They were responding to the incentives of an advertising economy, experimenting with techniques that might capture people’s attention, even stumbling across highly effective design by accident.

Les techniques que ces entreprises utilisent ne sont pas toujours génériques : elles sont adaptées individuellement, par des algorithmes, à chaque personne. Un rapport interne de Facebook qui a fuité cette année, par exemple, a révélé que l’enteprise peut identifier lorsque des adolescents se sentent « fragiles », « sans valeur » ou « en manque de confiance, nécessitant un coup de pouce ». De telles informations aussi précises, note Harris, sont « un modèle parfait des boutons sur lesquels vous pouvez appuyer dans une personne ».

Les entreprises technologiques peuvent exploiter de telles vulnérabilités pour garder les gens accrochés ; en manipulant, par exemple, quand les gens reçoivent des « j’aime » pour leurs messages, s’assurant qu’ils arrivent lorsque l’individu est susceptible de se sentir vulnérable, ou en manque d’approbation, ou peut-être juste en train de s’ennuyer. « Il n’y a pas d’éthique », dit-il. Une entreprise payant Facebook pour utiliser ses leviers de persuasion pourrait être un vendeur de voitures envoyant des messages ciblés à différents types d’utilisateurs qui veulent un nouveau véhicule. Ou cela pourrait une ferme à trolls à Moscou cherchant à manipuler des électeurs dans une circonscription-clef du Wisconsin.

Harris croit que les entreprises de technologies n’ont jamais voulu délibérément rendre leurs produits addictifs. Elles se sont juste alignées sur les règles de l’économie de la publicité, expérimentant des techniques qui pourrait capturer l’attention des gens, et parfois tombant par hasard sur des concepts hautement efficaces.

Max Read, dans « New York Magazine » en date du 2 octobre 2017, dresse un tableau saisissant de Facebook en général, et de la « pré-campagne électorale » de Zuckerberg en particulier, sous le titre « Does Even Mark Zuckerberg Know What Facebook Is? » — « Est-ce que même Mark Zuckerberg sait ce qu’est Facebook ? » :

The Zuckerberg-for-president interpretation of his project understands Facebook as a large, well-known company, from which a top executive might reasonably launch a political career within the recognizable political framework of the U.S. electoral process.

But if Facebook is bigger, newer, and weirder than a mere company, surely his trip is bigger, newer, and weirder than a mere presidential run. Maybe he’s doing research and development, reverse-­engineering social bonds to understand how Facebook might better facilitate them. Maybe Facebook is a church and Zuckerberg is offering his benedictions. Maybe Facebook is a state within a state and Zuckerberg is inspecting its boundaries. Maybe Facebook is an emerging political community and Zuckerberg is cultivating his constituents. Maybe Facebook is a surveillance state and Zuckerberg a dictator undertaking a propaganda tour. Maybe Facebook is a dual power — a network overlaid across the U.S., parallel to and in competition with the government to fulfill civic functions — and Zuckerberg is securing his command. Maybe Facebook is border control between the analog and the digital and Zuckerberg is inspecting one side for holes. Maybe Facebook is a fleet of alien spaceships that have colonized the globe and Zuckerberg is the viceroy trying to win over his new subjects.

Cette série de voyages de Zuckerberg à travers une vingtaine d’Etats américains a pu être interprétée comme une pré-campagne présidentielle. Cette interprétation montre bien que Facebook est une entreprise suffisamment énorme et suffisamment connue pour qu’un de ses dirigeants puisse s’en servir comme base de départ pour une carrière politique au sein du système électoral américain.

Mais si Facebook est plus gros, plus neuf, et plus étrange qu’une entreprise ordinaire, alors le voyage de Zuckerberg est plus gros, plus neuf, et plus étrange qu’une simple campagne présidentielle. Peut-être est-il venu pour étudier et de conceptualiser les liens sociaux afin de découvrir comment Facebook pourrait mieux les faciliter. Peut-être que Facebook est une église, et Zuckerberg est venu offrir ses bénédictions. Peut-être que Facebook est un Etat dans l’Etat, et Zuckerberg est venu explorer ses frontières. Peut-être que Facebook est une communauté politique émergente, et Zuckerberg est venu rencontrer ses mandants. Peut-être que Facebook est un Etat de surveillance, et Zuckerberg est un dictateur entreprenant une campagne de propagande. Peut-être que Facebook est un deuxième pouvoir — un réseau posé sur les Etats-Unis, en parallèle et en compétition avec l’Etat pour assumer les fonctions civiques — et Zuckerberg est venu affirmer son autorité. Peut-être que Facebook est la police aux frontières entre le monde numérique et le monde ordinaire — et Zuckerberg vérifie qu’il n’y a pas de trous. Peut-être que Facebook est une flotte de vaisseaux spatiaux extra-terrestres qui ont colonisé la planète, et Zuckerberg est le vice-roi qui tente de gagner la confiance de ses nouveaux sujets.

  • Rien que ça ! Resistance is futile!
  • Sur la perspective d’une campagne présidentielle de Zuckerberg, on peut aussi lire l’éditorial de Maureen Dowd dans The New York Times en date du 23 septembre 2017. Ça commence par « The idea of Mark Zuckerberg running for president was
    always sort of scary. » et ça se termine par « But now it’s really scary, given what we’ve discovered about the power of his little invention to warp democracy. Yep. Very scary. ». Indeed.

Terminons avec John Lanchester, qui, pour la London Review of Books, a passé en revue trois livres sur Facebook et ses confrères. L’article est long, il est daté du 17 août 2017, et il s’intitule : « You are the product » . Vers la fin de l’article, après avoir rappelé que la « gouvernance » de Facebook donne tous les pouvoirs à Zuckerberg sans contestation possible (détenteur d’une majorité absolue d’actions à droit de vote), il s’interroge sur les motivations de Zuckerberg, derrière son monstre capitaliste géant. C’est, à mon humble avis, le moment le plus terrifiant de l’article :

That’s the crucial thing about Facebook, the main thing which isn’t understood about its motivation: it does things because it can. Zuckerberg knows how to do something, and other people don’t, so he does it. Motivation of that type doesn’t work in the Hollywood version of life, so Aaron Sorkin had to give Zuck a motive to do with social aspiration and rejection. But that’s wrong, completely wrong. He isn’t motivated by that kind of garden-variety psychology. He does this because he can, and justifications about ‘connection’ and ‘community’ are ex post facto rationalisations. The drive is simpler and more basic. That’s why the impulse to growth has been so fundamental to the company, which is in many respects more like a virus than it is like a business. Grow and multiply and monetise. Why? There is no why. Because.

Automation and artificial intelligence are going to have a big impact in all kinds of worlds. These technologies are new and real and they are coming soon. Facebook is deeply interested in these trends. We don’t know where this is going, we don’t know what the social costs and consequences will be, we don’t know what will be the next area of life to be hollowed out, the next business model to be destroyed, the next company to go the way of Polaroid or the next business to go the way of journalism or the next set of tools and techniques to become available to the people who used Facebook to manipulate the elections of 2016. We just don’t know what’s next, but we know it’s likely to be consequential, and that a big part will be played by the world’s biggest social network. On the evidence of Facebook’s actions so far, it’s impossible to face this prospect without unease.

When Google relaunched as Alphabet, ‘Don’t be evil’ was replaced as an official corporate code of conduct by ‘Do the right thing.’

C’est le fait crucial concernant Facebook, le fait principal qui n’est pas compris à propos de sa motivation : ce truc fait des choses parce qu’il peut. Zuckerberg sait comment faire quelque chose, et les autres ne savent pas, alors il le fait. Une motivation de ce type ne passe pas dans un film hollywoodien, aussi Aaron Sorkin a dû donner à Zuck un motif ayant quelque chose à avoir avec une aspiration sociale et un rejet. Mais c’est faux, complètement faux. Il n’est pas motivé par cette sorte de psychologie de comptoir. Il fait ça parce qu’il le peut, et les justifications à base de « connection » et de « communauté » sont des rationalisations a posteriori. Sa conduite est plus simple et plus basique. C’est pour cela que l’appétit de croissance est si fondamental pour cette entreprise, qui est à bien des égards plus un virus qu’un commerce. Croît et multiplie et monétise. Pourquoi ? Il n’y a pas de pourquoi. Parce que.

L’automatisation et l’intelligence artificielle vont avoir un énorme impact dans tous types de domaines. Ces technologies sont nouvelles et réelles et elles vont arriver bientôt. Facebook est très profondément intéressé par ces tendances. Nous ne savons pas où ça mène, nous ne savons pas les coûts sociaux et les conséquences qu’elles auront, nous ne savons pas quelle sera la prochaine dimension de la vie qui sera dévorée, le prochain secteur d’activités qui sera détruit, la prochaine entreprise qui subira le destin de Polaroid ou le prochain domaine qui sera écrasé comme aujourd’hui le journalisme ou le prochain ensemble d’outils et de techniques qui seront mis à la disposition des gens qui ont utilisé Facebook pour manipuler les élections de 2016. Nous ne savons pas quelle sera la prochaine étape, mais nous savons que ce sera probablement substantiel, et qu’une partie importante va se jouer dans le plus grand réseau social du monde. En considérant le comportement de Facebook jusqu’ici, il est impossible de considérer cette perspective sans un certain malaise.

Quand Google s’est réorganisé sous le nom de Alphabet, « Ne pas faire le mal » a été remplacé dans la liste des valeurs de l’entreprise par « Faire ce qu’il faut ».

L’enfer est pavé de bonnes intentions.

Ou encore, selon Charles Baudelaire :

Mes chers frères, n’oubliez jamais, quand vous entendrez vanter le progrès des lumières, que la plus belle des ruses du Diable est de vous persuader qu’il n’existe pas !

Mais peut-être que je fais fausse route, et que tout cela n’est que la marche du progrès et la vague de l’Histoire

Bonne nuit.

Cet article, publié dans Pistes de lecture, est tagué , , , , , , , , , , , , , , , , , , , , , , , , . Ajoutez ce permalien à vos favoris.

Tous les commentaires seront les bienvenus.

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s