ALGOCRATIE

Vivre libre à l'heure des algorithmes

Arthur Grimonpont, Actes Sud, 2022

​

Les réseaux sociaux soulèvent des questions majeures. En raison de leur poids – ce sont les plus grandes entreprises de la planète, et l’on sait désormais qu’elles ont le pouvoir de faire les élections. En raison aussi de leur impact social et anthropologique : déclin du quotient intellectuel et des facultés d’attention, appauvrissement des relations sociales et des références communes, etc. Pour les réguler, beaucoup de « fausses bonnes idées » circulent, soit que l’on suggère de « briser leur monopole », soit que l’on entende réguler plus étroitement ce qui s’y dit (suppression des contenus jugés haineux, de ceux considérés comme des fake news, etc.).

​

Le principal mérite de l’ouvrage d’Arthur Grimonpont est de ne pas en rester à l’écume des choses : pour comprendre sérieusement les problèmes posés par les réseaux sociaux, il faut d’abord pénétrer au cœur de leur business model. Celui-ci se fonde sur une économie de l’extraction de l’attention. Qu’est-ce à dire ? Les réseaux sociaux ne produisent pas de contenu propre ; ils hébergent et donnent accès à du contenu produit par d’autres. Leurs revenus sont presque exclusivement publicitaires (98% dans le cas de Meta, qui gère Facebook) : des annonceurs paient pour que leurs produits soient visibles au milieu de la masse de contenu gratuit. In fine, c’est le temps passé sur les réseaux sociaux – la quantité de contenus visionnés – qui fait les recettes des Facebook, Twitter, YouTube ou TikTok. L’actif le plus précieux de ces entreprises est l’algorithme qui décide, pour chaque utilisateur, ce que celui-ci verra ensuite. Un bon algorithme, comme une bonne machine à sous, est celui qui donnera toujours envie de rester pour le contenu suivant.

​

C’est là que nous rentrons dans l’économie de l’attention. Car, pour garder les utilisateurs le plus longtemps possible, les algorithmes exploitent quantité de biais cognitifs. Par exemple, un contenu plus violent, plus simple, plus manichéen, aura davantage de chances de capter l’attention ou de susciter des réactions (like, commentaire, etc.), et sera donc davantage promu. Beaucoup de créateurs de contenu se sont adaptés, multipliant les audiences en renonçant toute finesse. Une expérience est intéressante : si l’on demande à quelqu’un quelle séquence de vidéos il compte regarder, il aura tendance à citer des vidéos diverses et de qualité relativement élevée ; si on le laisse naviguer, soumis aux recommandations des algorithmes, il finit tôt happé par des vidéos de faible qualité. Quantité de fonctionnalités ont été introduites précisément pour exploiter ces biais : notifications permanentes, défilement infini des contenus, lecture automatique des vidéos, etc.

​

Autre phénomène bien connu : un utilisateur a davantage de chances de rester sur le réseau s’il y voit des contenus qui le confortent dans ses convictions (biais de confirmation). Les réseaux sociaux auront donc tendance à enfermer chacun dans une « bulle informationnelle » (filter bubble) : plutôt que d’ouvrir notre champ de vision, ils enferment dans des contenus similaires, qui tendent même à extrémiser ou à polariser ce que l’on pense. Cela rend évidemment le fait de « faire société » plus compliqué.

​

Quand on comprend cela, on voit qu’il n’y a guère de sens à vouloir briser le « monopole » des grandes plateformes, car l’économie de l’attention n’est pas un domaine où l’on peut attendre de la concurrence qu’elle améliore la qualité des produits : plus de concurrence, c’est davantage de tentatives pour capter l’attention, exploiter les biais cognitifs, et figer les regards vers des contenus médiocres.

​

Comment dès lors lutter contre les effets des réseaux sociaux et de leurs algorithmes ? Certaines propositions d’Arthur Grimonpont nous laissent sceptiques. Beaucoup de ce qu’il suggère se fonde sur l’idée qu’il y aurait un discours « vrai » à promouvoir ou des « valeurs éthiques » évidentes à défendre, de sorte que l’on pourrait avoir un « service public de l’attention » ou une « algo-démocratie » (les algorithmes seraient redessinés pour donner des résultats conformes aux préférences de la majorité). Tout cela ouvre la porte à un danger évident : celui de réduire le champ du débat, en fonction de ce qui est jugé « acceptable » ou non dans l’espace public. Dans des sociétés occidentales où le décalage entre les discours officiels et les opinions majoritaires peut parfois être considérable, toute tentative publique de reprendre la main sur les contenus ou les algorithmes est douteuse. C’est malheureusement la piste sur laquelle beaucoup de pays sont aujourd’hui engagés.

​

Mais Arthur Grimonpont esquisse d’autres pistes beaucoup plus prometteuses : plutôt que de réguler le contenu, réguler le marché de l’attention et les mécanismes qui exploitent les biais collectifs de manière flagrante. Cela peut passer par le contrôle ou l’élimination des fonctionnalités qui créent l’addiction (notifications, etc.). Dans des pages très intéressantes, l’auteur décrit les mesures prises par le gouvernement chinois pour limiter l’extraction de l’attention auprès des jeunes du pays : TikTok, pourtant créé par une entreprise chinoise, est interdit en Chine ; l’application équivalente est limitée à 40 minutes par jour pour les enfants ; les contenus restent à l’écran quelques secondes, ce qui interdit de « scroller » sans limites. Il y a, de toute évidence, de bonnes choses à puiser dans ces dispositions.