Ai-je choisi, ou ai-je été amené à choisir ?

Avant même de choisir, tout était déjà aligné.

Souvenez-vous de l'instant où vous avez ouvert l'écran. Vous n'aviez rien cherché, vous n'aviez interrogé personne. Et pourtant, dès l'ouverture, une file attendait. Une rangée ordonnée, baptisée « recommandations pour vous ». Les candidats à votre choix étaient déjà disposés, avant même que vous n'en sélectionniez un seul. Selon quels critères, et par qui, cette disposition avait été décidée — nulle part il n'était écrit.

Devant cette rangée, j'ai l'impression de choisir. C'est bien moi qui déplace le doigt. C'est bien mon regard qui s'arrête, mon geste qui effleure l'écran — du moins, c'est ce que je ressens. Mais si cet acte de « choisir » était déjà légèrement incliné avant même de commencer, que se passerait-il ?

La rangée n'était pas de niveau

Un écran de recommandations ressemble, à première vue, à une étagère équitable. Les éléments sont disposés côte à côte, inscrits dans des cadres de même taille. Mais posez des objets sur un plan incliné (c'est-à-dire une surface qui penche sans qu'on le voie) : lâchez-les, et ils roulent dans un seul sens. La direction du roulement dépend de l'angle et de l'orientation du plan. Il se pourrait que cette étagère d'apparence plate repose, elle aussi, sur une pente invisible.

Ce que ce mécanisme sélectionne, c'est ce qu'il place en haut. Les voix apaisées, les contenus silencieux, les choix peu stimulants — structurellement, ils ont tendance à glisser vers le bas. À l'inverse, ce qui suscite des émotions fortes, ce qui donne envie de continuer, ce qui retient la main — tout cela a tendance à rester en haut de la pente. L'orientation du plan n'est pas « ce que vous aimez », mais « ce qui vous fait rester plus longtemps ».

Les recommandations ne sont pas une gentillesse ; elles sont une conception. L'objectif de celui qui a dressé l'étagère, ce n'est pas votre satisfaction, c'est votre temps de présence. Sachant cela, je reste pourtant planté devant cette étagère. Savoir et s'éloigner, c'est une autre affaire. Je reste, et de temps en temps, je penche la tête.

Un circuit fermé qui nourrit le biais

Si la pente était la seule mécanique, la situation resterait encore simple. Mais ce système possède un autre mécanisme.

Quand on approche trop un microphone d'un haut-parleur, un larsen (c'est-à-dire une boucle de rétroaction positive : le son entre dans le micro, est amplifié par le haut-parleur, et revient dans le même micro) se produit. Cette circulation se poursuit jusqu'à ce que le son devienne plusieurs fois plus fort qu'à l'origine. L'entrée appelle la sortie, la sortie appelle une nouvelle entrée — un circuit fermé.

Le mécanisme des recommandations a la même structure. Sur l'étagère inclinée, vous avez regardé quelque chose. Le « temps passé à regarder » est enregistré. Ce temps enregistré est réinterprété comme un signal de « préférence ». Sur la base de ce signal, la prochaine recommandation est composée. Cette recommandation est à nouveau regardée, à nouveau enregistrée, et appelle à son tour la suivante. La sortie retourne en entrée, le biais appelle le biais. Un circuit fermé qui tourne, silencieusement.

Même si l'inclinaison initiale est infime, elle s'amplifie au fil des tours. Ce que l'on appelle « vos préférences » est la réponse que cette boucle a progressivement construite. Ce n'est pas vous qui avez choisi — c'est le circuit qui a affiné. « Ce que j'ai choisi » est peut-être l'accumulation de « ce vers quoi on m'a amené ».

Quand j'avais enregistré la structure de la colère, j'avais vu la même racine. Une conception où l'entrée appelle la sortie, et la sortie appelle une nouvelle entrée — seul le combustible diffère, la forme du circuit est identique. La colère est un combustible efficace car c'est une émotion puissante ; le biais de préférence, lui, est discret car c'est une émotion silencieuse. Mais le mécanisme d'amplification, lui, fonctionne de la même manière.

La préférence observée est transformée par l'observation

Pour emprunter un instant au domaine de la physique : un objet observé change du fait même de l'observation. Une préférence mesurée en continu n'est plus tout à fait la même préférence qu'avant la mesure. Le mécanisme qui mesure les préférences réécrit les préférences elles-mêmes.

Comme je l'avais noté autrefois, plus le temps passé devant l'écran est long, mieux le mécanisme fonctionne. Les recommandations sont conçues pour étirer ce temps. Dans cet intervalle, je ne cessais de fournir du combustible. Mes propres réactions façonnaient les recommandations qui m'étaient destinées, et ces recommandations prolongeaient à leur tour mon temps de présence. J'observe cela avec une admiration à moitié sincère pour l'élégance de la conception.

Je ne condamne pas. Je ne dis pas que ceux qui ont créé ce système sont mauvais, ni que j'aurais été naïf de l'utiliser. Simplement, sortir de cette boucle est assez difficile — ou plutôt, voir avec précision la structure de l'« intérieur » depuis l'extérieur est en soi impossible — mais voilà que je parle encore de manière bien solennelle. Je croyais choisir, et je roulais. C'est tout.

Je croyais choisir, et je roulais. Depuis quand — moi non plus, je ne sais pas.