Hier

C’est parfois avec 30 ans de recul que l’on voit ce qui a le plus importé à un moment important de l’histoire.

Internet, dès le début, c’est beaucoup de choses : on peut accéder à un site d’un inconnu sur n’importe quel sujet, en un instant. On peut dialoguer avec cet inconnu ou une centaine d’autres dans des forums. On peut trouver son bonheur parmi des catalogues infinis. Et si chaque décennie depuis a amélioré chacun de ces concepts, il y a un ou deux éléments qui ont au final bien peu changé : les étoiles et les commentaires. On les trouve maintenant presque partout, en bas de fiches produits, en bas d’articles de presse, en bas de chaque posts sur nos réseaux sociaux, et en bas de chaque commentaire, même.

Internet, c’est le medium démocratique par excellence, plus encore que la télévision, et pas seulement parce qu’il nous propose un nombre illimité de chaînes, ou qu’il personnalise une chaîne rien que pour nous. C’est surtout parce qu’il nous demande constamment notre avis, qui que l’on soit, où que l’on soit, et quoique l’on pense !

Est-ce un hasard si la télé-réalité surgit en même temps que l’adoption d’internet par le plus grand nombre, avec ses votes téléphoniques qui permettent à chacun d’influer sur le cours de l’histoire ? En vrai, je n’en sais rien, mais j’ai de gros soupçons !

Les étoiles sont devenues la monnaie d’échange de cet univers où tout devait être gratuit. Pour les sites de e-commerce inconnus, aux catalogues sans fin où les produits au-delà de la premiére page sont eux-aussi inconnus, ce sont les étoiles qui représentent le nerf de la guerre. Bien sûr, les abus sont légions (des faux avis créés par des légions de petites mains) et quelques règles de bonne conduite apparaissent (limiter les notes et commentaires aux acheteurs réels (!), faire vérifier ses avis par un organisme indépendant, etc.).

Et bien sûr, même si les étoiles sont toujours là et présentes partout, elles ont aussi évolué pour devenir… les likes de nos réseaux sociaux !

Aujourd’hui

Est-ce que ces années d’évolution et de raffinement d’un concept en réalité basique (une moyenne ou une somme) ont permis de rendre le système plus utile, plus puissant, plus fiable ?

Pour les étoiles (moyenne), elles nous permettent de noter à peu prés tout ce qui existe : restaurants, commerces, services, mais aussi écoles, parcs, statues (?), épisodes de série, … si vous pouvez le voir ou vous en servir, il y aura probablement une note pour ça !

Si l’omniprésence de cet outil d’évaluation utilisé de la même façon pour des éléments disparates (jusqu’à des éléments qui n’ont aucun sens) devrait nous alerter sur ses limites, nous devons commencer par l’imprécision de la question posée, et de qui est capable d’y répondre. Que veut vraiment dire une note de 3 sur 5 pour un restaurant ? Est-ce une note relative, du type “ça vaut moyennement le prix et l’effort que j’y ai mis" ? ou absolue “c’est moyen, indépendamment de toute autre considération”. En fonction, un mcdo qui a plus d’étoiles qu’un restaurant michelin peut faire sens… ou pas.

Nous avons déjà vu que tout algorithme est biais. Choisir de moyenniser des notes d’inconnus, c’est choisir une version du monde désirable. Notamment, tout ce qui est jugé par des “amateurs” (à comprendre, “non-expert”) sera par définition moyennisant sur les critères qui seront plus faciles à juger par des amateurs… avec les conséquences que cela implique sur notre monde et les produits que l’on consomme.

Et pour les likes (somme), ce n’est pas vraiment différent, en fait. Les likes (et leurs dérivés : pouces up/down, coeurs, etc.) sont la monnaie de nos réseaux sociaux (en plus des “vues” et d’autres interactions implicites). C’est ce qui permet aux algorithmes de juger de l’intérêt et de la valeur d’un post. C’est ce que donne un lecteur pour récompenser un créateur (sans rien avoir à vraiment payer, pratique !). La conséquence de confier l’évaluation de quoique ce soit à des hordes d’amateurs ? On valorise ce que l’on pense que l’on veut, ce que l’on pense qui est bien, indépendamment de qualités intrinsèques (qu’elles quelles soient) du produit / sujet / post considéré.

Les fake news ne sont pas une conséquence malheureuse et imprévisible d’un système que l’on aurait contourné ou abusé. C’est le résultat d’un système qui marche pour nous proposer des posts qui ont “l’air bien”, tels qu’évalués par des amateurs qui n’ont pas la capacité de juger la réelle qualité (ici : véracité) de ce qu’on leur demande de juger (avec, comme pour les notes, un flou dans l’intitulé de la question : un pouce, c’est “je suis d’accord” ou “c’est crédible” ?).

Et demain…

On nous promet que l’IA générative sera un outil formidable pour pallier toutes les limites des systèmes que nous avons mis en place jusque là. Les fake news ? une intelligence artificielle, elle, sera capable de résumer des montagnes de données et nous ordonner tout ça en nous proposant les deux camps d’un débat, par exemple.

Le premier problème, c’est que l’IA générative base ses résumés et la façon dont elle résume sur les données qui font internet. Si on n’ajoute pas des indicateurs qui lui permettent de donner de la crédibilité, il y a peu de chances que ses conclusions soient différentes des nôtres (ou, si différentes, plus vraies). Le deuxième problème, c’est que l’IA générative “écrase” et moyennise encore plus que nos bonnes vieilles étoiles. Non seulement elle crée une bouillasse concentrée à partir de millions d’éléments, mais également elle enlève tout “lien” avec le réel. Plus possible de voir qui a dit quoi, de retrouver des avis unitaires pour tenter de voir ce qu’il se cache derrière ce bien peu utile 3,7 ⭐️.

L’IA générative, c’est potentiellement la logique des étoiles sous stéroïdes, avec une illusion de masse et donc de crédibilité, mais en réalité un flot d’avis peu informés et informants qui nous conduisent à petit à petit perdre notre prise sur la réalité et le monde autour de nous.

Un autre demain ?

Comme souvent toujours, je pense que la clé se trouve dans notre capacité à faire marcher notre nature humaine à grande échelle, plutôt que d’essayer de la manipuler ou de la remplacer.

Pour savoir ce que vaut quelque chose ou quelqu’un que l’on ne connait pas, nous disposons d’un outil vieux comme le monde : la confiance. Plutôt que d’essayer de pallier les risques que cette confiance soit détournée et abusée en multipliant les avis jusqu’à ce que n’importe quel avis ne vaille plus rien et que la vérité surgisse de la masse, il faut au contraire redonner de la valeur à chaque avis et s’assurer de sa qualité et honnêteté.

Est-ce que ce restaurant est digne de mon intérêt et de mon argent ? Le défi est de trouver la personne la plus à même à répondre à cette question, en fonction de son expertise, de ses goûts et “valeurs” (compatibles avec les miens) et de la confiance que je peux légitimement lui donner (en fonction des gens en qui je fais confiance ?).

Bien entendu, c’est toute l’économie de la réputation qu’il s’agit de revoir, en remplaçant les étoiles et les likes comme unité de change, pour pouvoir enfin faire marcher la confiance à grande échelle !