Hier

Les années 90s, c’est également l’âge d’or des CR-ROMs.
Trouvés un peu partout (dans des magazines, envoyés par la poste, distribués dans la rue…), ils permettaient d’obtenir rapidement des dizaines de nouveaux logiciels et de bénéficier des dernières versions de ceux que l’on utilisait déjà. De Netscape à AOL, une nouvelle expérience d’internet était débloquée à chaque fois que l’on insérait un disque.

Tout cela a changé quand internet est devenu assez rapide (et quand il a cessé d’être facturé à l’heure) pour pouvoir télécharger ces logiciels. Un changement de paradigme s’est produit en l’espace de quelques années, grâce aux mises à jour à distance.

L’impératif de proposer des logiciels dépourvus de défauts s’est envolé. Alors qu’un bug majeur pouvait représenter une catastrophe industrielle capable de mettre une entreprise à genou, c’est devenu du jour au lendemain un désagrément mineur qui peut être résolu en quelques secondes, sans même que l’utilisateur ne s’en rende compte.

Aujourd’hui, il n’est pas rare de devoir mettre à jour son ordinateur dès qu’on le sort de la boîte. Ces nouvelles possibilités ont transformé la logique de création de logiciels et de services numériques. Dans un environnement ultra-concurrentiel, où la capacité à livrer rapidement est plus importante que de livrer quelque chose de fini, la logique des startups est désormais de “ship now, fix later” (livrer maintenant, corriger plus tard).

L’autre mot d’ordre est notamment de ne pas avoir peur de “break things”, pour perturber le statu quo et révolutionner des pans entiers de notre économie, sans se soucier outre mesure de “l’ancien monde”. Mis côte à côte, nous avons une industrie qui se préoccupe bien peu des conséquences, et remet à plus tard la résolution des problèmes présents. Un moteur puissant pour l’innovation, qui a permis à la Silicon Valley de prendre le contrôle du monde.

Les fake news, les bulles d’information, … ce monde de “post-vérité” n’est pas une conséquence inévitable de la modernité. C’est ce qu’il se produit quand on “break” une presse indépendante et rentable (entre autres), en ne donnant aucune valeur à la vérité, à la qualité et aux sources et en noyant les informations sous une avalanche d’avis et d’opinions de blogueurs et de monsieur tout le monde.
La perte de lien, le stress et la déprime d’un FOMO permanent n’est pas une conséquence imprévisible des moyens de communication modernes. C’est ce qu’il se produit quand on “break” nos relations sociales en les transformant en support pour un flot continu de publicités.

Aujourd’hui

Cette mentalité est plus que jamais au coeur de la machine à innover de la Silicon Valley. Les leaders de l’IA viennent tout juste de demander que les lois sur la propriété intellectuelle ne s’appliquent pas à l’entrainement de leurs modèles. On remet encore une fois à plus tard les discussions délicates d’une nouvelle industrie (ici, la rémunération des créateurs), en espérant que ces questions se règlent sans effort, plus tard, par d’autres. Considérant que Google n’a toujours pas trouvé les clés du “fair use” pour rémunérer justement la presse et les créateurs, on est en droit d’en douter.

Mais ce n’est pas tout.

L’IA générative est une technologie qui est encore en bêta.
Oui, ses usages sont déjà impressionnants. Mais on nous promet depuis plus de deux ans déjà que ses failles intrinsèques, notamment la capacité à inventer des faits et des sources (qui est tout sauf un “bug mineur” pour un moteur de résumé), seront réglées. Et on attend toujours. Combien d’assauts sur la vérité et la confiance nos sociétés pourront encore encaisser avant de s’effondrer ?

Plutôt que de faire de ces questions des priorités vitales, des pressions s’accroissent pour déréguler davantage le secteur, le libérer des responsabilités et des contraintes que l’on est en droit d’attendre de n’importe quel business ayant un rôle prépondérant sur nos économies et nos sociétés, en avançant des prétextes économiques et des enjeux de suprématie nationale…

Un peu comme si l’on avait prétendu dans les années 60 qu’il était nocif de réguler l’industrie nucléaire ou de se soucier de ce qu’allaient devenir les déchets radioactifs, sous prétexte que l’ennemi pourrait prendre de l’avance.

Et demain…

L’heure est plus que jamais à “break things”… quand le “fix later” semble même avoir complètement disparu des esprits.

Notamment, une idéologie nommée e/acc (pour effective accelerationism), basée sur des idées pseudo-scientifiques d’une “volonté” de l’univers trouvée dans les lois de la thermodynamique, stipule même qu’il faut accentuer nos efforts pour atteindre le point de “singularité technocapitaliste” à tout prix et le plus rapidement possible.
Tout ce qui va à l’encontre des processus “naturels” de sélection, et notamment tout effort pour contenir un capitalisme débridé, est jugé néfaste voire immoral. Mais les tenants de cette idéologie n’ont pas nos intérêts en tête. À vrai dire, ils n’ont même pas les intérêts de l’humanité en tête, car pour eux, seule l’intelligence compte… indépendamment du “substrat” (i.e. biologique et/ou humain).
Il faut donc faire émerger la conscience et l’intelligence au niveau galactique ; et peu importe la planète, la civilisation, la société et les individus eux-mêmes.
Nous voilà prévenus.

Vous pensez qu’il s’agit d’une secte d’illuminés marginaux et inoffensifs ?
Détrompez-vous.
Des dirigeants de fonds d’investissement parmi les plus en vue de la Silicon Valley se sont déclarés comme des fervents partisans de cette philosophie, et présentent leurs propres interprétations comme une défense indispensable des innovateurs pour faire arriver le plus rapidement possible une ère de prospérité incroyable (et donc un impératif de ne pas réguler ou contrôler l’innovation… pratique !).

Et ces idées extrêmes de cercles restreints débordent dans des sphères grand public aux conséquences qui nous concernent tous ^{[à commencer par les attaques sur la “régulation” et la charge administrative]} .
Côté tech, le débat actuel est vif non pas pour savoir quelle règles (morales ou autres) implémenter dans une potentielle superintelligence dont l’émergence est promise dans quelques années seulement, mais sur la nécessité même de se préoccuper des risques posés par une superintelligence (toute IA “zombie” serait terrassée et neutralisée par les lois du marché, pourquoi s’inquiéter ?). Des décennies de scénarios apocalyptiques d’Hollywood n’auront donc servi à rien.

Et l’aspect le plus inquiétant de ce débat est qu’Elon Musk fait partie du camp des modérés et des précautionneux !

Si on en revient à des préoccupations plus terre à terre, à commencer tout simplement par se demander s’il est judicieux de brûler notre planète pour générer des fake news encore plus rapidement, les partisans de la prudence sont caricaturés en vils bureaucrates communistes imposant leur diktat aux génies-entrepreneurs sauveurs de l’humanité, et le débat est tout simplement ridiculisé par la grandeur des promesses (rien de moins que le paradis sur terre, la prospérité voire l’immortalité pour tous, et la survie de l’intelligence via la conquête de la galaxie).

En gros, pour des gains futurs infinis, il n’est pas utile (ou moral) de se soucier des effets néfastes actuels.
Ça ne vous rappelle rien ?

Un autre demain ?

Comment proposer un autre futur en quelques phrases devant l’énormité des débats et des enjeux ?

Impossible de rester neutre, je vais toutefois tenter de rester généraliste et de ne froisser personne, sans trop passer pour un doux rêveur ou un idéaliste anti-capitaliste (que je ne suis pas).
Je vous partage les conclusions de mes propres réflexions introspectives des dernières années, en espérant qu’elles vous servent, en tant que professionnels de la tech ou utilisateurs enthousiastes. Et je m’excuse par avance de la grandiloquence de mon propos.

1. Réaliser que nous ne sommes plus les “good guys”

L’innovation et la tech ne sont plus sources automatiques de progrès (si tant est qu’elles l’aient jamais été). Simplement “disrupter” et proposer quelque chose de nouveau n’est plus suffisant pour améliorer nos vies, sous prétexte que “l’ancien monde” méritait d’être aboli et que le nouveau sera automatiquement meilleur.

Devant l’enthousiasme que suscite l’innovation, nous devons plus que jamais conserver notre sens critique pour nous demander constamment si le nouveau est désirable ou même préférable à l’ancien.

2. Se préoccuper de ce qui a été cassé

Nous avons maintenant 30 ans de recul (au moins) pour comprendre l’impact de l’informatique personnelle et d’internet. Nous avons vu que le “fix later” s’est transformé trop souvent en “fix never”.
Nous en avons oublié ce qui a été cassé, et les éléments négatifs de nos vies numériques sont désormais présentés comme des inévitabilités de la modernité. Mais rien n’est plus faux. Ce sont des choix. Peut-être inconscients, peut-être faits pour nous, peut-être faits il y a longtemps. Mais ce sont des choix.

Depuis les premières tribus, nos sociétés ne peuvent fonctionner que si nous pouvons nous mettre d’accord sur une réalité partagée et si nous pouvons faire confiance.

• Avec la technologie, savoir ce qui est vrai devrait être plus facile, pas plus compliqué.

• Avec la technologie, savoir en qui faire confiance devrait être plus facile, pas plus compliqué.

• Avec la technologie, savoir se parler, débattre, se mettre d’accord devrait être plus facile, pas plus compliqué.

• Avec la technologie, savoir ce qui est bon pour nous, nos proches, les autres, la planète devrait être plus facile, pas plus compliqué.

Et pourtant, un secteur qui est un mix de “Information Technology” (IT) et de télécom(munications) a réussi à nous faire croire que ce n’est pas de sa responsabilité si nos sociétés brûlent à petit feu sous le flot de fake news et de messages haineux.

L’abondance d’options (d’idées, de produits) n’est plus gage de notre liberté.
Dans un monde infini, l’important n’est plus de proposer toujours plus d’opinions ou une nouvelle page dans un catalogue déjà trop long, mais redonner à tous des outils qui servent de boussole dans ce monde complexe. Nous devons oeuvrer pour refaire marcher la confiance à l’échelle, avec des moyens modernes pour se mettre d’accord sur une réalité commune.

3. Mettre l’empathie avant tout

Vous voulez de la vraie innovation révolutionnaire qui disrupte le statu-quo et qui fait émerger un monde nouveau contre les élites et monopoles d’aujourd’hui ?

Mettez la technologie non plus au service de l’intelligence, de la raison, ou de la logique, mais au service de l’empathie !

Imaginez non plus des outils de productivité, mais des outils qui augmentent notre capacité à se connaitre et se comprendre !

Créez non plus des moyens pour partager du contenu et de la pub, mais pour créer du lien !

Contre des autoproclamés génies qui veulent sauver l’humanité sans la comprendre ou sans vraiment l’apprécier, en déclarant l’intelligence et la productivité comme mesures de toutes choses, inventez les conditions pour un nouvel humanisme du XXIème siècle !