IA, autorité, confiance et logique

Allez Platon, sors de ta caverne et rejoins les temps moderne. Écoute ces quelques mots de Fernando Pessoa : « J’ai pris une telle habitude de ressentir le faux comme le vrai, les choses rêvées aussi nettement que les choses vues, que j’ai perdu la capacité humaine, erronée me semble-t-il, de distinguer la vérité du mensonge »

C’est dans le Livre de l’intranquillité… et dire du concert mondial qui se joue devant nous qu’il bouscule notre tranquillité, c’est un euphémisme.

Des ombres de Platon, en passant par Pessoa pour qui le réel est récit intérieur jusqu’à Noam Chomsky qui dénonce les décors dont on le barde au profit de manipulations politiques, au cœur de tout cela, la question de la vérité.

Or, l’IA générative et le terreau dans lequel sa démocratisation, se fait crée un cocktail particulier. Alors IA générative, autorité, confiance et logique, c’est quoi l’histoire ?

Qu’il s’agisse de désinformation, c’est-à-dire le fruit d’un processus délibéré de travestissement du réel, ou d’impossibilité à connaître le réel tel qu’il est, il n’y a strictement rien de nouveau, ce sont des sujets connus depuis la nuit des temps.

En revanche, 5 facteurs contemporains créent, selon nous, les conditions de bouleversements.

1. La démocratisation rapide de l’accès à des moyens techniques puissants, de l’intelligence artificielle générative aux outils d’automatisation d’agents IA.

2. La méconnaissance de leurs limites et de leurs insuffisances, combinée à la paresse des utilisateurs.

3. Les moyens colossaux et la couverture mondiale des acteurs qui les détiennent à tous niveaux (des infrastructures sous-jacentes à leur distribution)

4. Le potentiel que ces dispositifs représentent sur un plan politique dès lors qu’on les projette à grande échelle

5. Les caractéristiques du terreau sociologique sur lequel ce potentiel peut s’appliquer.

La combinaison de ces 5 facteurs ramène le sujet à une échelle sans précédent dont les conséquences politiques et sociales peuvent être dévastatrices.

A l’échelle anecdotique, on en voit déjà les effets, entre ces cabinets de conseil obligés de rembourser leurs clients, l’avocat condamné à payer des dommages et intérêts ou l’ancienne ministre renonçant à son diplôme honorifique, toutes et tous pour avoir utilisé l’IA sans discernement.

Quand le mensonge n’était pas à dimension industrielle, c’est-à-dire à portée de main de toutes et tous à des coûts modiques, on pouvait bon an mal an s’en remettre au tiers d’autorité.

Bien sûr on savait que ces tiers d’autorité pouvaient nous pipeauter… mais le mensonge n’était pas la norme. Qu’en est-il à plus grande échelle ?

Les ravages de la société de la post-vérité ou de la post-réalité. Le problème ce n’est pas tant de savoir qu’il est difficile de distinguer le vrai du faux ni même de voir l’émotion prendre le pas sur la raison.

Le problème c’est qu’il devient quasi impossible de jeter les bases d’un socle commun de vérité. Or, sans cette confiance de base, aucun édifice social ne peut tenir.

Ce qui nous guette, c’est un rapport collectif au réel et à la vérité qui se désagrège ou qui se compartimente jusqu’à l’individu qui se fait mesure de toute chose à lui seul,

Donc une absence de réflexion collective sur ce qui est ou se passe. Donc impossible de faire société et de faire face aux problèmes qui lui sont posés.

L’enjeu n’est donc plus celui du tiers d’autorité mais celui du tiers de confiance. On ne s’en remet plus à la figure qui faisait autorité par son statut mais à celle qui nous inspire le plus confiance ou le moins de méfiance.

Quand toute source « officielle » de vérité est discutable, la question n’est plus de savoir qui détient le vrai, mais quels mécanismes aident à réduire l’incertitude. La confiance ne remplace pas la vérité mais elle permet de fonctionner collectivement en son absence de garantie.

La figure d’autorité avait légitimité, celle de confiance a la crédibilité sans laquelle la légitimité est vaine. Mais comment l’individu peut-il s’en remettre à une figure de confiance quand il a le sentiment que le chaos règne autour de lui ?

Quand une représentation commune du monde et des faits s’érode, l’individu n’a plus vraiment de réalité extérieure à laquelle se raccrocher personnellement.

Le tiers de confiance suffit-il à convaincre du réchauffement climatique celui ou celle qui voit bien qu’il fait froid chez lui aujourd’hui ?

Il nous reste alors l’examen logique. Celui qui passe les choses au crible du raisonnement, à la manière du Tiers-Instruit de Michel Serres, en combinant et en explorant les « contraires » sans les opposer, en privilégiant l’analyse, les nuances aux oppositions binaires.

Notre raison raisonnante comme tiers de confiance intérieur !

Nous voilà donc avec 3 tiers. Tiers d’autorité, tiers de confiance et « Tiers-Instruit » qui cohabitent car nous avons besoin des repères de légitimité, de crédibilité et de compréhension pour forger nos propres avis.

La clé est peut-être alors de construire le deuxième (confiance) à l’aune du troisième (l’examen logique) plus que du premier (l’autorité)

En résumé, la démocratisation de l’IA générative dans le contexte contemporain amplifie un vieux problème – le mensonge – à une échelle inédite. Cela nous force à fonder nos rapports de confiance à l’aune de notre examen critique et logique des choses plus qu’à celle de l’autorité de celles et ceux qui les affirment.

J’ai bon chef ?

Oui tu as bon mais on ne va pas en faire toute une histoire.