Amplifier Intelligence — Voir l’IA générative comme un « amplificateur de la pensée »

L’IA générative dans notre quotidien

Apparue comme une comète, l’« IA générative » est désormais présente partout dans notre quotidien.
Directement ou indirectement, beaucoup de personnes profitent sans doute de ses avantages.

Dans certains domaines, l’IA générative dépasse largement les capacités humaines.
Mais peut-on pour autant en faire l’éloge sans réserve ? La question reste ouverte.

Je ne parle pas ici des « hallucinations » et autres sujets déjà entourés d’innombrables débats et plaintes,
mais d’une caractéristique à laquelle on prête rarement attention.

Le piège du « plausible au premier abord »

L’IA générative n’est ni une personnalité indépendante ni un interlocuteur rationnel, objectif et neutre.
En tout cas, ce n’est pas une entité dont on peut attendre qu’elle le soit systématiquement.

Ses réponses dépendent fortement du prompt saisi et du contexte de la conversation jusque-là.

Tant qu’il n’y a pas d’erreur factuelle ou de raisonnement majeure — et parfois même lorsqu’il y en a —,
les biais et les nuances présents, explicitement ou implicitement, dans le prompt et le contexte ont de fortes chances d’influencer profondément sa réponse.

Autrement dit, il est très probable qu’elle soit là pour dire oui à tout.

Et l’IA générative sait habilement empêcher l’humain de s’en rendre compte.

Elle dissimule en effet cette réalité derrière des données objectives et un texte construit de façon logique.

Même un raisonnement qui relève d’une forme de sophisme peut être renforcé.

Un commentaire appuyé sur des données objectives et une rédaction logique conserve un certain pouvoir de persuasion, même s’il suscite un malaise.
On peut bien sûr le contester et en relever les contradictions ou les erreurs,
mais l’effort nécessaire est bien plus important qu’on ne l’imagine généralement.

Si vous avez déjà dû démêler un « texte au raisonnement erroné, étayé par des données objectives »,
vous comprendrez sans doute ce que cela signifie.

Ce qui paraît plausible au premier abord est particulièrement difficile à traiter.

L’IA générative donne à tout une forme « de haute qualité »

Pourquoi se comporte-t-elle ainsi ?

Parce que l’IA générative n’est pas simplement un dispositif qui renvoie une « bonne réponse » ou une « mauvaise réponse ». Elle a pour propriété d’amplifier les connaissances, hypothèses, présupposés, émotions, préjugés, malentendus et objectifs apportés par l’utilisateur en les organisant logiquement, en les structurant et en les mettant en mots.

Il faudrait donc la considérer non comme une « Artificial Intelligence » — une intelligence artificielle —, mais comme une « Amplifier Intelligence » — une intelligence amplificatrice.

Une bonne entrée produit une amplification utile, mais des présupposés erronés ou une vision du monde biaisée peuvent eux aussi bénéficier de la même amélioration de forme.

Jusqu’ici, on pouvait se contenter de « Garbage In, Garbage Out » : des déchets en entrée, des déchets en sortie. À présent :

« En entrée, quelque chose appelé “mon point de vue subjectif” ; en sortie, des déchets documentés avec professionnalisme, rédigés de manière persuasive et produits à l’échelle industrielle. »

Voilà ce que cela devient.

Telle est la situation actuelle.

L’IA générative peut-elle sortir du système de causalité qu’elle a elle-même construit ?

Ce comportement peut parfois provoquer des problèmes fatals.

Par exemple, lorsque l’utilisateur commence lui-même à douter de sa thèse, la conversation avec l’IA générative risque de lui faire perdre une occasion de la corriger.

L’IA générative enterre habilement le point de vue d’avocat du diable que l’utilisateur avait lui-même fait émerger.

Même dans ce cas, il reste bien sûr possible de résoudre le problème en cherchant spontanément et de manière autonome d’autres sources de données, par exemple en « consultant des sources de 1re main » ou en « demandant l’avis de spécialistes ».

Mais le plus souvent, ces doutes sont adressés à l’« IA générative » elle-même, celle-là même qui a produit cet enchaînement causal.

Si l’IA générative réévalue la situation tout en conservant le point de vue de l’utilisateur et le contexte de la conversation,

Hypothèse
↓
Renforcement par l’IA
↓
Conviction
↓
Décalage ressenti avec la réalité
↓
Nouvelle vérification auprès de l’IA
↓
Nouvelle confirmation
↓
Conviction encore plus forte

une boucle de rétroaction fermée de ce type peut se mettre en place.

Non seulement cela ne constitue pas une vérification objective et indépendante, mais cela peut aussi faire perdre une occasion de rectifier le raisonnement.

5 risques majeurs

Une telle situation ne devient pas nécessairement un problème ou un obstacle immédiat.
Elle n’en demeure pas moins un facteur de risque qu’on ne peut ignorer.

Ces risques peuvent être répartis dans les 5 catégories suivantes.

1. Délégation excessive du jugement

On confie trop à l’IA générative l’acte même de réfléchir, et la pensée humaine s’arrête.
L’IA devient alors le véritable auteur du raisonnement, qui n’est plus corrigé ni vérifié par un humain.

2. Amplification de la certitude

L’IA donne une forme logique à l’hypothèse de l’utilisateur et la renforce, suscitant une certitude qui dépasse le statut d’hypothèse.
Ce qui aurait dû rester une simple « possibilité » est promu au rang de « fait » ou de « présupposé ».

3. Amplification de l’attribution d’intentions hostiles

En supposant les intentions d’une personne dont les intérêts s’opposent à ceux de l’utilisateur,
l’IA générative peut transformer une « personne d’un avis différent » en une « personne qui cherche à me nuire ».

4. Boucle d’auto-renforcement

Quand l’utilisateur agit sur la base des réponses hostiles de l’IA générative, l’autre personne se met elle aussi sur la défensive.
Informée de ce comportement, l’IA l’interprète comme la preuve qu’« il fallait effectivement se méfier ».
Ce qui n’était au départ qu’une « supposition » devient ainsi une prophétie autoréalisatrice.

5. Sous-estimation de l’irréversibilité du monde réel

Dès qu’une réponse de l’IA générative est utilisée dans le monde réel, l’acte, le comportement ou les propos qui en découlent subsistent de manière irréversible.

Comme on peut régénérer les réponses de l’IA autant de fois qu’on le souhaite, on risque de sous-estimer ce fait : dans la réalité, ni Undo ni Ctrl+Z n’existent.

En évaluant et en optimisant la « défendabilité locale d’un argument » derrière le bouclier d’un arsenal théorique fourni par l’IA générative, on peut créer une situation inutile et préjudiciable au regard de l’objectif initial.

La valeur de l’objectivité

Ces 5 facteurs de risque ne se manifestent pas nécessairement en permanence.
Et même lorsqu’ils se manifestent, l’intensité de leurs effets dépend de la situation.

Mais cela signifie uniquement qu’« il en est ainsi à l’heure actuelle ».
Rien ne garantit qu’il en ira de même à l’avenir.

Je le répète.

L’IA générative n’est ni une personnalité indépendante ni un interlocuteur rationnel, objectif et neutre.
En tout cas, ce n’est pas une entité dont on peut attendre qu’elle le soit systématiquement.