Les Carnets de l’IA

Comprendre l’IA.
Garder le sens critique.

La newsletter
Esprit critique · Décryptages

Une réponse convaincante n’est pas toujours une réponse juste.

Sources, dates, citations : les réflexes qui permettent de garder un regard critique sur les réponses de l’IA.

L’essentiel en une minute

Un texte fluide peut contenir une erreur. Pour une information qui compte, retrouvez la source, vérifiez ce qu’elle dit et regardez la date. Demander à l’IA de se corriger ne remplace pas cette vérification.

La confiance du ton ne prouve rien

Le profil consacré à l’IA générative publié par le NIST décrit le risque de « confabulation » : un système peut produire et présenter avec assurance des informations erronées. Le document inclut dans ce risque les citations ou les justifications fabriquées.

Le problème pratique est familier : la réponse se lit facilement et paraît terminée. Cette impression de finition peut nous faire oublier la question la plus élémentaire : d’où vient cette information ?

Remonter jusqu’à la source

Imaginons une réponse qui annonce une nouvelle fonction dans un outil. Avant de reprendre cette annonce, nous proposons une vérification en trois temps : ouvrir le lien, retrouver le passage pertinent et comparer son contenu avec la formulation de l’IA.

Un lien qui fonctionne ne suffit pas. Il peut conduire à un article sur un autre produit, à une ancienne version ou à une page qui ne dit pas ce que le résumé lui fait dire. L’existence de la source et le soutien qu’elle apporte à l’affirmation sont deux vérifications distinctes.

Faire attention à la date

La date de publication d’un article et la date de l’événement qu’il rapporte peuvent être différentes. Dans notre exemple, un article récent peut revenir sur une annonce ancienne. Une fonction annoncée peut également être limitée à une région, un abonnement ou une phase de test.

La bonne question est alors : qu’est-ce que cette source permet d’affirmer, pour qui, et à quel moment ? Cette question évite de transformer un cas particulier en règle générale.

Séparer le fait et l’interprétation

« L’entreprise annonce une fonction » est une information vérifiable. « Cette fonction va changer notre manière de travailler » est une interprétation. Les deux peuvent avoir leur place dans un article, à condition que le lecteur puisse les distinguer.

Lors d’une relecture, on peut surligner les faits à contrôler et reformuler les conclusions comme des hypothèses lorsqu’elles dépassent les éléments disponibles. Cette pratique rend le désaccord plus simple et la discussion plus utile.

Ajuster l’effort à la conséquence

Pour trouver un titre provisoire, une erreur se corrige facilement. Pour une décision engageante, il faut davantage qu’une réponse plausible. Notre conseil éditorial est de décider à l’avance ce qui devra être vérifié et par qui, puis de conserver les références utiles avec le résultat.

Sources & prolongements

NIST, Generative Artificial Intelligence Profile (juillet 2024), section 2.2

Texte préparé avec l’aide de l’IA. Les références permettent de retrouver les éléments factuels ; les exemples et les pistes de travail sont des propositions éditoriales.

LA LETTRE DES CARNETS DE L’IA

Les Carnets de l’IA.
Dans votre boîte mail.

Nos décryptages, les usages qui méritent un essai et les questions qui font avancer. Une lettre de Pierre et Damien, bientôt.