En bref
Vous demandez à ChatGPT une règle, une date ou un conseil. La réponse arrive avec un ton assuré, des explications bien rangées et parfois des références qui semblent précises. Avant de la reprendre dans un devoir, un courriel ou une décision, il faut la traiter comme une hypothèse à contrôler.
Une réponse fluide peut cacher plusieurs problèmes
La CNIL rappelle que les modèles génératifs ne sont pas des bases de connaissances : ils produisent une réponse selon une logique probabiliste. Une formulation plausible ne garantit donc pas que l'information soit exacte. Une réponse peut aussi être inadaptée à une question portant sur un événement récent si le système ne dispose pas d'informations actualisées.
Le premier signe à examiner est l'écart entre l'assurance du texte et la solidité de ce qu'il avance. Une réponse très précise mais sans source identifiable mérite un contrôle séparé. Il en va de même pour une date, un chiffre, un nom propre, une citation ou une conclusion qui ne laisse aucune place à l'incertitude.
La CNIL indique qu'une confiance excessive dans une sortie d'IA générative, sans vérification appropriée, peut conduire à une décision erronée ou à une conclusion incorrecte. Le contrôle n'est donc pas une formalité réservée aux spécialistes : il accompagne l'utilisation de la réponse dès qu'elle doit servir de base à une action.
Ce qui peut rendre la réponse trompeuse
Une information ancienne
Une règle, un tarif, une procédure ou une personne en fonction peut avoir changé. Relevez chaque date et cherchez la version la plus récente auprès d'une source officielle ou directement auprès de l'organisme concerné. Si la réponse ne donne pas de date, demandez-vous si cette absence empêche de savoir dans quel contexte l'affirmation est valable.
Une précision non étayée
Un pourcentage, une durée, une référence ou un classement peut donner une impression de sérieux sans être accompagné d'une source contrôlable. Isolez l'affirmation et recherchez-la séparément. Une phrase qui mélange un fait établi avec une interprétation doit être découpée : vérifiez le fait, puis examinez le raisonnement qui en est tiré.
Une source imprécise ou introuvable
Demandez le titre exact du document, son auteur, sa date et l'endroit où l'information apparaît. Ouvrez ensuite la source vous-même. Une référence qui ne permet pas de retrouver le passage ne doit pas être traitée comme une preuve. Vous pouvez aussi demander à ChatGPT de distinguer ce qu'il sait, ce qu'il déduit et ce qu'il suppose, sans prendre sa réponse à cette demande comme une validation indépendante.
Un biais dans la manière de présenter le sujet
Une réponse peut sélectionner certains éléments et en laisser d'autres de côté. Demandez les arguments opposés, les cas qui ne correspondent pas à la conclusion et les hypothèses utilisées. La CNIL recommande notamment d'examiner si une sortie contient un biais susceptible de conduire à une discrimination, ainsi que de rechercher l'œuvre source en cas de soupçon de reprise d'un contenu protégé.
Vérifier sans rien ajouter à la réponse
Commencez par copier la réponse dans un espace où vous pouvez la découper. Séparez les faits, les dates, les chiffres, les causes et les recommandations. Ne contrôlez pas seulement l'idée générale : chaque élément important peut avoir un statut différent.
- Pour un fait : cherchez une page officielle, un texte primaire ou une publication d'un organisme compétent.
- Pour une date : vérifiez qu'elle correspond bien à l'événement décrit et qu'elle n'est pas dépassée.
- Pour une référence : recherchez le document par son titre, son auteur et un passage précis.
- Pour une recommandation : examinez les conditions dans lesquelles elle s'applique, ce qu'elle ne couvre pas et les conséquences d'une erreur.
- Pour une conclusion : demandez quelles prémisses la soutiennent et si une autre interprétation reste possible.
Utilisez des recherches qui pourraient contredire la réponse. Cherchez par exemple un avis officiel différent, une mise à jour plus récente ou un cas limite. Cette méthode est plus exigeante qu'une recherche destinée uniquement à confirmer ce que le texte affirme, mais elle révèle plus facilement une erreur de raisonnement.
Demandez ensuite à une autre source de répondre au même point sans lui fournir la formulation de ChatGPT. Comparez les documents, pas seulement les phrases. Une page institutionnelle, un texte réglementaire ou une publication scientifique peut confirmer un élément précis ; elle ne valide pas automatiquement toute la réponse initiale.
Quand une validation humaine change la décision
Vous pouvez utiliser ChatGPT pour préparer des questions, organiser des informations ou repérer les points à examiner. En revanche, par prudence, faites relire le cas par un professionnel compétent lorsque la réponse concerne la santé, le droit, la fiscalité, les finances, la sécurité ou une décision technique dont les conséquences seraient difficiles à corriger.
Cette démarche remplace une partie du travail de préparation, mais elle demande de rassembler les faits exacts, les documents utiles et les questions précises. Le professionnel peut tenir compte de votre situation particulière ; il ne peut pas corriger une information personnelle inexacte que vous lui transmettez.
Le signe qui doit vous faire interrompre l'usage direct de la réponse est clair : si vous vous apprêtez à prendre une décision engageante alors qu'un élément essentiel reste invérifié, demandez une validation humaine avant d'agir. Pour une question générale sans conséquence immédiate, la vérification documentaire peut rester votre méthode de travail. Pour un cas personnel à enjeu, l'échange se fait entre le temps consacré au contrôle et le coût d'une expertise contextualisée.
Une réponse contrôlée reste une réponse à utiliser avec discernement
Examinez le contexte, découpez les affirmations, retrouvez les sources et cherchez ce qui pourrait contredire la conclusion. La CNIL recommande de porter un regard critique sur les sorties générées, notamment sur leur exactitude, leurs sources, les éventuels emprunts et les biais.
Si un fait important ne peut pas être retrouvé, ne le présentez pas comme établi. Si une décision engage votre santé, vos droits, votre argent ou votre sécurité, transmettez les informations vérifiées à un professionnel et demandez-lui d'examiner le cas dans son contexte.