Les réponses de l'IA peuvent être factuellement fausses alors même qu'elles se lisent naturellement. Savoir créer une image ou un texte et être autorisé à le publier sont aussi deux choses différentes. Ce chapitre présente, à l'aide d'exemples concrets et d'étapes, ce qu'il faut vérifier avant de saisir des informations, avant d'utiliser une réponse et avant de publier.

Objectif de ce chapitre
Savoir repérer les erreurs dans les réponses de l'IA et vérifier par vous-même que les sources, les droits et l'autorisation de partager sont en règle. Vous apprendrez aussi des repères pour mettre en pause une saisie ou une publication lorsque vous hésitez.

Cinq points de vérification lors de l'utilisation de l'IA

Voici cinq points à garder en tête lorsque vous utilisez l'IA pour rédiger ou faire des recherches. Le degré de prudence dépend de la situation.

① Exactitude du contenu Les chiffres, les dates et les sources sont-ils corrects ? ② Droit d'utiliser les œuvres Avez-vous le droit d'utiliser les documents saisis et les productions générées ? ③ Traitement des informations saisies Conditions de conservation, d'entraînement et d'intégration, et partage autorisé ou non ④ Biais de jugement Avez-vous ajouté des attributs ou des suppositions absents du document ? ⑤ Interlocuteur et origine des informations Avez-vous considéré quelqu'un comme la personne qu'il prétend être uniquement d'après sa voix ou sa vidéo ?

Hallucinations : vérifiez même les réponses naturelles à l'aide des documents sources

L'hallucination désigne le fait pour l'IA de donner une réponse fausse mais plausible. Elle peut rédiger un contenu qui contredit les documents fournis, et ajouter même une raison ou une source crédibles pour appuyer l'erreur.[2]

Génération de texte et vérification des faits : deux processus distincts

Les modèles de langage qui génèrent du texte prédisent des tokens (unités telles que des caractères ou des fragments de mots) qui prolongent le contexte. Ils produisent souvent des contenus corrects, mais un texte qui s'enchaîne naturellement et un texte factuellement exact ne sont pas la même chose. Même avec des services qui combinent recherche ou calcul, vous devez vérifier vous-même que les documents auxquels l'IA se réfère ou les conditions du calcul sont justes.[2]

Note d'origine

La salle de réunion pour la séance de formation interne n'est que réservée provisoirement. La date et l'intervenant n'ont pas encore été fixés.

Exemple d'annonce erronée

« La séance de formation aura lieu le 12 novembre. L'intervenant sera M. Tanaka, du service commercial, et la salle de réunion est confirmée. »

La date, l'intervenant et le lieu sont tous des informations absentes de la note.

Correction fidèle à la note

« Nous prévoyons une séance de formation interne. La date et l'intervenant n'ont pas encore été fixés. La salle de réunion est réservée provisoirement, et nous vous communiquerons les détails dès qu'ils seront arrêtés. »

En mettant le texte en forme d'annonce, des éléments qui n'ont pas encore été décidés s'ajoutent. C'est un exemple courant d'hallucination.

Quatre étapes pour vérifier une réponse

  1. Repérez ce qu'il faut vérifier Relevez les chiffres, les dates, les noms de personnes, les citations et les formulations qui prennent un engagement, comme « nous organiserons… ».
  2. Ouvrez vous-même la source Vérifiez que le document existe réellement et que le passage dit bien ce que dit la réponse. Un simple lien n'est pas une preuve.
  3. Comparez dans les mêmes conditions Vérifiez que le public visé, la région, la période et les unités correspondent à l'original, et refaites vous-même les calculs. Contrôlez aussi que « prévu » n'est pas devenu « décidé ».
  4. Déterminez ce que vous pouvez utiliser Séparez les faits vérifiés des points qui ne le sont pas encore. Pour les décisions importantes, faites-les confirmer par le responsable ou un expert avant d'utiliser le contenu.

Même lorsque plusieurs IA concordent, ce n'est qu'un point de départ pour la vérification.
Elles peuvent toutes se référer à la même fausse information ou à la même source. Ne vous contentez pas de demander « Indiquez vos sources » ou « Relisez-le ». Remontez aux documents d'origine et vérifiez. Pour les méthodes concrètes, entraînez-vous dans le chapitre Vérifier les fondements d'une réponse.

En matière de droit d'auteur, il faut distinguer le droit d'utiliser l'œuvre d'autrui et la protection de votre production générée. Même si les conditions d'un service indiquent « utilisation commerciale autorisée », cela ne signifie pas que vous avez vérifié les droits sur l'œuvre d'autrui.

① Documents sources saisis

Vérifiez qui a créé l'œuvre, si vous disposez d'une autorisation ou d'une licence d'utilisation, et si des exceptions légales s'appliquent. Qu'une œuvre soit consultable sur le web ne signifie pas que vous pouvez la saisir dans une IA ou la réutiliser.

② Expression générée

Vérifiez que le résultat ne reproduit pas l'expression créative d'une œuvre existante. L'Agence japonaise pour les affaires culturelles classe la contrefaçon aux étapes de génération et d'utilisation selon les critères de ressemblance et d'accès à l'œuvre originale.[5]

③ Usages pour la publication ou la vente

Des usages sans problème au stade d'essai peuvent nécessiter des vérifications distinctes pour la publication ou la diffusion. Vérifiez ensemble la finalité, le support, la région et les conditions contractuelles.[5]

« Avoir un droit d'auteur » est une vérification distincte

Selon l'approche de l'Agence japonaise pour les affaires culturelles, il faut examiner au cas par cas dans quelle mesure une personne s'est impliquée de manière créative. Des consignes longues ou une régénération répétée ne suffisent pas, à elles seules, à déterminer une protection. Le rapport de 2025 du Copyright Office américain distingue lui aussi le cas où une personne a déterminé ou retravaillé de façon créative l'expression, et celui où elle s'est contentée de fournir une consigne (prompt).[5] [6]

« Style similaire » et « reproduction de l'expression » sont différents.
Une ressemblance de style graphique ou d'idées n'équivaut pas à une ressemblance dans l'expression créative d'une œuvre existante. Cela ne se juge pas d'après la présence du nom d'un artiste dans la consigne : comparez l'œuvre originale et le résultat. Par ailleurs, même si une production générée n'est pas reconnue comme protégée par le droit d'auteur, cela ne vous autorise pas pour autant à utiliser librement les œuvres ou marques d'autrui qu'elle contient.[5]

Exemple : si vous utilisez l'IA pour retoucher une illustration trouvée en ligne afin de l'employer dans une publicité, vérifiez les conditions d'utilisation de l'illustration d'origine, l'expression originale qui subsiste dans le résultat et les conditions applicables à l'usage publicitaire. Ne partez pas du principe que « retouché par l'IA, donc c'est permis ». Pour les cas difficiles, consultez le titulaire des droits ou la personne responsable au sein de votre organisation.

Confidentialité : ce que vous pouvez et ne pouvez pas donner à l'IA

Savoir si vous pouvez saisir une information dépend de trois éléments : le type d'information, le service et le forfait utilisés, et l'autorisation de votre organisation. Il est important de ne pas décider sur la base d'une seule condition, comme « un forfait payant est sûr » ou « c'est bon, j'ai masqué le nom ».

Considérer séparément l'entraînement, le stockage, la suppression et l'envoi

① Utilisation pour l'entraînement

Il s'agit du réglage qui détermine si les données servent à améliorer le modèle. Le désactiver ne signifie pas que votre historique disparaît ou n'est plus conservé.

② Historique et stockage

L'historique affiché à l'écran, le stockage côté service et les contrôles de sécurité sont des éléments distincts. Même les Temporary Chats peuvent être enregistrés dans certains cas.

③ Suppression des données

Vérifiez ce qui est supprimé, dans quel délai, et s'il existe des exceptions. Même si quelque chose disparaît de l'écran, le stockage côté service ou les usages passés ne sont pas forcément entièrement effacés.

④ Envoi vers l'extérieur

Les applications connectées, les liens de partage et les fonctions d'envoi sont soumis chacun à des conditions propres. Ils ne peuvent pas être évalués à partir des seuls paramètres de l'IA.

Séparer la saisie d'entraînement de la saisie du travail réel

Ne saisissez pas avant d'avoir confirmé l'autorisation
  • Informations confidentielles de l'entreprise ou code source non publié
  • Données personnelles de clients ou de partenaires commerciaux
  • Informations confidentielles qui vous ont été confiées par d'autres
  • Données financières ou de ressources humaines non publiées
  • Détails précis ou numéros permettant d'identifier une personne ou un dossier
Entraînez-vous d'abord avec des informations inexistantes
  • Entreprises, personnes ou demandes qui n'existent pas
  • Exemples que vous avez créés vous-même, sans lien avec une personne ou un dossier réel
  • Documents publics dont vous avez vérifié les conditions d'utilisation
  • Vos propres textes non publiés (après avoir confirmé qu'ils peuvent être partagés)

Les mots de passe, clés API et clés privées n'ont jamais besoin d'être saisis, ni pour la rédaction ni pour l'entraînement. De plus, même si vous remplacez un nom par « M. A », la personne peut être identifiable grâce à l'adresse, au nom du dossier, à la date et à l'heure, etc. Masquer un nom ne rend pas une information anonyme et ne vaut pas autorisation de la partager.

Vérifiez les conditions de trois services dans leur documentation officielle

Ce qui suit concerne l'usage personnel du chat (vérifié dans la documentation officielle de chaque société le 14 octobre 2026). Si vous utilisez un forfait souscrit par votre entreprise, les conditions et les paramètres d'administration diffèrent : vérifiez-les séparément.

ChatGPT

Désactiver l'utilisation pour l'entraînement ne supprime pas votre historique. D'autres conditions s'appliquent par exemple lorsque vous envoyez un avis sur une réponse, et les Temporary Chats peuvent aussi être conservés à des fins de sécurité.

Contrôles des données dans ChatGPT · Temporary Chat dans ChatGPT

Claude

Désactiver l'utilisation pour l'entraînement n'annule pas un entraînement déjà commencé. Les Incognito chats sont conservés même s'ils n'apparaissent pas dans votre historique, et le traitement de sécurité est soumis à des conditions distinctes.

Paramètres et portée de l'amélioration du modèle · Incognito chats

Gemini

Si vous désactivez Activity et n'envoyez aucun commentaire, les conversations suivantes ne serviront pas à améliorer le modèle. En revanche, les réponses, le traitement de sécurité, le stockage et la vérification humaine sont traités séparément.

Conditions relatives à Activity, au stockage et à la vérification

La mention « non utilisé pour l'entraînement » dans les forfaits entreprise ne signifie pas que les données ne sont jamais stockées, qu'elles ne sont jamais connectées à des services externes ou que personne ne les consulte. Le guide destiné aux organisations d'OpenAI recommande également de vérifier, pour chaque forfait, fonctionnalité et connexion, la manière dont sont traités le stockage et l'administration. Après avoir vérifié les termes du contrat, comparez-les avec les règles de votre organisation.

S'entraîner à réduire les saisies lors de la réponse à une demande

Ne collez pas tel quel

Une demande contenant un nom réel, des coordonnées, un numéro de commande ou un dossier non publié. Même si vous masquez le nom, l'interlocuteur ou la transaction peuvent être identifiables à partir d'autres informations.

Exemple de saisie sans données réelles

« Un partenaire commercial nous a demandé la date de livraison d'un produit. Nous n'avons pas encore fixé de date de livraison. Veuillez rédiger une réponse polie destinée à l'extérieur. Ne promettez pas de date de livraison. »

Ordre avant la saisie : limitez les informations à ce dont le but a besoin → vérifiez le traitement dans le service, le forfait et les destinations connectées → comparez avec les règles de votre organisation. Si vous ne savez pas trancher, arrêtez la saisie et essayez avec des exemples inexistants. Pour plus de détails, consultez Précautions à prendre lors de la saisie de données dans l'IA.

Si vous avez déjà saisi des informations, commencez par vérifier la portée et les conditions de suppression possibles et, s'il s'agit d'informations professionnelles, consultez le responsable de votre organisation. Par exemple, l'explication officielle de ChatGPT par OpenAI indique que l'archivage n'est pas une suppression, qu'il existe des exceptions à la durée de conservation après suppression, et que les fichiers enregistrés séparément ou les données d'origine des destinations connectées sont traités à part. Notez que la simple saisie d'informations ne signifie pas qu'elles ont servi à l'entraînement ou qu'elles ont fuité vers des tiers.

Gérer les biais et l'usurpation d'identité

Biais : la conception et l'usage comptent autant que les données

Les biais de l'IA ne proviennent pas seulement de la composition des données d'entraînement, mais aussi du jugement humain et des dispositifs sociaux ou organisationnels dans lesquels l'IA est utilisée. Des personnes d'un certain profil peuvent être traitées de façon injuste, ou la précision peut varier selon la langue ou le groupe.[7]

Exemple de dossier de candidature

Un dossier de candidature mentionne seulement « une interruption de six mois », sans en donner la raison.

Supposition à ne pas ajouter

Conclure que « il y a une interruption, donc la motivation est faible » fait entrer dans l'évaluation une supposition absente du dossier.

Comment vérifier

Indiquez que « la raison ne peut pas être déterminée à partir des documents », puis évaluez selon les mêmes critères liés au poste. Demander à l'IA un autre point de vue ne suffit pas à affirmer que le biais a disparu.

Dans les situations comme le recrutement ou l'évaluation du personnel, qui influencent le traitement des personnes, déterminez qui est concerné et quels critères servent au jugement, et prévoyez une procédure permettant de réexaminer les résultats.

Deepfakes : vérifiez l'identité même lorsque la voix ou la vidéo semblent authentiques

Les images, vidéos et enregistrements audio créés ou modifiés avec l'IA servent aussi à l'usurpation d'identité et à l'escroquerie. Le FBI cite, parmi les exemples à surveiller, les arnaques qui imitent la voix d'un proche pour demander un virement urgent, et les appels vidéo se faisant passer pour un dirigeant.[3]

  1. Ne donnez pas suite sur-le-champ Ne procédez pas sur la seule base d'une voix ou d'une vidéo lorsqu'il s'agit d'un virement urgent, d'une demande d'identifiants tels que des mots de passe, ou d'une modification des coordonnées bancaires.
  2. Rappelez vous-même Raccrochez, puis rappelez à partir d'un numéro que vous connaissez déjà ou des coordonnées officielles de l'organisation.
  3. Arrêtez-vous tant que vous n'avez pas pu vérifier Vérifiez l'identité de la personne, le contenu de la demande et l'approbation de l'organisation. Si vous ne pouvez pas vérifier, cessez l'envoi d'argent ou la communication d'informations et consultez le responsable.

Une apparence non naturelle peut être un indice, mais l'absence de signes non naturels ne garantit pas l'authenticité. Pour les images et vidéos repérées sur les réseaux sociaux, vérifiez qui les a publiées, quand, et le contexte avant de les partager. Pour les mesures au sein des entreprises, vous pouvez aussi consulter notre guide sur la sécurité des agents IA.

Lois et règles : vérifiez la région, la finalité et votre rôle

Au-delà des lois propres à l'IA, vérifiez aussi les règles liées à ce que vous faites, comme le droit d'auteur, la protection des données personnelles et la protection des consommateurs. Le point de départ est dans quelle région, dans quel but, et en tant que fournisseur ou utilisateur d'IA.

Ce qui suit repose sur les documents officiels de chaque pays et région, en date du 16 octobre 2026. Pour savoir si cela s'applique à votre usage, vérifiez le texte original via les liens ou auprès de votre service compétent en interne.

UE : les dates d'application varient selon l'usage

Le règlement européen sur l'IA (AI Act) s'applique en principe à partir du 2 août 2026. Les pratiques interdites et certaines autres dispositions entrent en application plus tôt. Certaines utilisations à haut risque, comme l'emploi et l'éducation, s'appliquent à partir du 2 décembre 2027, et l'IA à haut risque intégrée à des produits réglementés à partir du 2 août 2028, les échéances étant donc échelonnées.

Les obligations d'étiquetage des contenus générés par l'IA comportent aussi des conditions et des exceptions selon leur champ d'application et le rôle de chacun.[8]

États-Unis : les règles existantes s'appliquent aussi à l'IA

La FTC explique que les engagements de confidentialité pris envers les utilisateurs doivent être respectés, y compris pour les services d'IA, et qu'être une IA ne soustrait pas aux lois existantes.

Vérifiez quelles lois et quels contrats s'appliquent aux activités que vous utilisez ou proposez.[9]

Chine : services destinés au public et étiquetage

Les Mesures provisoires pour la gestion des services d'IA générative s'appliquent, par exemple, lorsque des services sont proposés au grand public en Chine. Les mêmes dispositions ne s'appliquent pas forcément à la recherche non ouverte au public ou à l'usage interne.

Les Mesures sur l'étiquetage des contenus synthétiques générés par IA sont entrées en vigueur le 1er septembre 2025. Vérifiez les conditions applicables aux fournisseurs et aux utilisateurs qui publient des contenus générés.[10]

Japon : promotion et gestion des risques

La loi sur la promotion de l'IA est pleinement entrée en vigueur le 1er septembre 2025. Le Cabinet Office présente à la fois la promotion de l'utilisation de l'IA et la réponse à ses risques. Le plan fondamental sur l'IA a été révisé le 14 juillet 2026.

Même lorsque l'État encourage l'utilisation, cela ne signifie pas qu'un usage particulier a été approuvé. Vérifiez aussi les droits, les contrats et les règles de votre organisation.[1]

Liste de contrôle avant utilisation et avant publication

Vérifiez votre propre travail

  • Avant la saisie : limitez-la à ce qui est nécessaire, et vérifiez le traitement par le service utilisé et si le partage est autorisé. Utilisez des exemples inexistants pour vous entraîner.
  • Avant d'utiliser une réponse : comparez les chiffres, dates, citations et engagements avec les documents d'origine, et laissez marqués comme non confirmés les points que vous ne pouvez pas vérifier.
  • Avant publication : vérifiez les droits sur les documents et les productions générées, les conditions d'étiquetage, ainsi que les destinataires et le périmètre de diffusion.
  • Décisions importantes : ne décidez pas uniquement d'après les réponses de l'IA. Consultez le responsable ou un expert.

Définissez les procédures au sein de votre organisation

  • Définissez quels services, forfaits et destinations connectées sont autorisés, et quelles informations peuvent être saisies.
  • Définissez qui valide la publication ou l'envoi, et quelles opérations nécessitent une approbation.
  • Prévoyez une procédure pour réexaminer les biais et les erreurs et corriger les décisions.
  • Définissez les contacts en cas de problème, ainsi que les procédures de suspension de l'utilisation ou d'enquête.

Résumé de ce chapitre
Avant de saisir des informations, avant d'utiliser une réponse et avant de publier, vérifiez le traitement des informations, leur concordance avec les documents sources, les droits, les biais de jugement et si votre interlocuteur est bien la personne qu'il prétend être. La vérification est un rôle essentiel de l'utilisateur, mais la responsabilité ne repose pas toujours uniquement sur lui. Selon le contrat et les actes concrets, la responsabilité des fournisseurs d'IA et des organisations peut aussi être examinée.[5] [9]

Références

  1. Cabinet Office du Japon : Présentation de la loi sur la promotion de l'IA, Plan fondamental sur l'IA.
  2. NIST : Profil de gestion des risques de l'IA générative (2024, PDF en anglais). Contenus générés erronés, et approches pour les vérifier et les gérer.
  3. FBI/IC3 : Alerte sur les escroqueries financières utilisant l'IA générative (3 décembre 2024, en anglais).
  4. Documents officiels pour la section sur la confidentialité (consultés le 14 octobre 2026) : Contrôles des données d'OpenAI, Paramètres d'amélioration du modèle d'Anthropic, Explication de Google sur la confidentialité de Gemini. Les documents individuels sur le stockage, la suppression et les chats temporaires sont accessibles aux passages concernés du texte.
  5. Agence japonaise pour les affaires culturelles : Concepts relatifs à l'IA et au droit d'auteur (mars 2024, PDF). Distingue le développement et l'entraînement, la génération et l'utilisation, et la protection par le droit d'auteur des productions générées.
  6. Copyright Office des États-Unis : Publication d'un rapport sur le droit d'auteur des œuvres générées par IA (29 janvier 2025, en anglais).
  7. NIST : Les biais de l'IA peuvent provenir d'autres sources que les données (2022, en anglais).
  8. Commission européenne : Champ d'application et calendrier d'application de l'AI Act (en anglais).
  9. FTC : Les entreprises d'IA respectent vos engagements en matière de confidentialité et de secret (2024, en anglais).
  10. Administration du cyberespace de Chine : Mesures provisoires pour la gestion des services d'IA générative, Mesures sur l'étiquetage des contenus synthétiques générés par IA (en chinois).

Dans le chapitre suivant, nous présentons les dernières tendances de l'IA. Lorsque vous utilisez des brouillons au travail, consultez aussi les étapes de relecture des e-mails.