Jusqu'aux chapitres précédents, nous avons présenté la commodité de l'IA et ses usages. Mais pour vraiment « maîtriser » l'IA, il est indispensable de comprendre correctement les risques. Connaître les risques n'est pas pour avoir peur de l'IA. Comme apprendre « à se servir du frein » quand on conduit, c'est le savoir de base pour l'utiliser en toute sécurité.
Les risques ne sont pas « effrayants », ce sont des choses « à connaître »
Les 5 grands risques de l'IA
Les risques à connaître pour utiliser l'IA se rangent grosso modo en 5. Chacun a une nature différente, alors commençons par la vue d'ensemble. Nous les creusons un à un ci-dessous.
Phénomène où l'IA sort, l'air très sûre d'elle et de façon crédible, des informations sans fondement factuel. Le plus grand risque de l'IA.
Un double débat : les données d'entraînement et les productions. Des procès sont en cours partout dans le monde.
Les données saisies peuvent servir à l'entraînement. Une fois saisie, l'information ne peut plus être retirée.
Les préjugés sociaux contenus dans les données d'entraînement se répercutent tels quels dans la sortie.
Des médias truqués indiscernables, créés par l'IA. Détournés pour l'arnaque et l'usurpation d'identité.
L'hallucination — l'IA ment avec un aplomb total
L'hallucination (Hallucination) est le phénomène où l'IA sort, comme si c'était vrai et avec un aplomb total, des informations sans fondement factuel. On peut sans exagérer la qualifier de plus grand risque de l'usage de l'IA.
Pourquoi cela se produit — comprendre le mécanisme
L'IA fonctionne sur le principe de « prédire le mot ayant le plus de chances de venir ensuite ». Autrement dit, elle ne sort pas « ce qui est vrai », mais seulement « ce qui est crédible ». L'IA ne juge pas du vrai ou du faux. Elle ne consulte pas un dictionnaire : elle ne fait que de la correspondance de motifs.
Le taux d'hallucination varie fortement selon le modèle. Un banc d'essai de 2025 donne 0,7 % pour le meilleur modèle (Gemini 2.0 Flash), tandis que certains modèles atteignaient près de 30 % d'hallucinations[2]. Les progrès sont réels, mais on n'atteint pas zéro.
Des cas réels survenus
- Jurisprudence fictive — un avocat américain a soumis à un tribunal une jurisprudence trouvée avec ChatGPT ; or les affaires citées n'existaient pas (2023)
- Articles fictifs — génération, l'air crédible, de titres d'articles et de noms d'auteurs inexistants
- Statistiques erronées — affirmer « le marché de X pèse Y milliards » avec un chiffre très éloigné de la réalité
- Domaine du droit — selon une étude de l'Université Stanford, le taux d'hallucination sur des requêtes juridiques peut atteindre 69 à 88 %[2]
4 parades
L'hallucination se traite non pas en la « ramenant à zéro », mais par un « dispositif pour la déceler ». Faites des 4 étapes suivantes une habitude.
Demandez « quelle est la source qui étaye cela ? ». Méfiez-vous d'une affirmation sans source.
Chiffres, textes de loi, noms : confirmez impérativement auprès d'une source primaire (site officiel, texte original).
Posez la même question à plusieurs IA et, si les réponses divergent, prenez-le comme un signal d'alerte.
Renseignez-vous avec une IA de recherche qui répond avec des liens de sources, comme Perplexity ou Gemini.
Les informations les plus à surveiller : données statistiques et chiffres, noms de personnes et noms propres, droit et fiscalité, actualité récente, soit 4 catégories. Vérifiez-les impérativement auprès d'une source primaire.
💡 Astuce pratique : avec une IA reliée à la recherche Web, comme Perplexity ou Gemini, la réponse revient avec des liens de sources. Pour les tâches de recherche importantes, adapter ces IA de recherche est une manière avisée de faire. En entreprise, l'adoption de garde-fous IA, qui préviennent par dispositif les réponses erronées de l'IA, progresse aussi.
Le droit d'auteur — peut-on l'utiliser ? à qui appartient ce qu'on crée ?
La question du droit d'auteur et de l'IA comporte grosso modo 2 volets : « a-t-on le droit d'utiliser des œuvres protégées pour l'entraînement de l'IA » et « ce que l'IA a créé est-il protégé par le droit d'auteur ».
Question 1 : les données d'entraînement de l'IA et le droit d'auteur
Les modèles d'IA sont entraînés sur d'énormes quantités de contenus d'Internet (textes, images, code, etc.). Des procès éclatent partout dans le monde, au motif que des œuvres sont utilisées sans l'autorisation des titulaires de droits.
| Procès | Résumé | Situation (en 2026) |
|---|---|---|
| NYT vs OpenAI | Le New York Times poursuit pour entraînement non autorisé sur ses articles | En cours |
| Getty vs Stability AI | Poursuite pour entraînement non autorisé sur des photos | En cours |
| Action collective d'artistes | Œuvres utilisées sans autorisation pour l'entraînement d'IA de génération d'images | Plusieurs en cours |
| Yomiuri, Asahi, Nikkei vs Perplexity | Usage non autorisé d'articles, demande de dommages-intérêts d'environ 6,6 milliards de yens au total | Poursuite en 2025 |
Question 2 : le droit d'auteur des productions d'IA
La reconnaissance ou non d'un droit d'auteur sur un contenu généré par l'IA varie selon les pays.
Ce qui est généré de façon autonome par l'IA n'a pas de droit d'auteur. Toutefois, en cas d'intervention créative humaine, une protection est possible.
Le Copyright Office adopte la position « pas de droit d'auteur pour une production d'IA seule ». En cas de contrôle créatif humain, une reconnaissance partielle est possible.
L'élaboration des règles est en cours concernant le droit d'auteur des productions d'IA.
Ce à quoi vous devez faire attention
- Pour un usage commercial, vérifiez impérativement les conditions d'utilisation de chaque service
- En génération d'images, ne spécifiez pas le nom d'un artiste précis (« à la manière de X » est source de litiges de droit d'auteur)
- Vérifiez que la sortie de l'IA ne ressemble pas à une œuvre existante
- Le cas échéant, indiquez qu'il s'agit d'une génération IA
La confidentialité — que peut-on confier à l'IA
En 2023, un employé de Samsung Electronics a saisi dans ChatGPT du code confidentiel interne, ce qui a fait grand bruit. Cet incident a incité de nombreuses entreprises à établir une politique sur la saisie d'informations dans l'IA.
Les données saisies dans l'IA peuvent servir à l'amélioration du service ou à l'entraînement du modèle. Agissez en partant du principe que « une information une fois saisie ne peut plus être retirée ». Ce qu'il faut saisir et comment est expliqué en détail dans Précautions à prendre pour la saisie dans l'IA.
- Informations confidentielles, code source non publié de l'entreprise
- Données personnelles de clients ou partenaires
- Mots de passe, clés API, identifiants d'authentification
- Données financières ou RH non publiées
- Informations secrètes confiées par autrui
- Informations déjà rendues publiques
- Données anonymisées (noms de personnes ou de sociétés)
- Textes que vous avez écrits et destinés à être publiés
- Communiqués de presse, documents publics
- Données fictives ou d'exemple
Mesures concrètes de protection des données
| Mesure | Explication |
|---|---|
| Désactiver l'historique | ChatGPT comme Claude permettent, dans les réglages, de stopper l'usage des données de conversation pour l'entraînement |
| Version entreprise | Les offres pour entreprises garantissent que les données ne servent pas à l'entraînement |
| Anonymisation | Avant de saisir, remplacez les noms de personnes par « M. A », les noms de sociétés par « société X » |
| Exécution locale | Exécuter un modèle open source sur votre propre PC, avec Ollama, par exemple |
💡 Le critère en cas de doute : demandez-vous « serait-ce gênant si cette information était rendue publique sur Internet ? ». Si la réponse est « oui », vous ne devez pas la saisir dans l'IA. En cas d'usage à l'échelle d'une organisation, mieux vaut formaliser une charte d'usage de l'IA en entreprise.
Biais et deepfakes
Biais de l'IA — le déséquilibre des données d'entraînement apparaît dans la sortie
Le biais de l'IA est le phénomène où les préjugés sociaux contenus dans les données d'entraînement de l'IA se répercutent tels quels dans la sortie. L'IA ne sort pas « la bonne réponse » mais tend à sortir « la réponse majoritaire dans les données d'entraînement ».
- Biais de genre — générer des images d'« infirmier » ne donne que des femmes, d'« ingénieur » que des hommes
- Biais culturel — tendance à des réponses biaisées vers les valeurs anglophones et occidentales
- Biais de confirmation — reflète excessivement l'opinion majoritaire, et le point de vue des minorités disparaît
Parade : ne prenez pas la réponse de l'IA pour argent comptant et prenez l'habitude de demander « réfléchis aussi sous un autre angle », « donne aussi l'avis contraire ». Pour des décisions importantes comme le recrutement ou l'évaluation RH, il est particulièrement crucial de ne pas faire du jugement de l'IA l'unique fondement.
Deepfake — de la désinformation indiscernable
Les techniques d'IA de génération réaliste d'images, de vidéos et de sons ont progressé, et le risque des deepfakes (médias truqués créés par l'IA) explose. On estime que les deepfakes sur les réseaux sociaux sont passés de 500 000 en 2023 à 8 millions en 2025[3].
- Arnaque au clonage de voix — arnaque téléphonique imitant par IA la voix d'un proche ou d'un supérieur. Un clone se crée à partir de quelques secondes d'échantillon audio
- Fausses vidéos — manipulation de l'opinion ou usurpation via de fausses vidéos de personnalités ou de responsables politiques
- Fausses infos — diffusion massive d'articles de presse crédibles générés par IA
🛡️ Comment se protéger
- Pour un appel urgent du type « fais vite un virement », vérifiez l'identité de la personne par un autre moyen
- Vérifiez la source d'une image ou vidéo choquante vue sur les réseaux sociaux
- Gardez toujours un certain doute envers un contenu susceptible d'avoir été généré par IA
Avec la diffusion des agents IA, de nouvelles attaques, y compris de tels détournements, apparaissent. Pour le point de vue des entreprises, l'analyse des incidents de sécurité liés aux agents IA est aussi une référence utile.
Les tendances réglementaires mondiales — la mise en place des règles a commencé
Pour répondre aux risques de l'IA, les législations avancent à marche forcée dans le monde entier.
| Région | Réglementation | Caractéristiques |
|---|---|---|
| UE | AI Act (adopté en 2024) | Réglementation fondée sur le risque. Critères stricts pour les IA à haut risque (recrutement, médecine, justice). Application progressive à partir de 2025 |
| Japon | Loi de promotion de l'IA (adoptée en mai 2025) | Approche « priorité à l'innovation ». Privilégie la promotion à la réglementation tout en mettant en place des normes de sécurité |
| États-Unis | Décret présidentiel sur la sûreté de l'IA | Pas encore de loi fédérale globale. La réglementation avance État par État |
En décembre 2025, le Japon a adopté en Conseil des ministres son « Plan de base pour l'IA » et prévoit d'investir 1 000 milliards de yens dans l'IA sur 5 ans[1]. L'approche « à la japonaise », qui ne durcit pas trop la réglementation et met en place des normes de sécurité tout en promouvant l'innovation, retient l'attention.
Check-list de sécurité pour l'usage de l'IA
Une fois les risques compris, comment agir concrètement ? Nous avons rassemblé des check-lists pour chaque position, individu et organisation.
- Ne pas croire la sortie sur parole — vérifiez impérativement l'information importante auprès d'une source primaire
- Ne pas saisir d'informations confidentielles — jugez par « est-ce gênant si c'est rendu public ? »
- Vérifier chiffres et noms propres — le domaine où l'hallucination est la plus fréquente
- Faire attention aux biais — restez attentif à un éventuel déséquilibre de la sortie
- Vérifier le droit d'auteur — pour un usage commercial, vérifiez impérativement les conditions d'utilisation
- Indiquer correctement l'usage de l'IA — divulguez l'usage de l'IA dans un rapport ou un article
- La responsabilité finale vous incombe — la responsabilité des résultats d'un usage de l'IA revient à l'utilisateur
- Établir et diffuser une politique d'usage de l'IA — formalisez ce qu'on peut saisir, et dans quelle tâche
- Former le personnel — enseignez le bon usage de l'IA et ses risques
- Circuit de vérification des productions IA — mettez en place un contrôle humain avant publication
- Envisager la version entreprise — étudiez les offres pour entreprises, aux garanties de traitement des données renforcées
- Préparer une procédure de gestion des incidents — décidez à l'avance du circuit de réponse en cas de problème
- Les risques de l'IA ne sont pas « effrayants » mais « à connaître ». Nous avons balayé les 5 grands risques.
- La base de la parade contre l'hallucination, c'est la vérification — 4 étapes : exiger la source, source primaire, comparer plusieurs IA, exploiter une IA de recherche.
- La base de la protection de la vie privée, c'est le test « est-ce gênant si c'est rendu public ? ». Ne saisissez pas de confidentiel.
- Attention aussi au droit d'auteur, aux biais et aux deepfakes, et n'oubliez pas que la responsabilité finale incombe à l'utilisateur.
- EU AI Act, loi japonaise de promotion de l'IA, etc. : la réglementation mondiale se met en place à marche forcée.
Références
- "Japan adopts first AI basic plan." The Japan Times, December 23, 2025.
- Vectara. "Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. "Legal Hallucination Study." 2025.
- Deepstrike. "Deepfake Statistics 2025." deepstrike.io, 2025.
Liens connexes :
- EU AI Act Explorer — texte intégral et commentaire de la réglementation IA de l'UE
- Politiques IA du ministère japonais des Affaires intérieures — aperçu de la politique IA du Japon
Au chapitre suivant, nous détaillons les dernières tendances de l'IA — l'IA multimodale, les agents IA et les tendances 2025-2026.