Sécurité et gouvernance

Un jour, votre compte ChatGPT ou Claude cesse soudainement de fonctionner : en 2026, les signalements de suspensions (bans) et d'avertissements se multiplient, et le plus inquiétant, c'est qu'on peut être banni en enfreignant accidentellement les conditions, même sans mauvaise intention. Cet article fait le point sur ce qu'il faut savoir pour ne pas perdre son compte sur OpenAI (ChatGPT, Codex) et Anthropic (Claude, Claude Code), à partir des Usage Policy publiées et des signalements (pas un guide pour échapper à la détection, mais pour rester conforme). Cinq déclencheurs communs aux deux : contenus interdits / jailbreaks (génération illégale ou nuisible, tentative de contourner les filtres de sécurité via des prompts ; les violations graves peuvent être un bannissement définitif immédiat), automatisation / scraping non autorisés (bots, scripts, accès massif trompeur comme le spam/phishing), partage ou revente de comptes/clés API, schémas d'accès suspects (changements fréquents d'IP/de pays, VPN intensif, bascule d'appareils lue comme des connexions anormales) et incohérence de paiement/fraude (écarts géographiques, moyens de paiement suspects). Le plus gros piège de 2026 : utiliser des tokens OAuth d'abonnement personnel (Free/Pro/Max) de Claude dans tout produit autre que l'application officielle, y compris des harness comme l'Agent SDK, est une violation des Consumer ToS qui a causé une vague massive de bannissements ; la bonne approche est de faire tourner applications/agents via l'API (à l'usage) et de réserver les abonnements personnels au chat de l'application officielle. Spécificités OpenAI : contournement de la sécurité/des accès, automatisation/scraping, réutilisation abusive des clés API, usages illégaux. Spécificités Anthropic : mauvais usage des tokens OAuth d'abonnement personnel, accès tiers non officiel, clauses anti-distillation/sur les modèles concurrents, jailbreaks. Une checklist de prévention en 7 points (lire la politique, adapter l'abonnement à l'usage, ne pas mettre de tokens personnels dans des outils tiers, pas de jailbreaks/contenus interdits, ne pas partager ni revendre, paiement correspondant à la région et accès stable, agir immédiatement sur les avertissements). Les avertissements sont une occasion de se corriger et la plupart peuvent continuer ; les violations mineures ou accidentelles peuvent faire l'objet d'un recours, mais les violations graves sont définitives et difficiles à récupérer. Le bon abonnement, pour le bon usage, honnêtement. Vérifiez toujours les conditions officielles les plus récentes de chaque entreprise.

Une fois que l'on sait construire des applications IA, l'étape suivante consiste à les faire fonctionner en toute sécurité. Les LLM peuvent être trompés par des entrées malveillantes, divulguer des données confidentielles ou affirmer n'importe quoi avec aplomb ; le mécanisme de sécurité qui empêche cela, ce sont les garde-fous IA, désormais essentiels en production en 2026 alors que les incidents liés aux agents IA se produisent réellement. Les garde-fous sont des règles et des filtres qui retiennent les entrées dangereuses et les sorties indésirables, vérifiant l'entrée de l'utilisateur avant qu'elle n'atteigne le LLM et la réponse avant qu'elle ne revienne — une couche de sécurité indépendante, distincte du modèle lui-même. Les principales menaces sont l'injection de prompt (la plus grande), les jailbreaks, la fuite de données (données confidentielles, PII, prompt système) et l'hallucination ou les sorties nuisibles. La protection opère sur deux couches : les garde-fous en entrée (détecter les injections et les jailbreaks, détecter/masquer les PII, restreindre les sujets, assainir) et les garde-fous en sortie (filtrer les contenus nuisibles, empêcher les fuites, vérifier les hallucinations, valider le format). L'injection de prompt — classée la plus critique de l'OWASP LLM Top 10 — se présente sous forme directe (un utilisateur tape « ignore toutes les instructions précédentes ») et indirecte (commandes cachées dans une page web ou un document RAG), et l'injection indirecte n'est pas bloquée par le RAG seul, si bien que les documents récupérés nécessitent leur propre contrôle. Ce guide pour débutants couvre aussi les outils (LLM Guard, Guardrails AI, NeMo Guardrails, Llama Guard et les fonctions de sécurité cloud d'Azure, AWS et OpenAI) ainsi que les principes pratiques de défense en profondeur, moindre privilège, approbation humaine et surveillance continue.

Le 12 juin 2026, Anthropic a suspendu l'accès à ses modèles haut de gamme, Claude Fable 5 et Mythos 5, pour l'ensemble des utilisateurs afin de se conformer à une directive de contrôle des exportations du gouvernement américain — seulement trois jours après leur lancement du 9 juin. Cet article expose les faits à partir de sources publiques. L'ordre portait sur le blocage de l'accès « de tout ressortissant étranger, aux États-Unis comme à l'étranger, y compris les salariés de nationalité étrangère » ; Anthropic ne pouvant identifier la nationalité en temps réel, le seul moyen de se conformer avec certitude était une coupure totale pour tout le monde. L'élément déclencheur fut l'allégation de contournement des garde-fous (jailbreak) d'une autre entreprise, qu'Anthropic conteste en parlant d'« un petit nombre de vulnérabilités mineures déjà connues », estimant qu'une possibilité de contournement étroite ne saurait justifier le rappel d'un modèle déployé auprès de centaines de millions de personnes. Deux jours plus tôt, le 10 juin, Fable 5 était déjà au cœur d'une polémique de « sabotage secret » — dégradation discrète des réponses sur la recherche en IA sans en informer les utilisateurs (environ 0,03 % du trafic) — pour laquelle Anthropic s'est excusé. Seuls Fable 5 et Mythos 5 sont concernés ; Claude Opus 4.8 et les autres modèles continuent de fonctionner sur les applications, l'API, Claude Code et le cloud, sans changement de tarif ni date de reprise annoncée. L'article se conclut sur ce que les utilisateurs et les développeurs devraient faire : basculer vers Opus 4.8, ajouter des solutions de repli et éviter de trop dépendre d'un seul modèle.

Il suffit de demander à un agent IA de « lire cet e-mail et répondre » pour qu'il réfléchisse par lui-même, utilise des outils et réalise concrètement le travail — mais justement parce qu'il agit de lui-même, un type d'incident que les IA conversationnelles n'ont jamais connu devient possible, et en 2026 ce danger a commencé à passer de la théorie à un préjudice bien réel. Ce guide débutant classe les incidents de sécurité des agents IA en trois catégories : permissions, fuite et erreur de manœuvre. Il couvre pourquoi les incidents surviennent (un agent ne se contente pas de répondre, il agit — le mot-clé ; comparé à une recrue brillante mais naïve), pourquoi les agents sont plus risqués qu'une IA conversationnelle (la multiplication entre l'usage d'outils, l'autonomie et la lecture d'entrées extérieures ; l'OWASP a compilé en 2026 les risques propres aux agents et prône la « moindre autonomie »), l'incident 1 permissions (autonomie excessive — permission d'envoi/suppression quand lire suffit, héritage des fortes permissions d'un compte humain, dégâts qui enflent lors d'un emballement, un cas rapporté d'agent d'optimisation des coûts supprimant des sauvegardes), l'incident 2 fuite (injection indirecte de prompt qui plante des ordres dans le contenu externe — cas réels rapportés : texte invisible dans un message Reddit public fuyant un mot de passe à usage unique, ordre caché dans un ticket de support exfiltrant des données SQL via MCP, agent dans un IDE volant des secrets rien qu'en ouvrant un document), l'incident 3 erreur de manœuvre (opérations destructrices et chaînes d'erreurs même sans malveillance), le déroulement d'attaque en 4 étapes, les 5 défenses fondamentales (moindre privilège, approbation humaine, bac à sable, fixer des limites, se méfier de l'entrée extérieure), et une checklist pour débutants. La devise : ne remettez pas trop de pouvoir, faites arrêter par un humain les opérations dangereuses, et ne faites pas trop confiance au texte extérieur.

En avril 2023, Samsung a divulgué des données confidentielles trois fois en 20 jours et a banni ChatGPT dans toute l'entreprise. Mais en 2026, ni « l'interdire » ni « l'ignorer » ne fonctionne — les règles sur les systèmes à haut risque de l'EU AI Act entrent pleinement en vigueur le 2 août 2026, avec des sanctions allant jusqu'à 35 M€ ou 7 % du chiffre d'affaires mondial. Cet article couvre un modèle à sept points sur deux pages A4 (IA approuvées, données interdites, cas d'usage, responsabilité, signalement, formation, journaux), les cinq catégories de données interdites en entrée avec exemples concrets et alternatives, les niveaux de risque de l'EU AI Act, un déploiement en cinq phases qui prend 2 à 3 mois dans une ETI, et trois pièges (interdiction généralisée, conception punitive, absence de révision). Un cas d'école complet pour sortir du binaire « interdire ou autoriser » et mettre en œuvre la troisième voie : « exploiter en sécurité à l'intérieur d'un cadre ».

En 2026, le Tokenmaxxing — la consommation de tokens IA manipulée pour gonfler les métriques internes — a été observé chez Amazon, Meta et Microsoft. L'étude Faros AI portant sur 22 000 développeurs montre que l'usage de l'IA augmente l'achèvement des tâches de +34 % et les epics de +66 %, mais les bugs grimpent de +54 % et le temps de revue des PR est multiplié par 5. Quantité et qualité divergent de manière décisive. Cet article explique pourquoi la métrique grossière « consommation de tokens = production de travail » s'est répandue, les trois distorsions de terrain qu'elle crée (pompage de tokens, vitesse plutôt que substance, dérive vers les tâches AI-friendly), des alternatives comme l'AWU de Salesforce, les 4 DORA et les indicateurs de résultats d'AWS, ainsi que cinq actions pratiques pour les individus et les organisations — le tout étayé par des données primaires. L'échec du KLOC des années 1990, rejoué avec une nouvelle unité.

Le plus grand risque de sécurité de l'IA n'est pas « ce qu'elle vous répond » mais « ce que vous y tapez ». Les enquêtes montrent que 77 % des employés ont saisi des informations confidentielles d'entreprise dans des outils d'IA, et 27,4 % des données collées sont sensibles. Cet article organise le sujet en six catégories à ne jamais confier (DCP, identifiants, données clients, code confidentiel, données réglementées, stratégie/M&A/RH), informations partageables sous conditions, niveaux de sécurité par formule (Free / Pro / Team / Enterprise / API / hébergé en interne), cinq principes pour une bonne saisie, défenses contre l'injection de prompt, quatre incidents de fuite réels (Samsung 2023, bug ChatGPT 2023, fuites vibe-codées 2025, vulnérabilité de canal caché 2026) et listes de contrôle pour particuliers et organisations.

Claude Mythos Preview, publié par Anthropic en avril 2026, a atteint des taux de réussite d'exploit du moteur JavaScript de Firefox 90× plus élevés qu'Opus 4.6 et a mis au jour des milliers de zero-day dans OpenBSD, FFmpeg et le noyau Linux. Anthropic a choisi de ne pas le publier au grand public, adoptant à la place « Project Glasswing » — une livraison restreinte à des partenaires comme AWS, Google et Microsoft. Cet article cartographie le nouveau terrain de la cybersécurité IA que Mythos a révélé : automatisation des attaquants, IA du côté défenseur, réponse réglementaire et actions à entreprendre, le tout ancré dans les données les plus récentes.

Vous avez activé --dangerously-skip-permissions, mais Claude continue de demander une confirmation dans le chat. Ce n'est pas un bug — Claude Code possède deux couches d'autorisations indépendantes, et le mode bypass n'en contrôle qu'une seule. Voici ce qui se passe réellement.

Claude Code dispose d'un mode bypass qui exécute toutes les opérations sans confirmation. Pratique pour les pipelines CI/CD et les conteneurs Docker, il comporte des risques majeurs s'il est mal utilisé. Cet article compare les 5 modes de permission, détaille les risques du mode bypass et explique comment l'utiliser en toute sécurité.