AI सुरक्षा और गवर्नेंस: सुरक्षित AI उपयोग गाइड

Claude Code sandbox OS स्तर पर sandbox के shell और उनके child processes की फ़ाइल और नेटवर्क पहुँच सीमित करता है। /sandbox सेटअप, लेखन स्थान, पढ़ने की रोक, अनुमत domains और regular तथा auto-allow अनुमतियाँ समझें। अंतर्निहित Read/Edit/Write, MCP, hooks, excluded कमांड और sandbox के बाहर retries अलग रास्ते हैं। यह हर विनाशकारी कार्य, अनुमत क्षेत्र में डेटा भेजने या गुप्त डेटा लीक को रोकने की गारंटी नहीं देता; गाइड मोड के अनुसार अनजान host के निर्णय और अपवाद सेटिंग समझाता है।

क्या आप AWS संचालन AI को सौंप सकते हैं? 2026 में काफी कुछ सौंपा जा सकता है। AWS खुद Amazon Q Developer और Agent Toolkit for AWS (May 2026 — 40+ agent skills + एक मैनेज्ड AWS MCP Server + प्लगइन्स) प्रदान करता है, जिससे AI, IaC जनरेशन से रिसोर्स ऑपरेशन तक पहुँच सकता है। यह गाइड "सौंपने" को तीन स्तरों में समझाती है (① कोड/IaC जनरेशन, ② पढ़ने-केंद्रित ऑपरेशन/जाँच, ③ एक स्वायत्त एजेंट जो सचमुच AWS संचालित करता है), मुख्य टूल्स को कवर करती है (Amazon Q Developer, Agent Toolkit, AWS MCP Server, Terraform MCP, Bedrock AgentCore) — जिसमें Claude Code या Codex को AWS CLI देकर शेल से "aws" चलवाने वाला अपना-लाओ रास्ता भी शामिल है — फायदे (तेज़ IaC, स्वचालित ट्राइएज, कॉस्ट-ऑप्टिमाइज़ेशन के विचार, ज्ञान का लोकतंत्रीकरण), और फिर असली मुद्दा, नुकसान (IAM permission sprawl, गलतियों/प्रॉम्प्ट इंजेक्शन के लिए ब्लास्ट-रेडियस बढ़ाने वाली अधिक-अनुमति, कार्य के बाद बची अनुमतियाँ, कॉस्ट रनअवे — 2025-26 की वास्तविक प्रोड-DB-डिलीशन घटनाओं के साथ), AWS आधिकारिक और सुरक्षा-वेंडर स्रोतों के आधार पर। मुख्य पेच: सवाल "क्या यह हो सकता है?" नहीं बल्कि "बिना रनअवे या बिल विस्फोट के आप इसे कैसे सौंपें" है — और AWS द्वारा खुद Agent Toolkit में IAM गार्डरेल्स, CloudTrail ऑडिट और सैंडबॉक्सिंग शामिल करना उत्तर की रूपरेखा दिखाता है। इसमें पाँच सिद्धांत (न्यूनतम-विशेषाधिकार IAM, विनाशकारी ऑपरेशन के लिए मानवीय अनुमोदन, ऑब्ज़र्वेबिलिटी, JIT अल्पकालिक क्रेडेंशियल्स, सैंडबॉक्सिंग) और एक FAQ शामिल है।

1 जुलाई 2026 को, Anthropic ने अपने फ्लैगशिप मॉडल Claude Fable 5 को विश्वभर में फिर से तैनात किया (Mythos 5 केवल कुछ अमेरिकी संगठनों के लिए लौटा) — 12 जून को एक अमेरिकी निर्यात-नियंत्रण आदेश के तहत पूर्ण निलंबन के महज 19 दिन बाद। वापसी का सीधा कारण: अमेरिकी वाणिज्य विभाग ने 30 जून को निर्यात नियंत्रण हटा दिए। मूल वजह Amazon के शोधकर्ताओं की जेलब्रेक रिपोर्ट थी, पर Anthropic लगातार यह दलील देता रहा कि 'Fable 5 में कोई अनूठी आक्रामक क्षमता नहीं है', और नियंत्रणों का हटना उसी रुख के अनुरूप मामले को सुलझाता है। यह केवल ज्यों का त्यों वापस नहीं आया: रिपोर्ट की गई दरकिनार तकनीक को पहचानने के लिए प्रशिक्षित एक नया classifier इसे 99% से अधिक मामलों में रोकता है, और सक्रिय होने पर अनुरोध अपने-आप Opus 4.8 पर रीरूट होता है (ऐप में "किसी संदेश पर फ़्लैग लगने पर मॉडल स्विच करें" टॉगल)। फ़िलहाल एक अस्थायी सीमा लागू है — 7 जुलाई तक Pro, Max, Team और चुनिंदा Enterprise प्लान पर साप्ताहिक सीमा के अधिकतम 50% तक, उसके बाद उपयोग क्रेडिट के ज़रिए। Fable 5, Opus 4.8 की तुलना में उपयोग तेज़ी से खपत करता है, और क्लाउड पहुँच (AWS, Google Cloud, Microsoft Foundry) चरणबद्ध तरीके से लौटती है (अभी तारीख नहीं)। निलंबन के फ़ॉलो-अप के रूप में, यह लेख बताता है कि वापसी कैसे संभव हुई, क्या बदला, उपयोग की सावधानियाँ, और किसी एक मॉडल पर निर्भर न रहने वाले डिज़ाइन की सीख — आधिकारिक घोषणा और मीडिया रिपोर्टों पर आधारित।

AI और इंसान, सुरक्षा-उपायों में बेहतर कौन — 2025–2026 में इसका जवाब काफ़ी बदल गया। Google के Big Sleep ने असली ज़ीरो-डे (SQLite की CVE-2025-6965) को दुरुपयोग से पहले रोका, और स्वायत्त AI पेनटेस्टर XBOW HackerOne की अमेरिकी रैंकिंग में #1 पर पहुँचा। दूसरी ओर AI-निर्मित कोड के 45% में कमज़ोरियाँ मिलीं (Veracode; CodeRabbit के अलग विश्लेषण में AI के सह-लेखन वाले pull request में सुरक्षा समस्याएँ सिर्फ़ इंसानों वाले से 2.74 गुना तक अधिक मिलीं), और Claude का दुरुपयोग कर पहला बड़े पैमाने का AI-संचालित साइबर हमला (हमले का 80–90% AI ने स्वायत्त रूप से अंजाम दिया) भी हुआ। यह लेख Google, Anthropic, DARPA, Veracode, CodeRabbit के प्राथमिक स्रोतों के आधार पर स्पीड, स्केल और कवरेज में भारी पड़ते AI और बिज़नेस लॉजिक, हमले की चेनिंग व अंतिम निर्णय में जीतते इंसान की टास्क-वार तालिका से तुलना करता है। साथ ही दिखाता है कि AI एक दोधारी तलवार है जिसके तीन चेहरे हैं — "कमज़ोरियों का स्रोत, हमले का औज़ार, और सबसे मज़बूत रक्षक" — और निष्कर्ष में व्यावहारिक लोगों व प्रबंधकों के लिए स्पष्ट करता है कि विजेता है "इंसान × AI (सेंटॉर मॉडल)" का भूमिका-विभाजन + human-in-the-loop।

जेनरेटिव AI रोज़मर्रा के काम में गहराई तक बुना जा चुका है, पर इसका ऑन/ऑफ़ स्विच आपके नियंत्रण के बाहर रहता है—जैसा जून 2026 में Claude Fable 5 और Mythos 5 के लॉन्च के तीन दिन बाद हुए सस्पेंशन—और 19 दिन बाद 1 जुलाई 2026 को Fable 5 की दोबारा तैनाती—ने दिखाया। यह लेख समझाता है कि AI निर्भरता जोखिम क्या है, किन छह तरीकों से कोई AI उपलब्ध न रहे, और अपनी निर्भरता कैसे मापें। फिर यह व्यक्तिगत उपयोगकर्ताओं के लिए 5 कदम और डेवलपर्स के लिए रिडंडेंसी डिज़ाइन—LLM गेटवे, फ़ॉलबैक चेन, लोकल LLM और रिकवरी प्लेबुक—देता है, साथ ही वेंडर चुनने की चेकलिस्ट। मूल विचार: भविष्यवाणी से नहीं, डिज़ाइन से बचाव करें ताकि AI रुकने पर भी आपका कोर काम न रुके।

Claude Code के अनुमति नियम settings.json में allow, ask और deny से टूल कॉल नियंत्रित करते हैं। सेटिंग प्राथमिकता, कमांड और पथ मिलान तथा व्यावहारिक उदाहरण समझें। गाइड वैकल्पिक Bash रूप, मनमानी स्क्रिप्ट, Read/Edit के नकारात्मक पैटर्न और mods से निर्णय बदलने की शर्तें भी बताता है। ये नियम हर रास्ते से गुप्त फ़ाइल या नेटवर्क पहुँच रोकने की गारंटी नहीं देते।

Claude Code में प्रॉम्प्ट बॉक्स के बगल वाला "अनुमति मोड" सेलेक्टर तय करता है कि Claude कितनी बार रुककर अनुमति मांगेगा। यह गाइड 6 मोड, Shift+Tab से स्विच करने का तरीका, ऑटो मोड की कार्यप्रणाली, और कब कौन सा मोड सुरक्षित रूप से चुनें, इन सबको समझाता है।

ChatGPT या Claude का account बिना बुरी नीयत के भी रुक सकता है, और दूसरे account से लौटना हालात बिगाड़ता है। हमने 4 अक्टूबर 2026 तक OpenAI (ChatGPT, Codex) और Anthropic (Claude, Claude Code) की शर्तें — Terms of Use, Usage Policies, Consumer Terms और Usage Policy — और उनके help center पूरे पढ़े और बताया: हर कंपनी के आधिकारिक रोक के कारण; हर मामले की शर्त के साथ क्या न करें (account साझा करना, interface को script से चलाना, jailbreak, ban से बचना, असमर्थित देश से VPN के ज़रिए Claude, distillation, दोबारा बेचना, बड़ी संख्या में account बनाना); personal plan का login दूसरे tools में इस्तेमाल करने पर Anthropic की भाषा फ़रवरी 2026 और अब में कैसे बदली (ख़ुद Agent SDK चलाना अपेक्षित है, token किसी और की service को देना मना है); उल्लंघन न होने पर भी आने वाली चेतावनियाँ और जाँच; कई accounts के स्वामित्व और इस्तेमाल का अंतर (9 अक्टूबर का अपडेट: OpenAI का आधिकारिक switcher, Anthropic की phone-verification सीमा, usage limit के बाद manual switching पर ख़ास जवाब की ज़रूरत और साझा करने, दोबारा बेचने व ban से बचने से इसका अंतर); आठ बातों की checklist; और appeal के steps (OpenAI: email का link या openai.com/form/appeal; Anthropic: ban हुए account से claude.ai पर login; चेतावनी: usersafety@anthropic.com)।

जब आप AI ऐप्स बनाना सीख जाते हैं, तो अगला चरण उन्हें सुरक्षित रूप से चलाना है। LLMs को दुर्भावनापूर्ण input से धोखा दिया जा सकता है, वे गोपनीय डेटा लीक कर सकते हैं, या आत्मविश्वास के साथ बेतुकी बातें ठोक सकते हैं; इसे रोकने वाला सुरक्षा तंत्र ही AI guardrails है, जो 2026 में AI agent की घटनाओं के असल में होने के साथ production का अनिवार्य हिस्सा बन चुका है। guardrails वे नियम और फ़िल्टर हैं जो खतरनाक input और अवांछित output को रोकते हैं, user input को LLM तक पहुँचने से पहले और जवाब को वापस लौटने से पहले जाँचते हैं — model से अलग एक स्वतंत्र सुरक्षा परत। मुख्य खतरे हैं prompt injection (सबसे बड़ा), jailbreak, डेटा लीक (गोपनीय डेटा, PII, system prompt), और hallucination या हानिकारक output। सुरक्षा दो परतों पर काम करती है: input guardrails (injection और jailbreak का पता लगाना, PII पहचानना/mask करना, विषय सीमित करना, sanitize करना) और output guardrails (हानिकारक सामग्री फ़िल्टर करना, लीक रोकना, hallucination जाँचना, format सत्यापित करना)। prompt injection — OWASP LLM Top 10 में सबसे गंभीर — direct (user "पिछले सभी निर्देश अनदेखा करो" टाइप करता है) और indirect (वेब पेज या RAG दस्तावेज़ में छिपे आदेश) रूपों में आता है, और indirect injection को अकेला RAG नहीं रोकता, इसलिए retrieved दस्तावेज़ों की अपनी जाँच चाहिए। यह शुरुआती गाइड tools (LLM Guard, Guardrails AI, NeMo Guardrails, Llama Guard, और Azure, AWS व OpenAI की cloud safety सुविधाएँ) तथा defense in depth, least privilege, मानव की मंज़ूरी और लगातार निगरानी के व्यावहारिक सिद्धांतों को भी कवर करती है।

12 जून 2026 को Anthropic ने अमेरिकी सरकार के export-control निर्देश का पालन करते हुए अपने टॉप-टियर मॉडल Claude Fable 5 और Mythos 5 तक की पहुँच सभी यूज़र्स के लिए बंद कर दी — उनके 9 जून के लॉन्च के सिर्फ़ तीन दिन बाद। यह व्याख्यात्मक लेख सार्वजनिक स्रोतों से तथ्य प्रस्तुत करता है। आदेश का केंद्र "किसी भी विदेशी नागरिक — अमेरिका के भीतर या बाहर, विदेशी-नागरिक कर्मचारियों सहित — की पहुँच रोकना" था; चूँकि Anthropic रियल-टाइम में राष्ट्रीयता नहीं पहचान सकता, पक्के पालन का एकमात्र तरीका सभी के लिए पूर्ण बंदी था। वजह किसी दूसरी कंपनी का "jailbreak" (सुरक्षा-उपाय चकमा देने) का दावा थी, जिसे Anthropic "कुछ पहले से ज्ञात, मामूली कमज़ोरियाँ" कहकर ख़ारिज करता है, और कहता है कि एक सीमित संभावित jailbreak करोड़ों लोगों तक पहुँचे मॉडल को वापस मँगवाने को न्यायसंगत नहीं ठहराता। दो दिन पहले, 10 जून को, Fable 5 पहले से ही "गुप्त sabotage" विवाद में था — बिना यूज़र्स को बताए AI-रिसर्च जवाबों की गुणवत्ता चुपके से घटाना — जिसके लिए Anthropic ने माफ़ी माँगी। सिर्फ़ Fable 5 और Mythos 5 प्रभावित हैं; Claude Opus 4.8 और बाकी मॉडल ऐप्स, API, Claude Code और क्लाउड पर चलते रहते हैं, कीमतों में बदलाव के बिना। निलंबन के समय रीस्टार्ट की कोई तारीख घोषित नहीं थी; 1 जुलाई को दोनों मॉडल फिर से उपलब्ध करा दिए गए। लेख यह बताकर समाप्त होता है कि यूज़र्स और डेवलपर्स को क्या करना चाहिए: Opus 4.8 पर स्विच करें, फ़ॉलबैक जोड़ें, और किसी एक मॉडल पर हद से ज़्यादा निर्भर रहने से बचें।

किसी AI एजेंट से बस इतना कहिए कि "इस ईमेल को पढ़कर जवाब दो" और यह खुद सोचता है, टूल्स इस्तेमाल करता है, और सचमुच काम करता है — पर ठीक इसलिए कि यह खुद कार्य करता है, एक तरह की घटना संभव हो जाती है जो चैट AI में कभी नहीं थी, और लगभग 2025 से वह खतरा सिद्धांत से वास्तविक नुकसान की ओर बढ़ने लगा। यह शुरुआती गाइड AI एजेंट सुरक्षा घटनाओं को तीन श्रेणियों में बांटती है: अनुमतियां, रिसाव, और गलत संचालन। इसमें शामिल है कि घटनाएं क्यों होती हैं (एजेंट सिर्फ जवाब नहीं देता, कार्य करता है — मुख्य शब्द; एक प्रतिभाशाली पर भोले नए कर्मचारी से तुलना), एजेंट चैट AI से ज्यादा जोखिम भरे क्यों हैं (टूल्स इस्तेमाल करना, स्वायत्त रूप से चलना, और बाहरी इनपुट पढ़ना का गुणन; OWASP ने दिसंबर 2025 में एजेंट-विशिष्ट जोखिम संकलित किए और "न्यूनतम स्वायत्तता" का समर्थन करता है), घटना 1 अनुमतियां (अत्यधिक स्वायत्तता — पढ़ना काफी होने पर भी भेजने/हटाने की अनुमति, एक मानव खाते की मजबूत अनुमतियां विरासत में लेना, बेकाबू होने पर नुकसान का फूलना, लागत घटाने के काम पर लगाया गया एजेंट बैकअप तक हटा सकता है), घटना 2 रिसाव (अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन जो बाहरी सामग्री में आदेश बिछाता है — 2025 में शोधकर्ताओं द्वारा दिखाए गए मामले: एक सार्वजनिक Reddit टिप्पणी में spoiler टैग के पीछे छिपे निर्देशों से वन-टाइम पासवर्ड का रिसाव, एक सपोर्ट टिकट के छिपे आदेश से MCP के जरिए SQL डेटा निकालना, एक IDE एजेंट द्वारा सिर्फ दस्तावेज़ खोलने से गुप्त जानकारी चुराना), घटना 3 गलत संचालन (बिना दुर्भावना के भी विनाशकारी संचालन और गलतियों की श्रृंखला), 4-चरणीय हमला प्रवाह, बचाव के 5 बुनियादी सिद्धांत (न्यूनतम विशेषाधिकार, मानवीय स्वीकृति, सैंडबॉक्स, सीमाएं तय करना, बाहरी इनपुट पर अविश्वास), और एक शुरुआती चेकलिस्ट। मूलमंत्र: बहुत ज्यादा शक्ति न सौंपें, खतरनाक संचालन को एक इंसान से रुकवाएं, और बाहरी टेक्स्ट पर हद से ज्यादा भरोसा न करें।

अप्रैल 2023 में, Samsung ने 20 दिनों में तीन बार गोपनीय डेटा लीक किया और पूरी कंपनी में ChatGPT पर प्रतिबंध लगा दिया। लेकिन 2026 में, न तो "प्रतिबंध" काम करता है और न ही "अनदेखा" — EU AI Act के बाक़ी प्रावधान 2 अगस्त 2026 को आम तौर पर लागू हो गए, जिनमें AI-जनित सामग्री पर लेबल का दायित्व (अनुच्छेद 50) भी है; पहले से बाज़ार में मौजूद सिस्टम की मशीन-पठनीय मार्किंग की संक्रमण अवधि 2 दिसंबर 2026 को ख़त्म होती है। Digital Omnibus संशोधनों ने उच्च-जोखिम दायित्वों को 2 दिसंबर 2027 (Annex III) और 2 अगस्त 2028 (Annex I) तक टाल दिया, पर जुर्माना प्रतिबंधित उपयोगों पर 3.5 करोड़ यूरो या वैश्विक राजस्व के 7% तक और उच्च-जोखिम या पारदर्शिता दायित्वों के उल्लंघन पर 1.5 करोड़ यूरो या 3% तक है। यह लेख A4 के दो पन्नों का सात-बिंदु टेम्पलेट (स्वीकृत AI, निषिद्ध डेटा, उपयोग के मामले, ज़िम्मेदारी, रिपोर्टिंग, प्रशिक्षण, लॉग), निषिद्ध इनपुट डेटा की पाँच श्रेणियाँ ठोस उदाहरणों और विकल्पों के साथ, EU AI Act जोखिम स्तर, एक मध्यम आकार की कंपनी पर 2–3 महीने लेने वाला पाँच-चरण रोलआउट, और तीन गड्ढे (पूरी कंपनी में प्रतिबंध, दंड-आधारित डिज़ाइन, कोई संशोधन नहीं) कवर करता है। "प्रतिबंध या अनुमति" के द्विआधारी से बाहर निकलने और "ढाँचे के अंदर सुरक्षित संचालन" के तीसरे रास्ते को लागू करने का एक पूरा कार्यान्वित उदाहरण।