सामग्री पर जाएँ
विषय

AI शुरुआती गाइड: AI टूल्स से कैसे शुरू करें

AI में नए हैं? यहां से शुरू करें। AI कॉन्सेप्ट, टूल चयन और प्रैक्टिकल पहले कदम की आसान गाइड।

72 लेख

लेखों को क्रमबद्ध करें

Reranking क्या है? RAG की सटीकता बढ़ाने वाली two-stage retrieval — शुरुआती गाइड

Reranking क्या है? RAG की सटीकता बढ़ाने वाली two-stage retrieval — शुरुआती गाइड

आपने RAG तो बना लिया, पर search की क्वालिटी औसत है — ठीक यहीं reranking काम आती है। Reranking, embedding (vector) search से मोटे तौर पर जुटाए गए candidates को query से उनकी relevance के आधार पर फिर से score करती है और उन्हें फिर से क्रम में लगाकर सिर्फ़ टॉप वाले रखती है; यह एक कदम किसी RAG सिस्टम के जवाब की क्वालिटी को नाटकीय रूप से बदल सकता है। यह शुरुआती गाइड बताती है कि reranking क्या है (पहली-छँटाई-और-आख़िरी-इंटरव्यू वाली उपमा), यह क्यों ज़रूरी है (embedding search query और दस्तावेज़ों को अलग-अलग vector में बदलता है, इसलिए relevance को सिर्फ़ मोटे तौर पर आँकता है, और ख़राब क्रम सीधे जवाब की क्वालिटी घटाता है — शोध दिखाते हैं कि reranking retrieval की सटीकता काफ़ी बढ़ा सकती है, और इसे hybrid search पर चढ़ाना 2026 का मानक है), two-stage retrieval कैसे काम करती है (recall के लिए तेज़ embedding search से "व्यापक रूप से जुटाएँ," फिर precision के लिए reranker से "समझदारी से छाँटें," फिर टॉप को LLM को सौंपें), reranker ज़्यादा सटीक क्यों है (bi-encoder query और दस्तावेज़ को अलग-अलग vector में बदलता है, तेज़ पर अनुमानित; cross-encoder उन्हें एक साथ feed करके 0–1 relevance score देता है, सटीक पर भारी — इसलिए तेज़ bi-encoder से जुटाएँ और सटीक cross-encoder से छाँटें), और मॉडल व implementation (API प्रकार जैसे Cohere Rerank, Voyage, Jina; open-source जैसे BGE reranker, mixedbread, FlashRank; और LLM-आधारित scoring जैसे RankLLM — बस 50–100 retrieve करें और टॉप 5 तक छाँटें)। सिद्धांत: व्यापक रूप से जुटाएँ, समझदारी से छाँटें, और संख्याओं को AI evals से ट्यून करें।

AI guardrails क्या हैं? Prompt injection से बचाव और input/output सुरक्षा — शुरुआती गाइड

AI guardrails क्या हैं? Prompt injection से बचाव और input/output सुरक्षा — शुरुआती गाइड

जब आप AI ऐप्स बनाना सीख जाते हैं, तो अगला चरण उन्हें सुरक्षित रूप से चलाना है। LLMs को दुर्भावनापूर्ण input से धोखा दिया जा सकता है, वे गोपनीय डेटा लीक कर सकते हैं, या आत्मविश्वास के साथ बेतुकी बातें ठोक सकते हैं; इसे रोकने वाला सुरक्षा तंत्र ही AI guardrails है, जो 2026 में AI agent की घटनाओं के असल में होने के साथ production का अनिवार्य हिस्सा बन चुका है। guardrails वे नियम और फ़िल्टर हैं जो खतरनाक input और अवांछित output को रोकते हैं, user input को LLM तक पहुँचने से पहले और जवाब को वापस लौटने से पहले जाँचते हैं — model से अलग एक स्वतंत्र सुरक्षा परत। मुख्य खतरे हैं prompt injection (सबसे बड़ा), jailbreak, डेटा लीक (गोपनीय डेटा, PII, system prompt), और hallucination या हानिकारक output। सुरक्षा दो परतों पर काम करती है: input guardrails (injection और jailbreak का पता लगाना, PII पहचानना/mask करना, विषय सीमित करना, sanitize करना) और output guardrails (हानिकारक सामग्री फ़िल्टर करना, लीक रोकना, hallucination जाँचना, format सत्यापित करना)। prompt injection — OWASP LLM Top 10 में सबसे गंभीर — direct (user "पिछले सभी निर्देश अनदेखा करो" टाइप करता है) और indirect (वेब पेज या RAG दस्तावेज़ में छिपे आदेश) रूपों में आता है, और indirect injection को अकेला RAG नहीं रोकता, इसलिए retrieved दस्तावेज़ों की अपनी जाँच चाहिए। यह शुरुआती गाइड tools (LLM Guard, Guardrails AI, NeMo Guardrails, Llama Guard, और Azure, AWS व OpenAI की cloud safety सुविधाएँ) तथा defense in depth, least privilege, मानव की मंज़ूरी और लगातार निगरानी के व्यावहारिक सिद्धांतों को भी कवर करती है।

embedding (vector) क्या है? अर्थ कैसे संख्या बनता है, उपयोग और model का चुनाव

embedding (vector) क्या है? अर्थ कैसे संख्या बनता है, उपयोग और model का चुनाव

RAG, semantic search और सिफ़ारिशें सभी एक अनसुने मेहनती कारीगर पर निर्भर हैं: embedding (vector)। embedding टेक्स्ट (या छवि) के अर्थ को संख्याओं की एक श्रृंखला — एक vector — में बदलना है। "कुत्ता" शब्द सैकड़ों से हज़ारों संख्याओं की सूची बन जाता है जो "अर्थ के निर्देशांक" की तरह काम करती है, इसलिए अर्थ में नज़दीक शब्द पास-पास बैठते हैं ("कुत्ता" और "पिल्ला" नज़दीक; "कुत्ता" और "कार" दूर), और नज़दीकी को cosine similarity जैसे मापों से आँका जाता है। प्रसिद्ध उदाहरण: "राजा − पुरुष + स्त्री ≈ रानी"। इसी कारण, अक्षर मेल न खाने पर भी मशीन यह आँक सकती है कि अर्थ नज़दीक है या नहीं। यह शुरुआती गाइड बताती है कि embedding क्या है (एक "अर्थ का नक्शा"), नज़दीकी से अर्थ क्यों मापा जाता है (dimensions और cosine similarity), इसका उपयोग कहाँ होता है (RAG, semantic search, वर्गीकरण और दोहराव-हटाना, सिफ़ारिशें और multimodal), embedding model कैसे चुनें (API प्रकार जैसे OpenAI text-embedding-3, Cohere, Gemini, Voyage; open-source जैसे BGE-M3, Nomic, Qwen3; साथ ही Matryoshka, जिससे कुछ नए model बाद में dimensions घटा सकते हैं, जैसे OpenAI के 3,072 को 1,024 तक, थोड़ी सटीकता छोड़कर लगभग एक-तिहाई storage में), और vector DB (Pinecone, Weaviate, Qdrant, Chroma, pgvector) के साथ तीन-चरण शुरुआत (model चुनें, दस्तावेज़ vector में बदलकर संग्रहित करें, सवाल को vector में बदलकर search करें)। embedding, RAG लागू करने की नींव हैं।

AI evals (और LLM-as-judge) क्या हैं? यह कैसे काम करता है, biases और उपकरण — शुरुआती गाइड

AI evals (और LLM-as-judge) क्या हैं? यह कैसे काम करता है, biases और उपकरण — शुरुआती गाइड

आपने prompts निखारे, RAG से ज्ञान जोड़ा, शायद fine-tuning भी की — तो कैसे पक्का करें कि यह सचमुच बेहतर हुआ? यहीं AI evals मुख्य भूमिका में आते हैं, और 2026 तक मूल्यांकन इतना ज़रूरी है कि इसे "infrastructure" कहा जाता है। AI evals का मतलब है किसी LLM के आउटपुट की गुणवत्ता (सटीकता, hallucinations, फ़ॉर्मैट पालन, लहजा) को अंदाज़े के बजाय एक तय पैमाने पर व्यवस्थित रूप से मापना; इनके बिना सुधार महज़ एक अंदाज़ा है। दो तरीके हैं: यांत्रिक रूप से मापने योग्य बातों के लिए code-based मूल्यांकन (सटीक मिलान, फ़ॉर्मैट, ज़रूरी/प्रतिबंधित शब्द — तेज़, सस्ता, स्थिर) और व्यक्तिपरक बातों के लिए LLM-as-judge (किसी शक्तिशाली LLM को रेफ़री बनाकर pairwise तुलना या एकल-आउटपुट स्कोरिंग से आँकना)। सिद्धांत: जो कोड माप सकता है उसे कोड से ही मापें। LLM-as-judge में verbosity, position और self-preference biases होती हैं; उपाय हैं अलग परिवार के मॉडल को मूल्यांकनकर्ता बनाना, क्रम बदलकर दो बार आँकना, rubric में संक्षिप्तता डालना, और मानवीय निर्णय के विरुद्ध calibrate करना। मोटे पैमाने (pass/fail या 1–3) अक्सर बारीक 1–10 के बजाय सुझाए जाते हैं। व्यवहार में तीन स्तर चलाएँ — हर बदलाव पर तुरंत code जाँच, रात्रिकालीन LLM-judge regression टेस्ट, और लगातार प्रोडक्शन निगरानी — CI के लिए DeepEval, Promptfoo, RAGAS तथा निगरानी के लिए Braintrust, LangSmith, Arize जैसे उपकरणों के साथ। शुरुआत 10 अच्छे और 10 बुरे आउटपुट इकट्ठा करके और उन्हें स्कोर करके करें।

फाइन-ट्यूनिंग क्या है? RAG से अंतर, जरूरी डेटा, कीमत और शुरू करने की शर्तें

फाइन-ट्यूनिंग क्या है? RAG से अंतर, जरूरी डेटा, कीमत और शुरू करने की शर्तें

फाइन-ट्यूनिंग में पहले से प्रशिक्षित मॉडल के वेट या अतिरिक्त अडैप्टर को अपने डेटा पर प्रशिक्षित करके उसके जवाब देने का ढंग बदला जाता है। लेख में RAG और प्रॉम्प्टिंग से तुलना, पूर्ण फाइन-ट्यूनिंग, LoRA और QLoRA, डेटा की तैयारी, मूल्यांकन तथा प्रशिक्षण व इन्फरेंस की लागत समझाई गई है। OpenAI SFT के 10 और सुझाए गए 50 उदाहरणों को सभी तरीकों का नियम नहीं माना गया है, और सेल्फ-सर्विस फाइन-ट्यूनिंग के नए उपयोगकर्ताओं के लिए बंद होने व मौजूदा उपयोगकर्ताओं की शर्तें भी बताई गई हैं।

लोकल LLM कैसे चलाएँ: अपने ही PC पर AI — शुरुआती लोगों के लिए स्पेक्स, टूल और सबसे अच्छी मॉडल्स

लोकल LLM कैसे चलाएँ: अपने ही PC पर AI — शुरुआती लोगों के लिए स्पेक्स, टूल और सबसे अच्छी मॉडल्स

आप शायद मानते हों कि किसी LLM को क्लाउड में ही चलना पड़ता है, पर छोटे मॉडल सिर्फ़ कुछ GB के होते हैं और एक साधारण लैपटॉप पर भी चल जाते हैं। लोकल LLM का मतलब है AI मॉडल को क्लाउड के बजाय सीधे अपने PC पर चलाना। इसके फायदे हैं प्राइवेसी (इनपुट मशीन से बाहर नहीं जाता), कोई API शुल्क नहीं और ऑफलाइन उपयोग; कमज़ोरियाँ हैं कि यह सबसे ऊपरी क्लाउड AI जितना समझदार नहीं और इसे ठीक-ठाक सक्षम PC चाहिए। यह शुरुआती गाइड बताती है क्वांटिज़ेशन (Q4_K_M, fp16 के लगभग 30% आकार का: Llama 3.1 8B में 16 GB से 4.9 GB), Ollama की टैग सूचियों से असली डाउनलोड साइज़ की तालिका (30 सितंबर 2026 तक), Ollama और LM Studio की आधिकारिक सिस्टम ज़रूरतें, Ollama के आधिकारिक स्टेप (macOS और Linux पर install.sh, Windows पर install.ps1, फिर ollama run gemma4 और ollama ps से GPU पर होने की जाँच), यह चेतावनी कि ":cloud" मॉडल आपकी मशीन पर नहीं चलते, मॉडल कैसे चुनें (Llama 3.1, Gemma 4, Qwen3.8 और DeepSeek-R1 के उदाहरण), और लोकल बनाम क्लाउड का उपयोग कब करें।

Spec-Driven Development (SDD) क्या है? चार चरण, टूल, और vibe coding से इसका फ़र्क़

Spec-Driven Development (SDD) क्या है? चार चरण, टूल, और vibe coding से इसका फ़र्क़

जिस युग में कोड AI लिखता है, वहाँ ज़्यादा मूल्यवान कौशल "कोड लिखने" से बदलकर "spec लिखने" की ओर जा रहा है — और इस बदलाव को दर्शाने वाला तरीका है Spec-Driven Development (SDD)। SDD में spec परियोजना के केंद्र में सत्य के स्रोत के रूप में रहता है, और एक AI agent तुरंत कोड लिखने के बजाय उसी से डिज़ाइन, विभाजन और इम्प्लीमेंटेशन निकालता है। अहम बात यह है कि हर चरण एक दस्तावेज़ (अक्सर Markdown) छोड़ता है जिसे अगला चरण पढ़ता है। यह शुरुआती-अनुकूल गाइड बताती है कि SDD क्या है (spec ही प्रामाणिक है; कोड एक व्युत्पन्न है), अभी यह क्यों मायने रखता है (यह vibe coding की तकनीकी ऋण और आवश्यकताओं के खिसकने वाली "तीन महीने की दीवार" को डिज़ाइन चरण में ही रोकता है), बुनियादी चार चरण (Specify → Plan → Tasks → Implement), प्रमुख टूल (140,000+ स्टार और 30 से ज़्यादा समर्थित agent वाला GitHub Spec Kit, Requirements → Design → Tasks प्रवाह और Auto router वाला AWS Kiro, साथ ही BMAD, OpenSpec, Tessl, Google Antigravity और Cursor), इसका उपयोग कब बनाम vibe coding (एक हाइब्रिड: खोजबीन के लिए vibe, डिलीवरी के लिए spec-driven, अनिवार्य इंसानी समीक्षा के साथ), और आज से इसे कैसे आज़माएँ। AI के युग में वे लोग आगे बढ़ते हैं जो ठीक-ठीक परिभाषित कर सकते हैं कि क्या बनाना है, न कि वे जो सबसे तेज़ कोड लिखते हैं।

Context Engineering क्या है? prompt के बाद का अगला कौशल, और "context rot" को कैसे हराएँ

Context Engineering क्या है? prompt के बाद का अगला कौशल, और "context rot" को कैसे हराएँ

AI के साथ काम करने में ध्यान का केंद्र prompt engineering से context engineering की ओर खिसक रहा है। Anthropic की परिभाषा उधार लें तो, context engineering है "उन रणनीतियों का समूह जिनसे आप inference के दौरान मॉडल को सौंपे जाने वाले tokens (जानकारी) के सबसे उपयुक्त समूह को चुनते और बनाए रखते हैं" — जो केवल prompt को नहीं, बल्कि context window की हर चीज़ को कवर करता है: system prompt, tools, बातचीत की history, और बाहरी डेटा। यह "context rot" के कारण मायने रखता है: आप जितने ज़्यादा tokens जोड़ते हैं, सटीकता असल में उतनी ही घटती है। Chroma के 2025 अध्ययन ने 18 अग्रणी मॉडलों (GPT, Claude, Gemini और अन्य) का परीक्षण किया और हर एक input के लंबा होते जाने के साथ कमज़ोर पड़ा, जहाँ लंबे context के बीच में रखी जानकारी को नज़रअंदाज़ करना खासकर आसान था ("lost in the middle")। यह शुरुआती-अनुकूल गाइड बताती है कि context engineering क्या है और prompt engineering से इसका क्या संबंध है, context rot क्यों होता है (attention एक सीमित बजट है), context में असल में क्या होता है, छह मुख्य तकनीकें (सही ऊँचाई पर निर्देश, tool चयन, just-in-time retrieval, compaction/सारांश संपीडन, बाहरी memory notes, और सबएजेंट अलगाव), RAG व Claude Skills से इसका संबंध, और आज से अपनाई जा सकने वाली आदतें जैसे विषय बदलने पर नया session शुरू करना और केवल मुख्य बिंदु पेस्ट करना। मूल विचार: केवल सबसे छोटे, सबसे उपयोगी tokens रखें।

Claude Skills (Agent Skills) क्या हैं? ये कैसे काम करती हैं, इन्हें कैसे बनाएं, और MCP से कैसे अलग हैं

Claude Skills (Agent Skills) क्या हैं? ये कैसे काम करती हैं, इन्हें कैसे बनाएं, और MCP से कैसे अलग हैं

Claude Skills (Agent Skills) पर एक शुरुआती-अनुकूल गाइड — वह व्यवस्था जो Claude को बार-बार वही प्रक्रिया समझाने की झंझट खत्म कर देती है। एक Skill निर्देशों, scripts और संदर्भ सामग्री को एक ही फ़ोल्डर में पैक करती है, जिसका केंद्र एक SKILL.md फ़ाइल होती है जिसमें name, description और चरण रहते हैं। ज़्यादातर समय Claude सिर्फ़ हर skill की छोटी description पढ़ता है, और body को तभी खोलता है जब आपका अनुरोध उससे मेल खाता है — इस डिज़ाइन को progressive disclosure कहते हैं, जो दर्जनों skills इंस्टॉल होने पर भी आपके context को हल्का रखता है। यह लेख बताता है कि Skills क्या हैं, ये क्यों मायने रखती हैं (हर बार prompt चिपकाने का अंत), SKILL.md और न्यूनतम फ़ोल्डर संरचना कैसे लिखें, इसे कैसे बनाएं (आधिकारिक skill-creator या खुद हाथ से, .claude/skills में डालकर, जनवरी 2026 के तुरंत-रीलोड के साथ), Skills MCP (connectivity) और सबएजेंट (context अलगाव) से कैसे अलग हैं, वह open standard जिसे अब Claude apps, Claude Code, API और Agent SDK के अलावा Codex CLI, Cursor, Gemini CLI तथा GitHub Copilot ने भी अपनाया है, साथ ही दस्तावेज़ निर्माण और आंतरिक नियम लागू करने जैसे ठोस इस्तेमाल। Anthropic ने इसे 16 अक्टूबर 2025 को घोषित किया, और Simon Willison ने इसे "शायद MCP से भी बड़ी बात" कहा।

AI एजेंट के 10 उपयोग के उदाहरण — असली बिज़नेस ऑटोमेशन मिसालें, असर, और शुरुआत कैसे करें

AI एजेंट के 10 उपयोग के उदाहरण — असली बिज़नेस ऑटोमेशन मिसालें, असर, और शुरुआत कैसे करें

"ठीक है, AI एजेंट कमाल के हैं — पर मैं इन्हें असल में किस काम के लिए इस्तेमाल करूँ?" यह वही सवाल है जिससे हर कोई बुनियाद सीखते ही टकराता है, और 2026 में इसका जवाब अब भविष्य की बात नहीं रहा: सपोर्ट, सेल्स, अकाउंटिंग, डेवलपमेंट और HR भर में एजेंट रोज़मर्रा का काम संभालने लगे हैं, एक सर्वे बताता है कि 65% कंपनियाँ किसी वर्कफ़्लो को पहले ही ऑटोमेट कर चुकी हैं। यह लेख अमूर्त बातें छोड़कर कार्य-विभाग के अनुसार 10 ठोस उपयोग के उदाहरण असली मिसालों और आँकड़ों के साथ देता है: कस्टमर सपोर्ट, सेल्स लीड-जनरेशन, मार्केटिंग SEO, सॉफ़्टवेयर डेवलपमेंट, IT-ऑपरेशंस, फ़ाइनेंस रिपोर्टिंग, धोखाधड़ी की पहचान, HR भर्ती, रिसर्च, और सप्लाई चेन। साथ ही ऑटोमेट करने योग्य काम पहचानना (दोहराव × मात्रा × निर्णय), ROI की असलियत (McKinsey के अनुसार 3 साल में 3.5x, 3–14-माह लागत-वसूली, 30–60% कटौती, पर केवल 23% बड़े पैमाने पर लागू), और सुरक्षित शुरुआत (एक काम चुनें, छोटे पैमाने पर आज़माएँ, इंसान मंज़ूरी दे, नापें और फैलाएँ) न्यूनतम-अनुमति सुरक्षा के साथ। आँकड़े सर्वे और कंपनियों की घोषणाओं से उद्धृत हैं, प्रवृत्तियों के तौर पर संदर्भ के लिए। अपने काम को दोहराव, मात्रा और निर्णय के नज़रिए से परखें, और अपने सबसे तकलीफ़देह काम से एक छोटा कदम उठाएँ।

शून्य से AI के साथ घर से कमाने का पहला कदम — hikikomori और NEET के लिए बिना आमने-सामने वाली शुरुआत

शून्य से AI के साथ घर से कमाने का पहला कदम — hikikomori और NEET के लिए बिना आमने-सामने वाली शुरुआत

बाहर निकलना मुश्किल है, लोगों से बात करना भारी है, आप अभी काम नहीं कर रहे — फिर भी, "घर से, किसी से मिले बिना, अपनी रफ़्तार से" को आमदनी में बदलने की संभावना AI के साथ सचमुच कहीं अधिक खुल गई है। यह दर्शक-विशिष्ट गाइड यथासंभव ईमानदारी और कोमलता से वह पहला कदम सामने रखती है जो एक hikikomori (समाज से कटकर घर में सिमट जाने वाला व्यक्ति) या NEET की स्थिति में रहने वाले इंसान के लिए, शून्य से, AI की मदद से घर से कमाने का रास्ता है। यह पहले ही वादा करती है कि "कोई भी आसानी से महीने के हज़ारों कमा सकता है" नहीं कहेगी (जो अकसर झूठ या बिक्री का चारा होता है) और असली कठिनाई, समय व सावधानियाँ खुलकर लिखती है। इसमें शामिल है कि AI × घर से काम क्यों सही बैठता है (बिना आमने-सामने मिले हो जाता है, शून्य से शुरू आसान, अपनी रफ़्तार से — AI साथी बनकर दीवार नीची करता है), तीन ईमानदार सच्चाइयाँ (आप तुरंत नहीं कमाएँगे और पहला लक्ष्य पहले कुछ डॉलर है; AI मेहनत का एम्प्लिफ़ायर है जादू नहीं, किसी भी चीज़ को शून्य से गुणा करने पर शून्य; होशियार नहीं, जो लगे रहते हैं उन्हें नतीजे मिलते हैं), बिना बात किए कमाने के तरीके (लेखन, ट्रांसक्रिप्शन/सबटाइटल, AI इमेज असेट, डेटा व्यवस्थित करना, अनुवाद जाँच, डिजिटल उत्पाद — पहले एक चुनें), आज का पहला कदम (किसी फ़्री AI को छुएँ, एक क्षेत्र चुनें, एक अभ्यास नमूना बनाएँ — कमाने से पहले बनाएँ), छोटी जीतें कैसे जोड़ें (पोर्टफ़ोलियो, एक कम-पैसे का काम, रेटिंग बनाएँ, दर/मात्रा बढ़ाएँ — रकम नहीं जीतें जुटाएँ, पहला काम सबसे क़ीमती), लगे रहना और मन की रक्षा (तुलना न करें, छोटा तोड़ें, आराम ठीक है, परफ़ेक्शनिज़्म छोड़ें, अकेले न ढोएँ — रोज़गार सहायता व परामर्श सेवाएँ), और धोखे/झूठे दावे, सब AI पर छोड़ने का जोखिम, व टैक्स/आश्रित स्थिति की सावधानियाँ (पहले-पैसे वाले ऑफ़र से बचें, वैध क्राउडसोर्सिंग प्लेटफ़ॉर्म पर रजिस्ट्रेशन और लिस्टिंग आम तौर पर मुफ़्त है, आधिकारिक जानकारी जाँचें)। यह "कोई भी, आसानी से" नहीं है, पर एक कदम जो आप उठा सकते हैं सचमुच मौजूद है — "मैं भी यह कर सकता हूँ" को एक-एक करके वापस पाएँ।

AI एजेंट सुरक्षा घटना में क्या होता है? अनुमतियां, रिसाव, और गलत संचालन की मूल बातें

AI एजेंट सुरक्षा घटना में क्या होता है? अनुमतियां, रिसाव, और गलत संचालन की मूल बातें

किसी AI एजेंट से बस इतना कहिए कि "इस ईमेल को पढ़कर जवाब दो" और यह खुद सोचता है, टूल्स इस्तेमाल करता है, और सचमुच काम करता है — पर ठीक इसलिए कि यह खुद कार्य करता है, एक तरह की घटना संभव हो जाती है जो चैट AI में कभी नहीं थी, और लगभग 2025 से वह खतरा सिद्धांत से वास्तविक नुकसान की ओर बढ़ने लगा। यह शुरुआती गाइड AI एजेंट सुरक्षा घटनाओं को तीन श्रेणियों में बांटती है: अनुमतियां, रिसाव, और गलत संचालन। इसमें शामिल है कि घटनाएं क्यों होती हैं (एजेंट सिर्फ जवाब नहीं देता, कार्य करता है — मुख्य शब्द; एक प्रतिभाशाली पर भोले नए कर्मचारी से तुलना), एजेंट चैट AI से ज्यादा जोखिम भरे क्यों हैं (टूल्स इस्तेमाल करना, स्वायत्त रूप से चलना, और बाहरी इनपुट पढ़ना का गुणन; OWASP ने दिसंबर 2025 में एजेंट-विशिष्ट जोखिम संकलित किए और "न्यूनतम स्वायत्तता" का समर्थन करता है), घटना 1 अनुमतियां (अत्यधिक स्वायत्तता — पढ़ना काफी होने पर भी भेजने/हटाने की अनुमति, एक मानव खाते की मजबूत अनुमतियां विरासत में लेना, बेकाबू होने पर नुकसान का फूलना, लागत घटाने के काम पर लगाया गया एजेंट बैकअप तक हटा सकता है), घटना 2 रिसाव (अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन जो बाहरी सामग्री में आदेश बिछाता है — 2025 में शोधकर्ताओं द्वारा दिखाए गए मामले: एक सार्वजनिक Reddit टिप्पणी में spoiler टैग के पीछे छिपे निर्देशों से वन-टाइम पासवर्ड का रिसाव, एक सपोर्ट टिकट के छिपे आदेश से MCP के जरिए SQL डेटा निकालना, एक IDE एजेंट द्वारा सिर्फ दस्तावेज़ खोलने से गुप्त जानकारी चुराना), घटना 3 गलत संचालन (बिना दुर्भावना के भी विनाशकारी संचालन और गलतियों की श्रृंखला), 4-चरणीय हमला प्रवाह, बचाव के 5 बुनियादी सिद्धांत (न्यूनतम विशेषाधिकार, मानवीय स्वीकृति, सैंडबॉक्स, सीमाएं तय करना, बाहरी इनपुट पर अविश्वास), और एक शुरुआती चेकलिस्ट। मूलमंत्र: बहुत ज्यादा शक्ति न सौंपें, खतरनाक संचालन को एक इंसान से रुकवाएं, और बाहरी टेक्स्ट पर हद से ज्यादा भरोसा न करें।