AI के जोखिम और नैतिकता — सुरक्षित रहने के लिए ज़रूरी बातें

पिछले अध्यायों तक हमने AI की सहूलियत और इस्तेमाल के तरीके बताए। लेकिन AI में सच में "महारत" हासिल करने के लिए, जोखिमों को सही ढंग से समझना अनिवार्य है। जोखिम जानना AI से डरने के लिए नहीं है। जैसे गाड़ी चलाने में "ब्रेक का इस्तेमाल" सीखते हैं, वैसे ही यह सुरक्षित रूप से महारत हासिल करने का बुनियादी ज्ञान है।

AI के 5 बड़े जोखिम जानें

AI इस्तेमाल में जो जोखिम पकड़ लेने चाहिए, उन्हें मोटे तौर पर 5 में व्यवस्थित किया जा सकता है। हर एक की प्रकृति अलग है, इसलिए पहले पूरी तस्वीर पकड़ें। नीचे एक-एक की गहराई में जाएँगे।

हैलुसिनेशन ― AI बड़े आत्मविश्वास से झूठ बोलता है

हैलुसिनेशन (Hallucination) यानी AI का तथ्यों पर आधारित न होने वाली जानकारी को, मानो वह सच हो ऐसे बड़े आत्मविश्वास से आउटपुट कर देने वाला परिघटना। यह कहना गलत न होगा कि यह AI इस्तेमाल का सबसे बड़ा जोखिम है।

यह क्यों होता है ― बनावट को समझें

AI "आगे आने की सबसे ज़्यादा संभावना वाले शब्द का पूर्वानुमान करने" की बनावट से चलता है। यानी, यह "सही चीज़" आउटपुट नहीं कर रहा, बल्कि सिर्फ "भरोसेमंद दिखने वाली चीज़" आउटपुट कर रहा है। AI सच-झूठ का फैसला नहीं करता। यह शब्दकोश नहीं देख रहा, बस पैटर्न मैचिंग कर रहा है।

मॉडल के हिसाब से हैलुसिनेशन दर में बड़ा फर्क होता है। 2025 के बेंचमार्क सर्वे में, सबसे उम्दा मॉडल (Gemini 2.0 Flash) में 0.7%, जबकि कुछ मॉडलों में करीब 30% हैलुसिनेशन वाला नतीजा भी निकला^[2]। सुधार जारी है, पर यह शून्य नहीं होता।

असल में हुए मामले

• काल्पनिक न्यायिक मिसाल ― अमेरिका के एक वकील ने ChatGPT से खोजी न्यायिक मिसाल अदालत में जमा की, तो पता चला कि उद्धृत मिसाल का कोई अस्तित्व ही नहीं था (2023)
• काल्पनिक शोध-पत्र ― न मौजूद शोध-पत्र का शीर्षक और लेखक-नाम भरोसेमंद तरीके से गढ़ देना
• गलत आँकड़े ― "○○ के बाज़ार का आकार △△ करोड़ है" दावे से कह देना, पर असली संख्या से बहुत अलग
• कानून का क्षेत्र ― स्टैनफोर्ड विश्वविद्यालय के सर्वे में, कानून से जुड़ी क्वेरी में हैलुसिनेशन दर 69~88% तक पहुँचने वाले मामले भी^[2]

4 बचाव के उपाय

हैलुसिनेशन से "शून्य करके" नहीं, बल्कि "भाँप लेने की व्यवस्था" से निपटा जाता है। नीचे दिए 4 चरणों को आदत बनाएँ।

खास सावधानी वाली जानकारी हैं: सांख्यिकीय डेटा・संख्या, व्यक्ति-नाम・विशेष नाम, कानून・कर, ताज़ा समाचार ― ये 4। इन जानकारियों की प्राथमिक स्रोत से पुष्टि ज़रूर करें।

कॉपीराइट ― इस्तेमाल करें या नहीं? जो बनाया वह किसका?

AI और कॉपीराइट की समस्या मोटे तौर पर 2 हैं। "AI की ट्रेनिंग में कॉपीराइट-सामग्री इस्तेमाल करना ठीक है क्या" और "AI ने जो बनाया उस पर कॉपीराइट है क्या"।

समस्या 1: AI का ट्रेनिंग डेटा और कॉपीराइट

AI मॉडल भारी मात्रा में इंटरनेट की सामग्री (लेख, चित्र, कोड आदि) पर ट्रेन किए जाते हैं। कॉपीराइट-धारक की अनुमति के बिना रचनाएँ इस्तेमाल होने के आधार पर, दुनिया भर में मुकदमे हो रहे हैं।

मुकदमा	सार	स्थिति (2026 तक)
NYT vs OpenAI	New York Times ने लेखों की बिना अनुमति ट्रेनिंग पर मुकदमा किया	विचाराधीन
Getty vs Stability AI	तस्वीरों की बिना अनुमति ट्रेनिंग पर मुकदमा	विचाराधीन
कलाकारों का सामूहिक मुकदमा	इमेज जनरेशन AI की ट्रेनिंग में रचनाएँ बिना अनुमति इस्तेमाल	कई विचाराधीन
Yomiuri・Asahi・Nikkei vs Perplexity	लेखों के बिना अनुमति उपयोग पर कुल करीब 6.6 अरब येन के हर्जाने की माँग	2025 में मुकदमा

समस्या 2: AI-निर्मित सामग्री का कॉपीराइट

AI की बनाई सामग्री पर कॉपीराइट मिलता है या नहीं, इसका फैसला देश के अनुसार अलग है।

आपको किन बातों का ध्यान रखना चाहिए

• व्यावसायिक उपयोग के समय हर सेवा की उपयोग-शर्तें ज़रूर जाँचें
• इमेज जनरेशन में किसी खास कलाकार का नाम न डालें ("○○ शैली में" कॉपीराइट झंझट की जड़)
• AI का आउटपुट किसी मौजूदा कॉपीराइट-सामग्री से मिलता-जुलता तो नहीं, जाँचें
• ज़रूरत हो तो AI-निर्मित होना साफ बताएँ

गोपनीयता ― AI को क्या देना चाहिए

2023 में, सैमसंग इलेक्ट्रॉनिक्स के कर्मचारी ने ChatGPT में कंपनी का गोपनीय कोड डाल दिया, जो बड़ी खबर बनी। इस घटना के बाद, कई कंपनियों ने AI में जानकारी डालने को लेकर नीतियाँ बनानी शुरू कर दीं।

AI में डाला गया डेटा, सेवा-सुधार या मॉडल-ट्रेनिंग में इस्तेमाल होने की संभावना रखता है। "एक बार डाली जानकारी वापस नहीं ली जा सकती" ― इसी पूर्व-शर्त के साथ व्यवहार करें। क्या और कैसे डालना चाहिए, यह AI में इनपुट डालते समय ध्यान देने वाली बातें में विस्तार से समझाया गया है।

डेटा सुरक्षा के ठोस उपाय

उपाय	व्याख्या
चैट इतिहास बंद	ChatGPT और Claude दोनों में, सेटिंग से बातचीत-डेटा का ट्रेनिंग-उपयोग रोका जा सकता है
एंटरप्राइज़ संस्करण	कंपनी-केंद्रित प्लान में डेटा के ट्रेनिंग में इस्तेमाल न होने की गारंटी
जानकारी गुमनाम करना	डालने से पहले व्यक्ति-नाम को "A व्यक्ति", कंपनी-नाम को "X कंपनी" से बदलें
लोकल एग्ज़िक्यूशन	Ollama आदि से ओपन-सोर्स मॉडल अपने PC पर चलाएँ

बायस और डीपफेक

AI बायस ― ट्रेनिंग डेटा का झुकाव आउटपुट में झलकता है

AI बायस यानी AI के ट्रेनिंग डेटा में मौजूद सामाजिक पूर्वाग्रह का ज्यों का त्यों आउटपुट में झलकना। AI "सही जवाब" नहीं देता, बल्कि "ट्रेनिंग डेटा में जो बहुसंख्यक जवाब था" उसे देने की ओर झुकता है।

• जेंडर बायस ― "नर्स" का चित्र बनाओ तो सब महिलाएँ, "इंजीनियर" तो सब पुरुष बन जाते हैं
• सांस्कृतिक बायस ― अंग्रेज़ी-भाषी・पश्चिमी-केंद्रित मूल्यों की ओर झुके जवाब देने की प्रवृत्ति
• कन्फर्मेशन बायस ― बहुसंख्यक राय को हद से ज़्यादा झलकाना, और अल्पसंख्यक नज़रिये का छूट जाना

उपाय: AI के जवाब पर आँख मूँदकर भरोसा न करके, "किसी और नज़रिये से भी सोचो", "विरोधी राय भी दो" ऐसा निर्देश देने की आदत डालें। भर्ती・मानव-संसाधन मूल्यांकन जैसे अहम फैसलों में, AI के निर्णय को एकमात्र आधार न बनाना खास ज़रूरी है।

डीपफेक ― असली-नकली में फर्क न होने वाली फर्ज़ी जानकारी

AI से असली जैसे चित्र・वीडियो・ऑडियो बनाने की तकनीक विकसित होने से, डीपफेक (AI से बना फर्ज़ी मीडिया) का जोखिम तेज़ी से बढ़ा है। सोशल मीडिया पर डीपफेक 2023 के 5 लाख से बढ़कर 2025 में 80 लाख तक पहुँचने का अनुमान है^[3]।

• वॉइस क्लोनिंग धोखाधड़ी ― परिवार या बॉस की आवाज़ AI से नकल करके फोन-धोखाधड़ी। कुछ सेकंड के ऑडियो सैंपल से क्लोन बन सकता है
• फर्ज़ी वीडियो ― मशहूर हस्तियों या नेताओं के फर्ज़ी वीडियो से जनमत में हेरफेर या पहचान-चोरी
• फर्ज़ी समाचार ― AI से बने भरोसेमंद दिखने वाले न्यूज़ लेखों का बड़े पैमाने पर प्रसार

AI एजेंट के फैलने के साथ, ऐसे दुरुपयोग सहित नए हमले भी सामने आ रहे हैं। कंपनी के नज़रिये के लिए AI एजेंट की सुरक्षा घटनाओं की व्याख्या भी काम की है।

दुनिया के नियमन का रुख ― नियम बनने शुरू हुए

AI के जोखिमों से निपटने के लिए, दुनिया भर में कानून-निर्माण तेज़ी से चल रहा है।

क्षेत्र	नियमन	खासियत
EU	AI Act (2024 में पारित)	जोखिम-आधारित नियमन। उच्च-जोखिम AI (भर्ती・चिकित्सा・न्याय) पर कड़े मानक। 2025 से चरणबद्ध रूप से लागू शुरू
जापान	AI संवर्धन कानून (मई 2025 में पारित)	"इनोवेशन प्राथमिकता" दृष्टिकोण। नियमन से ज़्यादा संवर्धन पर ज़ोर देते हुए भी सुरक्षा मानक भी तैयार
अमेरिका	AI सुरक्षा पर राष्ट्रपति का आदेश	संघीय स्तर का समग्र कानून अभी नहीं। राज्यवार नियमन आगे बढ़ रहे

जापान ने दिसंबर 2025 में "AI बुनियादी योजना" को कैबिनेट में मंज़ूरी दी, और 5 साल में 1 लाख करोड़ येन के AI-संबंधी निवेश की योजना बनाई है^[1]। नियमन को हद से ज़्यादा कड़ा न करते हुए, इनोवेशन को बढ़ावा देते हुए सुरक्षा मानक तैयार करने वाला यह "जापान-प्रकार" दृष्टिकोण चर्चा में है।

AI इस्तेमाल की सुरक्षा चेकलिस्ट

जोखिम समझने के बाद, ठोस रूप से कैसे व्यवहार करें। व्यक्ति और संगठन ― दोनों के नज़रिये से चेकलिस्ट समेटी है।

संदर्भ

1. "Japan adopts first AI basic plan." The Japan Times, December 23, 2025.
2. Vectara. "Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. "Legal Hallucination Study." 2025.
3. Deepstrike. "Deepfake Statistics 2025." deepstrike.io, 2025.

संबंधित लिंक:

• EU AI Act Explorer ― EU AI नियमन कानून का पूरा पाठ और व्याख्या
• जापान का आंतरिक मामलों का मंत्रालय AI-संबंधी नीति ― जापान की AI नीति का अवलोकन

अगले अध्याय में, AI के ताज़ा रुझान ―― मल्टीमॉडल AI, AI एजेंट, 2025-2026 के रुझान ― की व्याख्या करेंगे।