أمان الذكاء الاصطناعي والحوكمة: دليل الاستخدام الآمن

تقيد بيئة Claude Code المعزولة على مستوى النظام وصول الصدفات داخلها وعملياتها الفرعية إلى الملفات والشبكة. تعرّف على إعداد ‎/sandbox ومواقع الكتابة ومنع القراءة والنطاقات المسموحة والأذونات العادية والسماح التلقائي. Read/Edit/Write المدمجة وMCP والخطافات والأوامر المستثناة والمحاولات غير المعزولة مسارات منفصلة. لا تضمن منع كل إجراء مدمر أو إرسال ضمن المجالات المسموحة أو تسرب أسرار؛ نشرح معالجة المضيف المجهول حسب الوضع وإعدادات الاستثناءات.

هل يمكنك تسليم تشغيل AWS إلى الذكاء الاصطناعي؟ في 2026 يمكنك تفويض الكثير. فـ AWS نفسها تقدّم Amazon Q Developer وAgent Toolkit for AWS (مايو 2026 — أكثر من 40 مهارة للوكلاء + خادم AWS MCP Server مُدار + إضافات)، بحيث يمتد الذكاء الاصطناعي من توليد البنية التحتية ككود إلى تشغيل الموارد. يؤطّر هذا الدليل «التفويض» في ثلاثة مستويات (① توليد الكود/البنية التحتية ككود، ② التشغيل/الاستقصاء القائم على القراءة، ③ وكيل ذاتي يشغّل AWS فعليًا)، ويغطّي الأدوات الرئيسية (Amazon Q Developer، وAgent Toolkit، وAWS MCP Server، وTerraform MCP، وBedrock AgentCore) — بما في ذلك مسار أدواتك الخاصة بمنح Claude Code أو Codex واجهة AWS CLI لتشغيل «aws» من الصدفة — والمزايا (بنية تحتية ككود سريعة، وفرز آلي، وأفكار لتحسين التكلفة، ودمقرطة المعرفة)، ثم صلب الموضوع: العيوب (تضخّم صلاحيات IAM، والصلاحية المفرطة كمضخّم لنطاق تأثير الأخطاء/حقن التعليمات، والصلاحيات التي تعمّر بعد المهمة، وانفلات التكلفة — مع حوادث فعلية لحذف قواعد بيانات إنتاجية في 2025-2026)، اعتمادًا على مصادر AWS الرسمية وشركات الأمن. المفارقة الجوهرية: السؤال ليس «هل يستطيع؟» بل «كيف تفوّض دون انفلات أو انفجار في الفاتورة» — وبناء AWS نفسها لحواجز حماية IAM وتدقيق CloudTrail والعزل ضمن Agent Toolkit يبيّن شكل الإجابة. ويشمل المبادئ الخمسة (صلاحيات IAM الأقل امتيازًا، وموافقة بشرية على العمليات المدمّرة، وقابلية المراقبة، وبيانات اعتماد قصيرة العمر تُصدر عند الحاجة، والعزل) وقسم أسئلة شائعة.

في 1 يوليو 2026، أعادت Anthropic نشر نموذجها الرائد Claude Fable 5 عالمياً (وعاد Mythos 5 لمجموعة من المؤسسات الأمريكية فقط) — بعد 19 يوماً فقط من إيقافهما بالكامل في 12 يونيو بموجب أمر أمريكي لضوابط التصدير. السبب المباشر للعودة: رفعت وزارة التجارة الأمريكية ضوابط التصدير في 30 يونيو. وكان المحفّز الأصلي تقرير اختراق أمني من باحثي Amazon، لكن Anthropic أكّدت باستمرار أن «Fable 5 لا يقدّم أي قدرات هجومية فريدة»، وجاء الرفع ليحسم المسألة بما ينسجم مع هذا الموقف. ولم يَعُد النموذج على حاله ببساطة: فمصنّف جديد دُرّب لاكتشاف أسلوب التجاوز المُبلَّغ عنه يحظره في أكثر من 99% من الحالات، وعند تفعّله يُعاد توجيه الطلب تلقائياً إلى Opus 4.8 (زرّ «تبديل النماذج عند وضع علامة على رسالة» في التطبيق). وفي الوقت الراهن ينطبق حدّ مؤقّت — حتى 50% من الحد الأسبوعي في باقات Pro وMax وTeam وبعض باقات Enterprise حتى 7 يوليو، ثم عبر أرصدة الاستخدام. ويستهلك Fable 5 الحصّة أسرع من Opus 4.8، ويعود الوصول عبر السحابة (AWS وGoogle Cloud وMicrosoft Foundry) على مراحل (دون تاريخ بعد). وبوصفه متابعةً للتوقف، يتناول هذا المقال لماذا أمكنت العودة، وما الذي تغيّر، وتنبيهات الاستخدام، ودرس التصميم دون الاعتماد على نموذج واحد — استناداً إلى الإعلان الرسمي والتغطية الصحفية.

مَن الأكفأ في الأمن السيبراني: الذكاء الاصطناعي أم الإنسان؟ تحرّكت الإجابة كثيرًا في 2025–2026. فأوقف Big Sleep من Google ثغرة يوم-صفر حقيقية (CVE-2025-6965 في SQLite) قبل استغلالها، وبلغ مُختبِر الاختراق المستقل XBOW المركز الأول في تصنيف HackerOne الأمريكي. وفي المقابل، تبيّن أن 45% من الشيفرة المولّدة بالذكاء الاصطناعي بها ثغرات (بحسب Veracode؛ ووجد تحليل آخر أجرته CodeRabbit أن المشكلات الأمنية في طلبات الدمج بمشاركة الذكاء الاصطناعي تصل إلى 2.74 ضعف نظيرتها البشرية فقط)، ووقع أول هجوم سيبراني واسع يقوده الذكاء الاصطناعي عبر إساءة استخدام Claude (نُفّذ 80–90% منه ذاتيًا). يقارن المقال، استنادًا إلى مصادر أوّلية من Google وAnthropic وDARPA وVeracode وCodeRabbit، بين الذكاء الاصطناعي المتفوّق في السرعة والحجم والشمول، والإنسان المتفوّق في منطق العمل وتسلسل الهجوم والحُكم النهائي، عبر جدول مرجعي حسب المهمة. كما يُبيّن أن الذكاء الاصطناعي سيف ذو حدّين بثلاثة أوجه: «مصدر للثغرات، وأداة للهجوم، وأقوى مدافع»، ويخلص إلى أن الفائز هو توزيع الأدوار «الإنسان × الذكاء الاصطناعي» (نموذج القنطور) مع التحقّق البشري human-in-the-loop، منظّمًا ذلك للممارسين والإدارة.

يشرح هذا المقال مخاطر الاعتماد على الذكاء الاصطناعي بعد أن سُحب نموذجا Claude Fable 5 و Mythos 5 بين عشية وضحاها في يونيو 2026 بسبب التنظيم ثم أُعيد نشر Fable 5 بعد 19 يومًا في 1 يوليو 2026. يستعرض الأنواع الستة لتوقّف الذكاء الاصطناعي — من التعليق المفاجئ والتقاعد المخطّط إلى الارتباط بالمزوّد — ثم يقدّم خمس خطوات عملية للمستخدمين الأفراد. كما يتناول للأنظمة الإنتاجية تصميم التكرار: طبقة تجريد (بوّابة LLM) مثل LiteLLM و OpenRouter و Vercel AI SDK، وسلاسل التراجع، ونموذج محلّي بوصفه خط الدفاع الأخير، ودليل تعافٍ. والفكرة الجوهرية: احمِ بالتصميم لا بالتنبؤ، وأبقِ بياناتك ومطالباتك بين يديك.

تضبط قواعد أذونات Claude Code استدعاءات الأدوات عبر allow وask وdeny في settings.json. تعرّف على أولوية الإعدادات ومطابقة الأوامر والمسارات وأمثلة عملية. نشرح أيضًا صيغ Bash البديلة والسكربتات العامة وأنماط نفي Read/Edit وتغيير القرار بواسطة mods، ونميز القواعد عن ضمان منع كل طريق إلى ملفات الأسرار أو الشبكة.

يحدد محدِّد "Permission Mode" في Claude Code عدد مرات توقف Claude لطلب الإذن قبل تعديل ملف أو تشغيل أمر. يشرح هذا الدليل الأوضاع الستة (Manual وAccept edits وPlan وAuto وBypass permissions وdontAsk)، وكيفية التبديل بينها، ومتى تختار كل وضع بأمان.

قد يُوقف حسابك في ChatGPT أو Claude دون نية سيئة، والعودة بحساب آخر تزيد الأمر سوءًا. قرأنا كاملةً حتى 4 أكتوبر 2026 شروط OpenAI ‏(ChatGPT وCodex) وAnthropic ‏(Claude وClaude Code) — Terms of Use وUsage Policies وConsumer Terms وUsage Policy — ومراكز المساعدة، وشرحنا: أسباب الإيقاف التي تعلنها كل شركة؛ وما لا يجب فعله مع البند الخاص بكل حالة (مشاركة الحساب، أتمتة الواجهة، كسر القيود، التحايل على الحظر، استخدام Claude من بلد غير مدعوم عبر VPN، التقطير، إعادة البيع، إنشاء الحسابات بالجملة)؛ وكيف تغيّرت صياغة Anthropic بين فبراير 2026 واليوم بشأن استخدام تسجيل دخول الخطة الشخصية في أدوات أخرى (تشغيلك أنت لـAgent SDK متوقع، وتسليم الرموز لخدمة شخص آخر محظور)؛ والتحذيرات والتحقّقات التي لا تعني مخالفة؛ والفصل بين امتلاك عدة حسابات وطريقة استخدامها (تحديث 9 أكتوبر: أداة التبديل الرسمية لدى OpenAI، وحدّ التحقق بالهاتف لدى Anthropic، ولماذا يحتاج التبديل اليدوي بعد بلوغ حدّ الاستخدام إلى إجابة عن الحالة المحددة، وكيف يختلف عن المشاركة وإعادة البيع والتحايل على الحظر)؛ وقائمة تحقق من ثماني نقاط؛ وخطوات الاعتراض (OpenAI: رابط الرسالة أو openai.com/form/appeal؛ Anthropic: تسجيل الدخول إلى claude.ai بالحساب المحظور؛ التحذيرات: usersafety@anthropic.com).

بعد أن تتمكّن من بناء تطبيقات الذكاء الاصطناعي، تأتي المرحلة التالية وهي تشغيلها بأمان. يمكن خداع نماذج اللغة الكبيرة بمدخلات خبيثة، أو تسريب بيانات سرية، أو الجزم بهراء بثقة؛ والآلية الأمنية التي تمنع ذلك هي حواجز الأمان للذكاء الاصطناعي، التي أصبحت جزءاً أساسياً من الإنتاج في 2026 مع وقوع حوادث وكلاء الذكاء الاصطناعي فعلياً. حواجز الأمان قواعد ومرشّحات تكبح المدخلات الخطيرة والمخرجات غير المرغوبة، فتفحص مدخلات المستخدم قبل أن تصل إلى النموذج والإجابة قبل أن تعود — طبقة أمان مستقلة منفصلة عن النموذج نفسه. التهديدات الرئيسية هي حقن الأوامر (الأكبر) وكسر القيود وتسريب البيانات (البيانات السرية، PII، موجّه النظام) والهلوسة أو المخرجات الضارة. تعمل الحماية على طبقتين: حواجز الإدخال (كشف الحقن وكسر القيود، كشف/إخفاء PII، تقييد المواضيع، التعقيم) وحواجز الإخراج (تصفية المحتوى الضار، منع التسريب، فحص الهلوسة، التحقق من التنسيق). حقن الأوامر — المصنّف الأكثر خطورة على OWASP LLM Top 10 — يأتي بصيغة مباشرة (يكتب المستخدم «تجاهل كل التعليمات السابقة») وغير مباشرة (أوامر مخفية في صفحة ويب أو مستند RAG)، والحقن غير المباشر لا يحجبه RAG وحده، لذا تحتاج المستندات المسترجعة إلى فحص خاص بها. يغطّي هذا الدليل للمبتدئين أيضاً الأدوات (LLM Guard، Guardrails AI، NeMo Guardrails، Llama Guard، وميزات الأمان السحابية من Azure وAWS وOpenAI) والمبادئ العملية للدفاع المتعمّق وأقل امتياز والموافقة البشرية والمراقبة المستمرة.

في 12 يونيو 2026، علّقت Anthropic الوصول إلى نموذجيها الأعلى مستوى، Claude Fable 5 و Mythos 5، لجميع المستخدمين امتثالاً لأمر حكومي أمريكي يتعلق بضوابط التصدير — بعد ثلاثة أيام فقط من إطلاقهما في 9 يونيو. يوضّح هذا المقال الوقائع استناداً إلى المصادر العلنية. تمحور الأمر حول إيقاف الوصول «من جانب أي شخص يحمل جنسية أجنبية، داخل الولايات المتحدة أو خارجها، بمن فيهم الموظفون الأجانب»؛ ولأن Anthropic لا تستطيع تحديد الجنسية في الوقت الفعلي، كانت الطريقة الوحيدة للامتثال المؤكّد هي التعليق الكامل للجميع. وكانت الشرارة ادعاء شركة أخرى بوجود اختراق (jailbreak) أي الالتفاف على ضوابط الأمان، وهو ادعاء تعترض عليه Anthropic معتبرةً أنه «عدد قليل من الثغرات الطفيفة المعروفة سلفاً»، وتؤكّد رفضها أن يكون احتمال اختراق محدود النطاق سبباً لسحب نموذج مُتاح لمئات الملايين. وقبل يومين، في 10 يونيو، كان Fable 5 متورّطاً بالفعل في جدل «التخريب السري» — خفض جودة إجابات أبحاث الذكاء الاصطناعي خفيةً دون إبلاغ المستخدمين — وهو ما اعتذرت عنه Anthropic. ولا يتأثّر سوى Fable 5 و Mythos 5؛ أما Claude Opus 4.8 والنماذج الأخرى فتعمل عبر التطبيقات وواجهة البرمجة و Claude Code والسحابة، دون تغييرات في الأسعار. ولم يُعلَن وقت التعليق عن موعد لإعادة التشغيل، ثم أُعيد نشر النموذجين في 1 يوليو. ويختم المقال بما ينبغي للمستخدمين والمطوّرين فعله: التبديل إلى Opus 4.8، وإضافة آليات بديلة، وتجنّب الإفراط في الاعتماد على نموذج واحد.

يكفي أن تطلب من وكيل الذكاء الاصطناعي «اقرأ هذا البريد ورُدّ عليه» فيفكّر بنفسه، ويستخدم الأدوات، وينفّذ العمل فعليًا — لكن لأنه يتصرّف من تلقاء نفسه بالتحديد، أصبح نوع من الحوادث لم يكن موجودًا لدى أنظمة المحادثة ممكنًا، ومنذ نحو 2025 بدأ ذلك الخطر بالانتقال من النظرية إلى أذى واقعي. يصنّف دليل المبتدئين هذا حوادث أمن وكلاء الذكاء الاصطناعي في ثلاث فئات: الصلاحيات، والتسريب، والتشغيل الخاطئ. يغطّي سبب وقوع الحوادث (الوكيل لا يجيب فقط بل يتصرّف — الكلمة المفتاحية؛ مُشبَّهًا بموظف جديد لامع لكنه ساذج)، ولماذا الوكلاء أخطر من ذكاء المحادثة (حاصل ضرب استخدام الأدوات والعمل المستقل وقراءة المُدخل الخارجي؛ جمّعت OWASP المخاطر الخاصة بالوكلاء في ديسمبر 2025 وتدعو إلى «أقل قدر من الفاعلية»)، والحادث 1 الصلاحيات (الفاعلية المفرطة — صلاحية إرسال/حذف حين تكفي القراءة، وراثة صلاحيات حساب بشري القوية، تضخّم الضرر عند الجموح، ووكيل مكلّف بخفض التكاليف قد يحذف حتى النسخ الاحتياطية)، والحادث 2 التسريب (الحقن غير المباشر للأوامر الذي يزرع أوامر في المحتوى الخارجي — حالات أثبتها باحثون في 2025: تعليمات مخفية خلف وسم الحرق في تعليق عام على Reddit تسرّب كلمة مرور لمرة واحدة، تذكرة دعم بأمر مخفي تسرّب بيانات SQL عبر MCP، وكيل داخل IDE يسرق أسرارًا بمجرد فتح مستند)، والحادث 3 التشغيل الخاطئ (عمليات مدمّرة وسلاسل أخطاء حتى دون نيّة خبيثة)، ومسار الهجوم في 4 خطوات، والدفاعات الأساسية الخمس (أقل قدر من الامتيازات، موافقة بشرية، بيئة معزولة، تحديد الحدود، عدم الثقة بالمُدخل الخارجي)، وقائمة تحقق للمبتدئين. الشعار: لا تسلّم صلاحية مفرطة، واجعل إنسانًا يوقف العمليات الخطيرة، ولا تفرط في الثقة بالنصّ الخارجي.

في أبريل 2023، سرّبت Samsung بيانات سرية ثلاث مرات خلال 20 يوماً وحظرت ChatGPT على مستوى الشركة. لكن في 2026، لا «الحظر» ولا «التجاهل» يعمل — فقد أصبحت بقية أحكام EU AI Act سارية بشكل عام في 2 أغسطس 2026، ومنها التزام وسم المحتوى المولَّد بالذكاء الاصطناعي (المادة 50)، مع فترة انتقالية حتى 2 ديسمبر 2026 لوضع العلامات المقروءة آلياً في الأنظمة المطروحة قبل ذلك. وقد أجّلت تعديلات Digital Omnibus التزامات عالي المخاطر إلى 2 ديسمبر 2027 (Annex III) و2 أغسطس 2028 (Annex I)، لكن الغرامات تصل إلى 35 مليون يورو أو 7% من الإيرادات العالمية للممارسات المحظورة، وإلى 15 مليون يورو أو 3% لمخالفة التزامات عالي المخاطر أو الشفافية. يغطي هذا المقال قالباً من سبعة بنود في صفحتي A4 (الذكاء الاصطناعي المعتمد، البيانات المحظورة، حالات الاستخدام، المسؤولية، الإبلاغ، التدريب، السجلات)، والفئات الخمس لبيانات الإدخال المحظورة مع أمثلة ملموسة وبدائل، ومستويات مخاطر EU AI Act، وطرحاً من خمس مراحل يستغرق 2–3 أشهر في شركة متوسطة الحجم، وثلاث مزالق (الحظر على مستوى الشركة، التصميم القائم على العقوبة، عدم المراجعة). مثال مكتمل للخروج من ثنائية «الحظر أو السماح» وتنفيذ الطريق الثالث «التشغيل الآمن داخل إطار».