عرضنا حتى الفصل السابق فائدة الذكاء الاصطناعي وطرق توظيفه. لكن لـ «إتقان» الذكاء الاصطناعي فعلًا لا غنى عن فهم المخاطر فهمًا صحيحًا. ومعرفة المخاطر ليست للخوف من الذكاء الاصطناعي، بل هي مثل تعلّم «كيفية استخدام المكابح» في قيادة السيارة ― معرفة أساسية لاستخدامه بأمان.
المخاطر ليست «مخيفة» بل «يجب معرفتها»
تعرّف على مخاطر الذكاء الاصطناعي الخمسة الكبرى
المخاطر التي ينبغي الإلمام بها في استخدام الذكاء الاصطناعي تنتظم في خمس كبرى. لكلٍّ منها طبيعة مختلفة، فلنستوعب الصورة الكاملة أولًا. ثم نتعمّق فيها واحدةً واحدة أدناه.
ظاهرة إخراج معلومات لا تستند إلى الحقيقة بصورة معقولة وبثقة تامّة. أكبر مخاطر الذكاء الاصطناعي.
إشكال مزدوج بين بيانات التدريب والمخرجات. دعاوى قضائية جارية في العالم.
احتمال أن تُستخدَم بياناتك المُدخَلة في التدريب. وما أدخلته مرّة لا يُلغى.
ينعكس الانحياز الاجتماعي الكامن في بيانات التدريب على المخرجات كما هو.
وسائط مزيّفة لا يمكن تمييزها يصنعها الذكاء الاصطناعي. تُستغلّ في الاحتيال وانتحال الهوية.
الهلوسة ― الذكاء الاصطناعي يكذب بثقة تامّة
الهلوسة (Hallucination) ظاهرة يُخرج فيها الذكاء الاصطناعي معلومات لا تستند إلى الحقيقة وكأنها حقيقة، بثقة تامّة. وليس مبالغةً القول إنها أكبر مخاطر استخدام الذكاء الاصطناعي.
لماذا تحدث ― فهم الآلية
يعمل الذكاء الاصطناعي بآلية «التنبؤ بالكلمة الأرجح تاليًا». أي إنه لا يُخرج «ما هو صحيح» بل «ما يبدو معقولًا» فحسب. فهو لا يحكم على الصواب والخطأ. لا يراجع قاموسًا، بل يطابق أنماطًا لا أكثر.
وتتفاوت معدلات الهلوسة تفاوتًا كبيرًا بين النماذج. في اختبار معياريّ لعام 2025، بلغت في أفضل النماذج (Gemini 2.0 Flash) 0.7%، بينما بلغت في بعض النماذج ما يقارب 30%[2]. التحسّن مستمرّ لكنها لا تبلغ الصفر.
حالات وقعت فعلًا
- سوابق قضائية وهمية ― قدّم محامٍ أمريكيّ إلى المحكمة سوابق بحثها عبر ChatGPT، فتبيّن أنّ السوابق المستشهد بها لا وجود لها (2023)
- أبحاث وهمية ― توليد عناوين أبحاث وأسماء مؤلّفين لا وجود لها بصورة معقولة
- إحصاءات خاطئة ― يجزم بأنّ «حجم سوق كذا هو كذا» لكن الرقم يختلف كثيرًا عن الواقع
- المجال القانوني ― في دراسة لجامعة ستانفورد، بلغ معدل الهلوسة في الاستعلامات القانونية 69~88% في بعض الحالات[2]
أربعة تدابير دفاعية
لا تُعالَج الهلوسة بـ «تصفيرها» بل بـ «آلية كشفها». اجعل الخطوات الأربع التالية عادةً.
اسأل «ما مصدر ذلك؟». وشكّك في أيّ ادّعاء يعجز عن ذكر مصدره.
تحقّق دائمًا من الأرقام والقوانين والأسماء من مصدر أوليّ كموقع رسميّ أو النصّ الأصلي.
اطرح السؤال ذاته على عدّة نماذج، واعتبر اختلاف الأجوبة إشارة تستوجب الحذر.
ابحث عبر محرّكات البحث بالذكاء الاصطناعي التي تجيب مع روابط المصادر مثل Perplexity و Gemini.
وأشدّ المعلومات استيجابًا للحذر أربع: البيانات الإحصائية والأرقام، وأسماء الأشخاص والأسماء الخاصّة، والقانون والضرائب، وأحدث الأخبار. تحقّق من هذه دائمًا من مصدر أوليّ.
💡 خلاصة عملية: إن استخدمت أدوات ذكاء اصطناعي تتكامل مع بحث الويب مثل Perplexity و Gemini، عادت الإجابة مع روابط المصادر. وفي مهامّ البحث المهمّة، توزيع هذه الأدوات البحثية طريقة ذكية. وفي الشركات يتوسّع تبنّي حواجز الذكاء الاصطناعي التي تمنع الإجابات الخاطئة بآليّة.
حقوق النشر ― هل يجوز الاستخدام؟ ولمن ما يُصنع؟
مشكلة الذكاء الاصطناعي وحقوق النشر مشكلتان كبيرتان: «هل يجوز استخدام المصنّفات في تدريب الذكاء الاصطناعي؟» و«هل لما يصنعه الذكاء الاصطناعي حقوق نشر؟».
المشكلة 1: بيانات تدريب الذكاء الاصطناعي وحقوق النشر
تُدرَّب نماذج الذكاء الاصطناعي على كمّ هائل من المحتوى على الإنترنت (نصوص وصور وشيفرات وغيرها). وتقع دعاوى في العالم بدعوى استخدام الأعمال دون إذن أصحاب الحقوق.
| الدعوى | الوصف | الوضع (حتى 2026) |
|---|---|---|
| NYT ضد OpenAI | رفعت New York Times دعوى بسبب تدريب على مقالاتها دون إذن | قيد التقاضي |
| Getty ضد Stability AI | دعوى بسبب تدريب على الصور دون إذن | قيد التقاضي |
| دعوى جماعية لفنّانين | استخدام أعمال دون إذن في تدريب ذكاء اصطناعي لتوليد الصور | عدّة دعاوى جارية |
| يوميوري وأساهي ونيكِّي ضد Perplexity | استخدام مقالات دون إذن، بمطالبة تعويض تبلغ نحو 6.6 مليار ين | رُفعت في 2025 |
المشكلة 2: حقوق نشر مخرجات الذكاء الاصطناعي
هل يُعترف بحقوق نشر للمحتوى الذي ولّده الذكاء الاصطناعي؟ يختلف الحكم بحسب البلد.
ما ولّده الذكاء الاصطناعي بشكل مستقلّ لا حقوق نشر له. لكن قد يُحمى إن أسهم إنسان إسهامًا إبداعيًا.
موقف مكتب حقوق النشر هو «لا يُعترف بحقوق نشر لما ولّده الذكاء الاصطناعي وحده». وقد يُعترف جزئيًا إن وُجدت سيطرة إبداعية بشرية.
وضع القواعد جارٍ بشأن حقوق نشر مخرجات الذكاء الاصطناعي.
ما ينبغي أن تنتبه له
- عند الاستخدام التجاري راجع دائمًا شروط الاستخدام لكل خدمة
- في توليد الصور لا تحدّد اسم فنّان بعينه («بأسلوب فلان» منبع مشكلات حقوق النشر)
- تحقّق إن كان مخرَج الذكاء الاصطناعي مشابهًا لمصنّف قائم
- عند الحاجة أشِر صراحةً إلى أنه من إنتاج الذكاء الاصطناعي
الخصوصية ― ماذا يجوز أن تعطي الذكاء الاصطناعي
في 2023، أدخل موظف في Samsung Electronics شيفرة داخلية سرّية إلى ChatGPT، فصار خبرًا كبيرًا. وبسبب هذه الحادثة صارت شركات كثيرة تضع سياسات لإدخال المعلومات إلى الذكاء الاصطناعي.
قد تُستخدَم البيانات التي تُدخلها إلى الذكاء الاصطناعي في تحسين الخدمة أو تدريب النموذج. تصرّف على افتراض أنّ «ما أُدخل مرّة لا يُلغى». ونشرح بالتفصيل ماذا وكيف ينبغي أن تُدخل في ما يجب الانتباه له عند الإدخال إلى الذكاء الاصطناعي.
- المعلومات السرّية للشركة والشيفرة غير المنشورة
- المعلومات الشخصية للعملاء والشركاء
- كلمات المرور ومفاتيح API وبيانات المصادقة
- البيانات المالية والموارد البشرية غير المنشورة
- معلومات سرّية ائتمنك عليها غيرك
- معلومات منشورة للعامّة بالفعل
- بيانات مجهّلة من أسماء الأشخاص والشركات
- نصوص كتبتها بنفسك وتنوي نشرها
- البيانات الصحفية والمواد المنشورة
- بيانات وهمية أو عيّنة
تدابير ملموسة لحماية البيانات
| التدبير | الشرح |
|---|---|
| إيقاف سجلّ المحادثة | في ChatGPT و Claude معًا، يمكن إيقاف استخدام بيانات المحادثة في التدريب من الإعدادات |
| النسخة المؤسّسية | في خطط الأعمال ضمانٌ بعدم استخدام البيانات في التدريب |
| تجهيل المعلومات | قبل الإدخال، استبدل الأسماء بـ «شخص أ» وأسماء الشركات بـ «الشركة س» |
| التشغيل المحلّي | شغّل نماذج مفتوحة المصدر على حاسوبك عبر أدوات مثل Ollama |
💡 معيار الحكم عند التردد: اسأل نفسك «هل يضرّني لو نُشرت هذه المعلومة على الإنترنت؟». إن كان الجواب «نعم يضرّني» فلا ينبغي إدخالها إلى الذكاء الاصطناعي. وعند التشغيل على مستوى مؤسسة، من الأسلم توثيق إرشادات استخدام الذكاء الاصطناعي في الشركة كتابةً.
التحيّز والتزييف العميق
تحيّز الذكاء الاصطناعي ― انحياز بيانات التدريب يظهر في المخرجات
تحيّز الذكاء الاصطناعي ظاهرة ينعكس فيها الانحياز الاجتماعي الكامن في بيانات التدريب على المخرجات كما هو. لا يُخرج الذكاء الاصطناعي «الجواب الصحيح» بل يميل إلى إخراج «الجواب الذي كان أغلبيًا في بيانات التدريب».
- التحيّز الجندريّ ― توليد صور «ممرّضة» يعطي نساءً فقط، و«مهندس» يعطي رجالًا فقط
- التحيّز الثقافيّ ― ميل إلى إجابات منحازة إلى قيم الناطقين بالإنجليزية والغرب
- تحيّز التأكيد ― مبالغة في عكس رأي الأغلبية وسقوط منظور الأقلّية
التدبير: لا تسلّم بإجابات الذكاء الاصطناعي، واعتد أن تطلب «فكّر من منظور آخر أيضًا» أو «اطرح الرأي المعارض». وفي القرارات المهمّة كالتوظيف وتقييم الأداء، من المهمّ خاصةً ألّا يكون حكم الذكاء الاصطناعي المستنَد الوحيد.
التزييف العميق ― تضليل لا يمكن تمييزه
مع تطوّر تقنية توليد الصور والفيديو والصوت الواقعية بالذكاء الاصطناعي، تزايد خطر التزييف العميق (وسائط مزيّفة يصنعها الذكاء الاصطناعي). ويُقدَّر أنّ التزييف العميق على مواقع التواصل قفز من 500 ألف حالة في 2023 إلى 8 ملايين في 2025[3].
- احتيال استنساخ الصوت ― احتيال هاتفيّ يحاكي صوت فرد من العائلة أو مدير بالذكاء الاصطناعي. يمكن صنع النسخة من عيّنة صوت مدّتها ثوانٍ
- فيديو مزيّف ― توجيه الرأي العام أو انتحال الهوية عبر فيديو مزيّف لمشاهير أو ساسة
- أخبار زائفة ― نشر واسع لمقالات إخبارية معقولة ولّدها الذكاء الاصطناعي
🛡️ نقاط لحماية نفسك
- المكالمات العاجلة مثل «حوّل المال بسرعة» ― تحقّق من هوية الشخص بوسيلة أخرى
- الصور والفيديوهات الصادمة على التواصل ― تحقّق من مصدرها
- احمل دائمًا قدرًا من الشكّ تجاه أيّ محتوى قد يكون ولّده الذكاء الاصطناعي
مع انتشار وكلاء الذكاء الاصطناعي، تظهر هجمات جديدة تشمل هذا الاستغلال. ويفيد منظور الشركات أيضًا في شرح الحوادث الأمنية لوكلاء الذكاء الاصطناعي.
اتجاهات التنظيم عالميًا ― بدأ وضع القواعد
لمواجهة مخاطر الذكاء الاصطناعي، يجري سنّ التشريعات بوتيرة سريعة في دول العالم.
| المنطقة | التنظيم | الخصائص |
|---|---|---|
| الاتحاد الأوروبي | AI Act (أُقرّ في 2024) | تنظيم قائم على المخاطر. معايير صارمة للذكاء الاصطناعي عالي المخاطر (التوظيف والطب والقضاء). تطبيق تدريجيّ من 2025 |
| اليابان | قانون تعزيز الذكاء الاصطناعي (أُقرّ مايو 2025) | نهج «الابتكار أولًا». تركيز على التعزيز أكثر من التنظيم مع تهيئة معايير أمان |
| الولايات المتحدة | أمر رئاسيّ بشأن سلامة الذكاء الاصطناعي | لا قانون فيدراليّ شامل بعد. التنظيم يتقدّم على مستوى الولايات |
أقرّت اليابان في ديسمبر 2025 «الخطة الأساسية للذكاء الاصطناعي» في مجلس الوزراء، وتخطّط لاستثمارات في الذكاء الاصطناعي بحجم تريليون ين على مدى خمس سنوات[1]. ويلفت النظر النهج «اليابانيّ» الذي يهيّئ معايير الأمان مع تعزيز الابتكار دون إفراط في التنظيم.
قائمة تحقّق لاستخدام آمن للذكاء الاصطناعي
بعد فهم المخاطر، كيف تتصرّف تحديدًا؟ لخّصنا قائمتَي تحقّق، للفرد وللمؤسّسة، كلٌّ من موقعه.
- لا تسلّم بالمخرجات ― تحقّق دائمًا من المعلومات المهمة من مصدر أوليّ
- لا تُدخل معلومات سرّية ― احكم بـ «هل يضرّني لو نُشر»
- تحقّق من الأرقام والأسماء الخاصّة ― أكثر مجال تحدث فيه الهلوسة
- انتبه للتحيّز ― راعِ إن كان في مخرجات الذكاء الاصطناعي انحياز
- تحقّق من حقوق النشر ― عند الاستخدام التجاري راجع دائمًا شروط الاستخدام
- أشِر إلى استخدام الذكاء الاصطناعي بشكل ملائم ― أفصِح عنه في التقارير والمقالات
- المسؤولية النهائية عليك ― مسؤولية نتائج استخدام مخرجات الذكاء الاصطناعي على المستخدم
- وضع سياسة استخدام الذكاء الاصطناعي وتعميمها ― وثّق ماذا يجوز إدخاله في أيّ عمل
- تنفيذ تدريب الموظفين ― علّمهم الاستخدام الصحيح والمخاطر
- تدفّق مراجعة مخرجات الذكاء الاصطناعي ― ابنِ آليّة يراجع فيها إنسان قبل النشر
- دراسة النسخة المؤسّسية ― ادرس خطط الأعمال ذات ضمانات معالجة البيانات الأقوى
- تهيئة إجراءات الاستجابة للحوادث ― حدّد مسبقًا تدفّق الاستجابة عند وقوع مشكلة
- مخاطر الذكاء الاصطناعي ليست «مخيفة» بل «يجب معرفتها». استعرضنا الخمس الكبرى.
- أساس مواجهة الهلوسة التحقّق ― أربع خطوات: طلب المصدر والمصدر الأوليّ ومقارنة عدّة نماذج وتوظيف بحث الذكاء الاصطناعي.
- أساس حماية الخصوصية اختبار «هل يضرّني لو نُشر». لا تُدخل الأسرار.
- انتبه أيضًا لحقوق النشر والتحيّز والتزييف العميق، ولا تنسَ أنّ المسؤولية النهائية على المستخدم.
- يجري وضع التنظيمات عالميًا بوتيرة سريعة، مثل EU AI Act وقانون تعزيز الذكاء الاصطناعي في اليابان.
المراجع
- "Japan adopts first AI basic plan." The Japan Times, December 23, 2025.
- Vectara. "Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. "Legal Hallucination Study." 2025.
- Deepstrike. "Deepfake Statistics 2025." deepstrike.io, 2025.
روابط ذات صلة:
- EU AI Act Explorer ― النصّ الكامل لقانون تنظيم الذكاء الاصطناعي الأوروبيّ وشرحه
- سياسات الذكاء الاصطناعي بوزارة الشؤون الداخلية اليابانية ― نظرة عامة على سياسة الذكاء الاصطناعي في اليابان
في الفصل التالي نشرح أحدث اتجاهات الذكاء الاصطناعي ― الذكاء الاصطناعي متعدد الوسائط ووكلاء الذكاء الاصطناعي واتجاهات 2025-2026.