مخاطر الذكاء الاصطناعي وأخلاقياته — التحقق قبل الاستخدام والنشر

قد تكون إجابات الذكاء الاصطناعي خاطئة من حيث الوقائع حتى حين تبدو طبيعية في صياغتها. كما أن القدرة على إنشاء صورة أو نص تختلف عن الإذن بنشره. يقدّم هذا الفصل، مع أمثلة ملموسة وخطوات عملية، ما ينبغي التحقق منه قبل إدخال المعلومات، وقبل استخدام الإجابة، وقبل النشر.

خمس نقاط للتحقق عند استخدام الذكاء الاصطناعي

هذه خمس نقاط أساسية ينبغي أخذها في الحسبان عند استخدام الذكاء الاصطناعي في الكتابة أو البحث. ويختلف مدى الحذر المطلوب بحسب الموقف.

الهلوسة: تحقّق من الإجابات الطبيعية أيضاً مقابل المصادر الأصلية

الهلوسة هي أن يقدّم الذكاء الاصطناعي إجابة خاطئة تبدو معقولة. وقد يكتب محتوى يناقض المادة التي قدّمتها، وقد يضيف حتى سبباً أو مصدراً مقنعاً للخطأ.^[2]

توليد النص والتحقق من الوقائع عمليتان منفصلتان

تتنبأ نماذج اللغة التي تولّد النص بـالرموز (وحدات مثل الحروف أو أجزاء من الكلمات) التي تتابع السياق. وهي كثيراً ما تنتج محتوى صحيحاً، لكن كون النص يتدفق بشكل طبيعي شيء، وكونه صحيحاً من حيث الوقائع شيء آخر. وحتى في الخدمات التي تجمع بين البحث أو الحساب، عليك أن تتحقق بنفسك مما إذا كانت المادة التي أشار إليها الذكاء الاصطناعي أو شروط الحساب صحيحة.^[2]

وأثناء صياغة النص بشكل إعلان، تُضاف أشياء لم تُحسم بعد. هذا مثال مألوف على الهلوسة.

أربع خطوات للتحقق من الإجابة

1. حدّد ما يجب التحقق منه استخرج الأرقام والتواريخ والأسماء والاقتباسات والعبارات التي تتضمن التزاماً، مثل «سنقوم بكذا».
2. افتح المصدر بنفسك تحقّق من أن المصدر موجود فعلاً، وأن المقطع فيه يقول ما تقوله الإجابة. فالرابط وحده ليس دليلاً.
3. قارن بعد توحيد الشروط تحقّق من أن الجمهور المستهدف والمنطقة والفترة والوحدات تطابق الأصل، وأعد الحسابات بنفسك. وتأكد أيضاً من أن «مخطط له» لم يتحوّل إلى «محسوم».
4. حدّد ما يمكنك استخدامه افصل بين الوقائع التي تحققت منها والنقاط التي لم تتحقق منها بعد. وتحقّق من القرارات المهمة مع المسؤول المعني أو مع خبير قبل استخدامها.

حقوق النشر: افصل شروط الإدخال والتوليد والنشر

في حقوق النشر، فكّر بشكل منفصل في هل يجوز لك استخدام عمل الآخرين وهل يحظى الناتج المُولَّد بالحماية. وحتى لو ذكرت شروط الخدمة «الاستخدام التجاري مسموح»، فهذا لا يعني أنك تحققت من حقوق عمل الآخرين.

هل تملك حقوق النشر؟ تحقّق منفصل

وفق منهج وكالة الشؤون الثقافية، يُفحص الأمر حالة بحالة: إلى أي مدى شارك الشخص مشاركة إبداعية. فطول التعليمات أو تكرار إعادة التوليد وحده لا يحدد ما إذا كانت الحماية تنطبق. كما يميّز تقرير مكتب حقوق النشر الأمريكي لعام 2025 أيضاً بين الحالات التي حدّد فيها الشخص التعبير أو حرّره إبداعياً، والحالات التي قُدّم فيها موجّه (prompt) فحسب.^{[5] [6]}

مثال: إذا استخدمت الذكاء الاصطناعي لتعديل رسم توضيحي وجدته على الإنترنت لاستخدامه في إعلان، فتحقّق من شروط استخدام الرسم الأصلي، ومن أي تعبير أصلي باقٍ في الناتج، ومن شروط استخدامه في الإعلانات. لا تفترض أن «التعديل بالذكاء الاصطناعي يجعله جائزاً». وفي الحالات الصعبة، استشر صاحب الحق أو المسؤول في مؤسستك.

الخصوصية: ما الذي يمكن تقديمه للذكاء الاصطناعي وما الذي لا يمكن

يتوقف جواز إدخال المعلومات على ثلاثة أمور: نوع المعلومات، والخدمة والباقة المستخدمة، وإذن المؤسسة. ومن المهم ألا يُحسم الأمر بشرط واحد، مثل «الباقة المدفوعة آمنة» أو «لا بأس لأنني أخفيت الاسم».

افصل بين التدريب والحفظ والحذف والإرسال

افصل بين إدخال التدريب وإدخال العمل الفعلي

كلمات المرور ومفاتيح API والمفاتيح الخاصة لا حاجة لإدخالها أبداً، لا في كتابة النصوص ولا في التدريب. كما أنك إن غيّرت اسماً إلى «السيد أ»، فقد يُعرف الشخص من العنوان أو اسم القضية أو التاريخ والوقت وغير ذلك. فإخفاء الاسم وحده لا يجعل المعلومات مجهولة المصدر، ولا يمنح إذناً بمشاركتها.

تحقّق من شروط الخدمات الثلاث في الوثائق الرسمية

ما يلي ينطبق على الدردشة للاستخدام الشخصي (تم التحقق منه في 14 أكتوبر 2026 من الوثائق الرسمية لكل شركة). أما الباقة التي تتعاقد عليها شركتك فشروطها وإعداداتها الإدارية مختلفة، لذا تحقّق منها على حدة.

لا يعني «عدم الاستخدام للتدريب» في الباقات المخصصة للشركات أن البيانات لا تُحفظ أبداً، أو أنها غير مرتبطة بخدمات خارجية، أو أن أحداً لا يطّلع عليها. ويوصي دليل OpenAI للمؤسسات أيضاً بالتحقق من كيفية التعامل مع الحفظ والإدارة لكل باقة وميزة واتصال. وبعد التحقق من مضمون العقد، قارنه بـقواعد مؤسستك.

التدرّب على تقليل الإدخال عند الرد على الاستفسارات

ترتيب ما قبل الإدخال: أولاً، اقتصر على المعلومات التي يتطلبها الغرض، ثم تحقّق من كيفية تعامل الخدمة والباقة والجهات المرتبطة بها مع المعلومات، ثم قارنها بقواعد مؤسستك. وإن لم تتمكن من الحسم، فتوقف عن الإدخال وجرّب بأمثلة غير موجودة. للتفاصيل، انظر ما ينبغي الانتباه إليه عند إدخال معلومات في الذكاء الاصطناعي.

وإذا أدخلت معلومات بالفعل، فأول ما تفعله هو التحقق من النطاق والشروط التي يمكن بها حذفها، وإن كانت معلومات عمل، فاستشر المسؤول في مؤسستك. فمثلاً، يوضح الشرح الرسمي لـ ChatGPT أن الأرشفة تختلف عن الحذف، وأن هناك استثناءات لمدة الاحتفاظ بعد الحذف، وأن الملفات المحفوظة بشكل منفصل أو البيانات الأصلية لدى الجهات المرتبطة تُعالَج بشكل منفصل. ولاحظ أن مجرد إدخال المعلومات لا يعني أنها استُخدمت في التدريب أو تسرّبت إلى آخرين.

التعامل مع الانحياز وانتحال الهوية

الانحياز: يشمل التصميم والاستخدام وليس البيانات وحدها

ينشأ انحياز الذكاء الاصطناعي ليس فقط من تكوين بيانات التدريب، بل أيضاً من الحكم البشري ومن الأنظمة التي تُستخدم فيها التقنية داخل المجتمعات والمؤسسات. وقد يُعامَل أشخاص من فئات معينة معاملة غير منصفة، أو قد تختلف الدقة باختلاف اللغة أو المجموعة.^[7]

في المواقف التي تؤثر في معاملة الناس، كالتوظيف وتقييم الأداء، حدّد من يتأثر بالقرار وما المعايير المعتمدة في الحكم، وجهّز إجراءً يستطيع فيه البشر مراجعة النتائج.

التزييف العميق: تحقّق من الهوية حتى حين يبدو الصوت أو الفيديو مقنعاً

تُستخدم الصور والفيديوهات والتسجيلات الصوتية التي يُنشئها الذكاء الاصطناعي أو يعدّلها أيضاً في انتحال الهوية والاحتيال. وقد أورد مكتب التحقيقات الفيدرالي الأمريكي (FBI) بين أمثلة التحذير الاحتيال الذي يقلّد صوت أحد أفراد الأسرة لطلب تحويل أموال عاجل، وانتحال هوية المديرين التنفيذيين عبر مكالمات الفيديو.^[3]

1. لا تتصرف فوراً لا تمضِ قدماً بناءً على الصوت أو الفيديو وحدهما عند طلب تحويل أموال عاجل، أو طلب بيانات اعتماد مثل كلمات المرور، أو تغيير تفاصيل الدفع.
2. اتصل بهم بنفسك أنهِ المكالمة، ثم اتصل مجدداً على رقم تعرفه من قبل، أو على جهة الاتصال الرسمية للمؤسسة.
3. توقف حتى تتحقق تحقّق مما إذا كان الشخص هو من يدّعي، وما مضمون الطلب، وهل وافقت المؤسسة عليه. فإن لم تتمكن من التحقق، فتوقف عن إرسال الأموال أو تقديم المعلومات، واستشر المسؤول المعني.

قد تكون الهيئة غير الطبيعية دليلاً، لكن غياب العلامات غير الطبيعية لا يعني أن الشيء أصيل. وبالنسبة للصور والفيديوهات التي تراها على مواقع التواصل، تحقّق من مَن نشرها ومتى، ومن السياق المحيط قبل مشاركتها. ولمعرفة إجراءات الشركات، يمكنك أيضاً الرجوع إلى شرح أمن وكلاء الذكاء الاصطناعي.

القوانين والقواعد: تحقّق من المنطقة والغرض والدور

إلى جانب القوانين الخاصة بالذكاء الاصطناعي، تحقّق أيضاً من القواعد المرتبطة بما تفعله، كحقوق النشر والمعلومات الشخصية وحماية المستهلك. ونقطة البداية هي في أي منطقة، ولأي غرض، وهل تشارك بصفتك مزوّداً للذكاء الاصطناعي أو مستخدماً له.

ما يلي مبني على وثائق رسمية من كل بلد ومنطقة حتى 16 أكتوبر 2026. ولمعرفة ما إذا كان ينطبق على استخدامك، تحقّق من النص الأصلي في الروابط المرفقة، أو استشر القسم المختص في مؤسستك.

قائمة التحقق قبل الاستخدام وقبل النشر

المراجع

1. مكتب مجلس الوزراء الياباني: عرض عام لقانون تعزيز الذكاء الاصطناعي، الخطة الأساسية للذكاء الاصطناعي.
2. NIST: إطار إدارة مخاطر الذكاء الاصطناعي التوليدي (2024، PDF بالإنجليزية). يتناول المحتوى المُولَّد الخاطئ ومناهج التحقق منه وإدارته.
3. FBI/IC3: تحذير من الاحتيال المالي باستخدام الذكاء الاصطناعي التوليدي (3 ديسمبر 2024، بالإنجليزية).
4. وثائق رسمية لقسم الخصوصية (تم التحقق منها في 14 أكتوبر 2026): ضوابط البيانات لدى OpenAI، إعدادات تحسين النموذج لدى Anthropic، شرح Google لخصوصية Gemini. ويمكن الاطلاع على الوثائق الفردية الخاصة بالحفظ والحذف والدردشات المؤقتة من الأجزاء ذات الصلة في النص.
5. وكالة الشؤون الثقافية اليابانية: مفاهيم بشأن الذكاء الاصطناعي وحقوق النشر (مارس 2024، PDF). تميّز بين التطوير والتدريب، والتوليد والاستخدام، وقابلية الناتج المُولَّد للحماية بوصفه مصنفاً.
6. مكتب حقوق النشر الأمريكي: نشر تقرير عن حقوق النشر في الأعمال المُولَّدة بالذكاء الاصطناعي (29 يناير 2025، بالإنجليزية).
7. NIST: انحياز الذكاء الاصطناعي قد ينشأ من مصادر غير البيانات (2022، بالإنجليزية).
8. المفوضية الأوروبية: نطاق قانون الذكاء الاصطناعي وجدول تطبيقه (بالإنجليزية).
9. FTC: شركات الذكاء الاصطناعي تفي بالتزاماتها بالخصوصية والسرية (2024، بالإنجليزية).
10. إدارة الفضاء السيبراني الصينية: الإجراءات المؤقتة لإدارة خدمات الذكاء الاصطناعي التوليدي، أحكام وسم المحتوى الاصطناعي المُولَّد بالذكاء الاصطناعي (بالصينية).

في الفصل التالي، نشرح أحدث توجهات الذكاء الاصطناعي. وعند استخدام المسودات في العمل، راجع أيضاً خطوات مراجعة البريد الإلكتروني.