يشهد الذكاء الاصطناعي في المملكة العربية السعودية توسعًا متسارعًا في التطبيقات الحكومية والتجارية والمهنية والخدمية، وهو ما يثير في المقابل مجموعة متنامية من المسائل النظامية المتعلقة بالبيانات والخصوصية والمسؤولية والشفافية والأمن وحماية الحقوق عند تصميم الأنظمة الذكية أو تطويرها أو استخدامها.
وأتناول في هذه الحلقة الإطار النظامي والتنظيمي المرتبط باستخدام تقنيات الذكاء الاصطناعي، مع التأكيد على أن تنظيم هذه التقنيات لا يقوم حاليًا على نظام واحد جامع يحمل اسم «نظام الذكاء الاصطناعي»، وإنما على مجموعة من الأنظمة والضوابط والمبادئ والأطر التنظيمية التي تتداخل بحسب طبيعة الاستخدام والبيانات والقطاع والآثار المترتبة عليه.
الأدق نظاميًا هو الحديث عن إطار تنظيمي للذكاء الاصطناعي وليس عن نظام تشريعي واحد يحكم جميع تطبيقاته.
فقد يخضع استخدام معين للذكاء الاصطناعي لأحكام حماية البيانات الشخصية، بينما تثار في استخدام آخر مسائل تتعلق بالمسؤولية المدنية أو الجرائم المعلوماتية أو الإثبات أو الملكية الفكرية أو قواعد خاصة بالقطاع الذي يستخدم فيه النظام.
تشكل مبادئ أخلاقيات الذكاء الاصطناعي جزءًا مهمًا من الإطار التنظيمي في المملكة؛ إذ تستهدف توجيه تصميم وتطوير واستخدام الأنظمة الذكية بصورة مسؤولة تراعي الحقوق والقيم والمصالح المشروعة للأفراد والمجتمع.
وتشمل الاعتبارات المهمة في هذا المجال العدالة، والخصوصية، والموثوقية والسلامة، والشفافية، والمساءلة، والإنسانية، إلى جانب إدارة المخاطر المصاحبة للنظام طوال دورة حياته.
يتجه الإطار الأخلاقي إلى التعامل مع أنظمة الذكاء الاصطناعي بحسب مستوى المخاطر التي يمكن أن تنتج عنها، بدل التعامل مع جميع التطبيقات بالطريقة نفسها.
فهناك تطبيقات منخفضة أو محدودة المخاطر، بينما تتطلب الأنظمة عالية المخاطر قدرًا أكبر من التقييم والرقابة والامتثال للمتطلبات النظامية، في حين توجد استخدامات قد تصنف باعتبارها ذات مخاطر غير مقبولة على السلامة أو الحقوق.
تعد البيانات العنصر الأساسي في كثير من تطبيقات الذكاء الاصطناعي، سواء عند تدريب النموذج أو تشغيله أو تحسين مخرجاته.
وإذا كانت البيانات المستخدمة تعد بيانات شخصية، فإن معالجتها يجب أن تتم في إطار نظام حماية البيانات الشخصية ولوائحه وما يرتبط به من متطلبات بشأن جمع البيانات ومعالجتها والاحتفاظ بها والإفصاح عنها وحمايتها.
لا يكفي امتلاك كمية كبيرة من البيانات حتى تصبح جميع صور استخدامها مشروعة؛ بل يجب النظر إلى الغرض من جمع البيانات والمسوغ النظامي لمعالجتها ومدى ارتباط المعالجة الجديدة بالغرض الذي جُمعت من أجله.
ولهذا تبرز المسألة عندما ترغب جهة في إعادة استخدام البيانات لتدريب نموذج ذكاء اصطناعي أو لتحليل سلوك الأفراد أو إنشاء تنبؤات وملفات شخصية عنهم.
من المبادئ المهمة ألا تُجمع بيانات أكثر مما يلزم لتحقيق الغرض المشروع، وأن تراعى الضرورة والتناسب في تحديد البيانات التي يحتاج إليها النظام الذكي.
ولذلك فإن تصميم نظام ذكاء اصطناعي مسؤول يبدأ منذ مرحلة اختيار البيانات وليس بعد تشغيل النموذج فقط.
قد يؤدي نظام ذكاء اصطناعي إلى تحليل سلوك الفرد أو اهتماماته أو موقعه أو صورته أو صوته أو غير ذلك من المعلومات التي تكشف عن هويته أو خصائصه.
ولهذا فإن مراعاة الخصوصية منذ مرحلة التصميم تمثل عنصرًا أساسيًا في تطوير الاستخدام المسؤول للذكاء الاصطناعي.
تزداد الحاجة إلى الحذر عندما تتعامل التطبيقات مع بيانات شديدة الحساسية أو عندما يكون القرار الناتج عنها مؤثرًا بصورة كبيرة في حياة الفرد أو حقوقه أو مركزه النظامي.
فكلما ارتفع أثر القرار، زادت أهمية الحوكمة والرقابة البشرية وتقييم المخاطر وسلامة البيانات المستخدمة في اتخاذه.
يزداد التعقيد عندما لا يقتصر الذكاء الاصطناعي على تقديم معلومات، وإنما ينتج قرارًا أو توصية يترتب عليها أثر في شخص أو منشأة.
وهنا تظهر أسئلة مهمة: ما البيانات التي بُني عليها القرار؟ وهل كانت صحيحة؟ وهل تعرض النموذج لتحيز؟ وهل توجد رقابة بشرية؟ وهل يمكن تفسير النتيجة أو مراجعتها؟
من أكثر الأسئلة القانونية أهمية: من يتحمل المسؤولية إذا تسبب استخدام الذكاء الاصطناعي في خطأ أو ضرر؟
ولا توجد إجابة واحدة تصلح لكل الحالات؛ فقد يرتبط الخطأ بتصميم النظام أو ببيانات التدريب أو بطريقة تشغيله أو بقرار المستخدم الاعتماد على المخرجات دون التحقق منها.
لا ينبغي النظر إلى النظام الذكي باعتباره وسيلة لنقل المسؤولية بعيدًا عن الأشخاص والجهات التي تصممه أو تشغله أو تستخدم مخرجاته.
فقول الشخص إن «الذكاء الاصطناعي هو الذي اتخذ القرار» لا يكفي بذاته لنفي المسؤولية، وإنما يجب تحديد من اتخذ قرار استخدام النظام، ومن أدخل البيانات، ومن اعتمد النتيجة، وما الالتزام الذي كان واجبًا عليه.
قد تنتج بعض أنظمة الذكاء الاصطناعي التوليدي معلومات غير صحيحة أو تقدم مصادر أو وقائع بطريقة تبدو مقنعة رغم عدم دقتها.
ولذلك فإن استخدام هذه المخرجات في العمل القانوني أو الطبي أو المالي أو المهني يحتاج إلى تحقق بشري مستقل قبل الاعتماد عليها في قرار يترتب عليه أثر.
كلما كان النظام يستخدم في قرارات عالية الأثر، أصبحت الشفافية وقابلية تفسير النتيجة أكثر أهمية.
وقد يصعب الدفاع عن قرار مؤثر إذا لم تستطع الجهة التي اعتمدته تفسير العناصر الأساسية التي بني عليها أو إثبات سلامة البيانات المستخدمة فيه.
قد يتعلم النظام من بيانات تحمل تحيزات سابقة، فيعيد إنتاجها في توصياته أو قراراته.
ولذلك يجب اختبار النماذج ومراقبة نتائجها وعدم افتراض أن القرار الآلي محايد لمجرد أنه صادر عن خوارزمية.
يثير الذكاء الاصطناعي التوليدي كذلك أسئلة متزايدة حول حقوق الملكية الفكرية، سواء تعلق الأمر بالمواد التي تستخدم في تدريب النماذج أو بالمحتوى الناتج عنها أو بطريقة إعادة استخدام المصنفات المحمية.
ولذلك يجب عدم افتراض أن مجرد قدرة النظام على إنشاء نص أو صورة أو مادة مشابهة لمحتوى موجود تجعل استخدامها خاليًا من أي اعتبارات متعلقة بالحقوق.
يمكن للذكاء الاصطناعي كذلك إنتاج نصوص أو صور أو تسجيلات تحاكي أشخاصًا أو مصادر حقيقية، وهو ما يثير مسائل تتعلق بالتضليل والانتحال ونسبة المحتوى إلى صاحبه.
ويزداد الخطر عندما يستخدم المحتوى المصطنع لإيهام الآخرين بصدور تصريح أو وثيقة أو تسجيل من شخص لم يصدر عنه في الحقيقة.
مع انتشار المحتوى الذي يمكن إنشاؤه أو تعديله بواسطة الذكاء الاصطناعي، تزداد أهمية الإثبات الرقمي والتحقق من مصدر الدليل وسلامته.
فقد يدور النزاع حول صورة أو تسجيل صوتي أو مقطع فيديو أو مستند يقال إنه أصلي، بينما يكون قد تعرض للإنشاء أو التعديل بواسطة أدوات الذكاء الاصطناعي.
في المنازعات المرتبطة بالمحتوى الرقمي قد تصبح البيانات الفنية المحيطة بالملف، وسجلات النظام، والمراسلات، وتوقيت إنشاء الملف أو تعديله، والخبرة الفنية، عناصر مهمة لتحديد مدى صحة الدليل.
ولهذا فإن تطور الذكاء الاصطناعي لا يقلل أهمية الإثبات، بل على العكس يزيد الحاجة إلى التحقق الفني من الأدلة الرقمية.
لا ترتبط المخاطر فقط بما ينتجه النظام، وإنما أيضًا بسلامة النظام نفسه والبيانات التي يعتمد عليها.
فقد يؤدي اختراق النظام أو العبث ببياناته أو التلاعب بمدخلاته إلى نتائج غير صحيحة أو إلى كشف بيانات أو إحداث أضرار للجهة أو للأشخاص الذين يعتمدون عليه.
لا يمكن تقييم استخدام الذكاء الاصطناعي بمعزل عن القطاع الذي يستخدم فيه.
فاستخدام نموذج لإنشاء محتوى تسويقي يختلف عن استخدامه في الرعاية الصحية أو القرارات المالية أو الموارد البشرية أو الخدمات الحكومية أو المجال القانوني، لأن درجة الخطر والالتزامات تختلف بحسب طبيعة الأثر.
من المهم قبل اعتماد أي نظام ذكاء اصطناعي تحديد الغرض من استخدامه، والبيانات التي يحتاج إليها، ومصدرها، ومستوى المخاطر، ومن يملك صلاحية تشغيله، ومن يراجع المخرجات، وكيف يتم التعامل مع الأخطاء أو الشكاوى.
كما ينبغي توثيق هذه الإجراءات بصورة تسمح لاحقًا بتحديد المسؤولية إذا وقع خطأ أو نزاع.
كلما كان القرار أكثر تأثيرًا في الحقوق أو المصالح، ازدادت أهمية وجود رقابة بشرية حقيقية وعدم ترك القرار بالكامل للنظام الآلي دون مراجعة.
فالذكاء الاصطناعي أداة لدعم الإنسان في كثير من الاستخدامات، وليس مبررًا للتخلي عن المسؤولية المهنية أو النظامية عند اتخاذ القرار.
يتميز الذكاء الاصطناعي بسرعة التطور؛ ولذلك فإن الإطار التنظيمي المرتبط به بطبيعته إطار متجدد، ويجب متابعة ما يصدر من أنظمة ولوائح وضوابط وأطر ومبادئ وتحديثات ذات صلة.
وهذا يجعل القراءة القانونية للذكاء الاصطناعي مختلفة عن التعامل مع موضوع تشريعي ثابت؛ فالاستخدام الذي يكون منخفض المخاطر اليوم قد يصبح أكثر تأثيرًا مع تغير قدرات التقنية وطريقة استخدامها.
تنبيه قانوني: لا يوجد حكم نظامي واحد يطبق بصورة موحدة على جميع تطبيقات الذكاء الاصطناعي؛ بل يتحدد الإطار الواجب التطبيق بحسب طبيعة التقنية، ونوع البيانات، والقطاع، ومستوى المخاطر، وطبيعة القرار أو المخرج، والضرر أو الحق الذي قد يتأثر باستخدام النظام.
تأتي هذه الحلقة ضمن الثقافة الحقوقية ، وهي سلسلة مرئية أقدم من خلالها شرحًا قانونيًا مبسطًا لعدد من القضايا والمسائل القانونية والنظامية التي تهم الجمهور والمتخصصين.
