من المسؤول عندما تقرر الآلة؟ دراسة فلسفية في المسؤولية القانونية الجديدة

الاستاذ الدكتور
فكري عزيز حمد السورجي

لم يعد السؤال عن المسؤولية القانونية في العصر الرقمي سؤالاً تقليدياً ينحصر في البحث عن الفاعل البشري الذي ارتكب فعلاً مخالفاً للقانون، بل أصبح سؤالاً فلسفياً يمس بنية القانون ذاته وقدرته على استيعاب فاعلين جدد لا يملكون وعياً إنسانياً بالمعنى المألوف، لكنهم يشاركون بصورة متزايدة في إنتاج القرارات والنتائج التي تمس الحقوق والمصالح والحريات. فالذكاء الاصطناعي لم يعد مجرد أداة حسابية محايدة تنفذ أمراً واضحاً يصدر عن الإنسان، وإنما أصبح منظومة قادرة على معالجة كميات هائلة من البيانات، والتعلم من الأنماط، وترجيح البدائل، وإصدار توصيات وقرارات قد يصعب حتى على المصمم أو المستخدم تفسير مسارها الداخلي بصورة كاملة. ومن هنا تظهر المعضلة المركزية: إذا أفضى قرار آلي إلى ضرر، فمن يتحمل المسؤولية؟ هل هو المبرمج، أم الشركة المطورة، أم مالك النظام، أم المستخدم، أم المؤسسة التي اعتمدت القرار، أم أن علينا التفكير في صورة جديدة للمسؤولية تتجاوز التصورات القانونية الموروثة؟
إن المسؤولية في الفلسفة القانونية ارتبطت تاريخياً بفكرة الإسناد. فالقانون لا يكتفي بإثبات وقوع الضرر، بل يبحث عن رابطة تسمح بنسبة الفعل إلى شخص يمكن مساءلته. وتفترض هذه الرابطة، في صورتها التقليدية، وجود إرادة وقدرة على الاختيار وإدراك للنتائج أو إمكان توقعها. لذلك قامت المسؤولية الجنائية، على وجه الخصوص، على علاقة دقيقة بين الفعل المادي والحالة الذهنية للفاعل، بينما سمحت المسؤولية المدنية بتوسيع دائرة الإسناد في حالات الخطأ والإهمال والمخاطر. غير أن الأنظمة الذكية تربك هذا البناء لأنها تفصل، بدرجات متفاوتة، بين من أنشأ الأداة وبين القرار النهائي الذي تنتجه. وقد يصمم المبرمج البنية العامة دون أن يتوقع كل نتيجة، وتوفر الشركة بيانات التدريب دون أن تعرف كل انحياز كامن فيها، ويستخدم الموظف النظام معتمداً على مخرجاته دون أن يملك القدرة التقنية على تفسيرها. وهكذا تتوزع السببية بين حلقات عديدة، في حين يظل المتضرر أمام نتيجة واحدة ملموسة.
تكمن المفارقة في أن القانون الحديث يزداد اعتماداً على أدوات قادرة على اتخاذ قرارات أكثر استقلالاً في الوقت الذي يظل فيه مفهوم المسؤولية مشدوداً إلى نموذج الإنسان الفرد. وهذا التباعد بين واقع القرار ونظرية الإسناد قد ينتج ما يمكن تسميته بفجوة المسؤولية؛ أي وجود ضرر واضح دون وجود فاعل منفرد يمكن أن يحمل بصورة عادلة وكاملة تبعة النتيجة. وفجوة المسؤولية ليست مجرد مشكلة إجرائية، لأنها تهدد إحدى الوظائف الأخلاقية للقانون: ألا يبقى الضرر بلا جواب. فإذا أصبحت تعقيدات التقنية وسيلة لتبديد المسؤولية بين المصمم والمستخدم والمؤسسة، تحول التطور التقني من أداة لتحسين الحياة إلى بنية يمكن أن تخفي السلطة وراء الغموض.
ولفهم المشكلة بصورة أعمق ينبغي التمييز بين اتخاذ القرار وبين امتلاك الإرادة. فالآلة تستطيع، من الناحية الوظيفية، المفاضلة بين بدائل وفق نموذج حسابي، لكنها لا تملك بالضرورة تجربة أخلاقية للقرار. إنها لا تشعر بالواجب ولا بالخوف من العقوبة ولا بالندم ولا بمعنى العدالة. وهذه الفجوة بين القدرة الحسابية والوعي الأخلاقي تجعل منحها مسؤولية قانونية مماثلة لمسؤولية الإنسان أمراً فلسفياً شديد التعقيد. فالمسؤولية ليست مجرد تحديد مصدر سببي للنتيجة، وإنما هي أيضاً خطاب معياري موجه إلى ذات نفترض أنها تستطيع فهم اللوم والالتزام وتعديل السلوك. وإذا غاب هذا الافتراض، يصبح وصف الآلة بأنها مسؤولة أقرب إلى المجاز ما لم يقصد به إنشاء تقنية قانونية خاصة لتوزيع المخاطر والتعويض.
لكن رفض المسؤولية الذاتية للآلة لا يعني إعفاء البشر المحيطين بها. على العكس، قد يكون من الضروري إعادة توزيع المسؤولية البشرية على أساس القدرة على السيطرة والتوقع والاستفادة. فالشركة التي تطور نظاماً عالي المخاطر وتطرحه في السوق لا ينبغي أن تتمكن من الاختباء خلف عبارة أن الخوارزمية هي التي قررت. والمؤسسة التي تعتمد نظاماً آلياً في التوظيف أو الائتمان أو الرعاية أو العدالة لا يمكنها أن تتخلى عن واجبها في التحقق من سلامة القرار بحجة الثقة بالتقنية. كما أن المستخدم المهني لا يعفى بصورة تلقائية إذا تعامل مع توصية آلية وكأنها حقيقة لا تقبل المراجعة. ومن ثم يمكن بناء المسؤولية الجديدة على مبدأ بسيط: كلما ازدادت قدرة الفاعل على تصميم النظام أو اختياره أو مراقبته أو إيقافه، ازدادت حصته من واجب العناية والمساءلة.
ويبرز هنا مفهوم السيطرة بوصفه أساساً فلسفياً محتملاً للمسؤولية. ففي النماذج التقليدية، ترتبط المسؤولية بالسيطرة على الفعل، لكن الأنظمة الذكية تجعل السيطرة موزعة وغير مباشرة. المطور يسيطر على الهندسة، ومزود البيانات يؤثر في المادة التي تتعلم منها الخوارزمية، والمشغل يحدد سياق الاستخدام، والمؤسسة تضع قواعد الاعتماد، والإنسان الذي يتلقى النتيجة قد يملك سلطة التصديق أو الرفض. لذلك لا يبدو عادلاً البحث عن شخص واحد في كل الحالات، بل قد تكون المسؤولية الشبكية أكثر ملاءمة، بحيث تتوزع الالتزامات تبعاً لموقع كل طرف داخل سلسلة إنتاج القرار. هذه الرؤية لا تذيب المسؤولية، وإنما تمنع اختزال نظام معقد في سبب واحد مصطنع.
ومع ذلك، فإن المسؤولية الشبكية تواجه خطراً معاكساً، هو أن يصبح الجميع مسؤولين نظرياً فلا يكون أحد مسؤولاً فعلياً. ولذلك ينبغي للقانون أن يحول فكرة الشبكة إلى واجبات محددة سلفاً: واجب الاختبار قبل النشر، وواجب توثيق البيانات ومصادرها، وواجب تقييم الانحياز، وواجب توفير تفسير مناسب للقرارات ذات الأثر الجوهري، وواجب المراقبة بعد التشغيل، وواجب التدخل البشري عند ظهور نتائج شاذة، وواجب الإبلاغ عن الحوادث. عندئذ لا تعود المسؤولية بحثاً متأخراً عن مذنب بعد وقوع الضرر، بل تصبح بنية وقائية موزعة على دورة حياة النظام بأكملها.
إن الانتقال من المسؤولية اللاحقة إلى المسؤولية الوقائية يمثل تحولاً فلسفياً مهماً. فالقانون التقليدي غالباً ما يتحرك بعد تحقق الضرر، أما في تقنيات يمكن أن تؤثر في آلاف أو ملايين الأشخاص بسرعة كبيرة، فقد يصبح الانتظار إلى ما بعد الضرر غير كافٍ. المسؤولية هنا ينبغي أن تتضمن التزاماً بالاحتياط يتناسب مع درجة الخطر. وكلما كان القرار متعلقاً بحرية الإنسان أو سمعته أو فرصه الاقتصادية أو صحته أو مركزه القانوني، ارتفع مستوى العناية المطلوبة. ومن هذه الزاوية تصبح فلسفة المسؤولية مرتبطة بفلسفة المخاطر: ليس السؤال فقط من أخطأ، بل من أنشأ خطراً، ومن استفاد منه، ومن كان أقدر على تقليله، ومن كان ينبغي أن يتحمل كلفة فشله.
ويعيد هذا التصور الاعتبار إلى المسؤولية الموضوعية في بعض المجالات. فقد لا يكون إثبات خطأ تقني محدد أمراً ممكناً للمتضرر، خصوصاً عندما تكون الخوارزمية معقدة أو محمية بأسرار تجارية أو موزعة بين عدة جهات. وإذا اشترط القانون إثبات الخطأ الداخلي في كل حالة فقد تتحول صعوبة المعرفة إلى حصانة عملية. لذلك يمكن التفكير، في الأنظمة عالية الخطورة، في صور من المسؤولية التي تركز على تحقق الضرر وعلاقته بالنشاط التقني أكثر مما تركز على إثبات القصد أو الإهمال التقليدي. فلسفة هذا الاتجاه ليست معاقبة الابتكار، وإنما تحميل كلفة المخاطر للجهة التي تنشئها وتستفيد منها وتملك قدرة أفضل على التأمين والوقاية.
أما المسؤولية الجنائية فتظل أكثر حساسية، لأن العقوبة لا تقوم فقط على توزيع الخسائر، بل تحمل حكماً أخلاقياً على السلوك. ومن الصعب فلسفياً إسناد القصد الجنائي إلى نظام لا يمتلك وعياً أخلاقياً بالمعنى الإنساني. لذلك ينبغي الحذر من استعارة مفهوم الشخصية القانونية للآلة بصورة متسرعة من قانون الشركات. فالشركة، رغم كونها شخصاً اعتبارياً، تتكون من بنية بشرية ومؤسسية يمكن أن تستجيب للحوافز والعقوبات، بينما لا يؤدي تغريم خوارزمية بذاتها إلى معنى عملي إذا لم تقع الكلفة على أشخاص أو مؤسسات وراءها. ولهذا تبدو مساءلة البشر والكيانات القانونية التي تنشر النظام أو تستخدمه أكثر انسجاماً مع وظيفة القانون الجنائي، مع تطوير قواعد خاصة للإهمال الجسيم أو التجاهل المتعمد لمخاطر الأنظمة الذكية.
ومن أكثر القضايا تعقيداً مسألة التوقع. فالخطأ القانوني كثيراً ما يقاس بما كان الشخص المعقول يستطيع توقعه. لكن ماذا يعني التوقع عندما يكون النظام قادراً على إنتاج سلوك ناشئ لم يتنبأ به مصمموه تفصيلاً؟ لا ينبغي أن يؤدي عدم توقع النتيجة الدقيقة إلى الإعفاء دائماً. فهناك فرق بين توقع النتيجة وتوقع فئة المخاطر. قد لا تعرف الشركة أي شخص سيتضرر أو الشكل المحدد للخطأ، لكنها قد تعرف أن النموذج معرض للانحياز أو الهلوسة أو سوء التصنيف أو التلاعب. وعليه يمكن إعادة صياغة معيار التوقع ليشمل المخاطر المعروفة أو المعقولة للنظام، لا النتيجة الفردية وحدها. وهذا ينسجم مع جوهر العناية القانونية التي تطالب الفاعل بالتعامل مع احتمالات الخطر الجدية حتى عندما يستحيل تحديد صورتها النهائية مسبقاً.
وتزداد المعضلة وضوحاً في القرارات التي تمس الحقوق الأساسية. فإذا رفض نظام آلي طلب شخص للحصول على خدمة ضرورية، أو صنفه باعتباره عالي الخطورة، أو أثر في فرصة عمل أو قرض أو إجراء قضائي، فإن السؤال لا يتعلق بالتعويض فقط، بل بالكرامة. الإنسان الذي يخضع لقرار مؤتمت يحتاج إلى أن يعرف لماذا اتخذ القرار، وأن يجد جهة بشرية يمكن مخاطبتها والاعتراض أمامها. إن الحق في التفسير، مهما اختلف نطاقه القانوني، يستند فلسفياً إلى رفض تحويل الإنسان إلى موضوع صامت للمعالجة الحسابية. فالعدالة ليست مجرد دقة إحصائية؛ إنها أيضاً علاقة اعتراف متبادل تسمح للفرد بأن يفهم القرار الذي يمسه وأن يناقشه.
من هنا يظهر أن الشفافية ليست قيمة تقنية هامشية، بل شرط للمسؤولية. لا يمكن مساءلة من لا يمكن معرفة دوره، ولا يمكن الطعن في قرار لا يمكن معرفة منطقه بالقدر المناسب. ومع ذلك فإن الشفافية الكاملة ليست دائماً ممكنة أو مفيدة، لأن بعض النماذج شديدة التعقيد، ولأن نشر كل التفاصيل قد يصطدم بالأمن والخصوصية والملكية الفكرية. الحل الفلسفي ليس المطالبة بكشف كل سطر من الشيفرة، وإنما بما يمكن تسميته بالشفافية الوظيفية: أن تتوافر معلومات كافية لتحديد من صمم النظام، وما غرضه، وما نوع البيانات التي يعتمد عليها، وما حدوده المعروفة، ومن يملك سلطة مراجعته، وكيف يمكن الاعتراض على نتائجه.
وتتصل المسؤولية كذلك بمشكلة الانحياز. فالخوارزمية قد تبدو محايدة لأنها تستخدم لغة الأرقام، لكن البيانات التي تتعلم منها قد تحمل آثاراً تاريخية للتمييز وعدم المساواة. وإذا أعاد النظام إنتاج هذه الأنماط، فإن القول بأنه لم يتعمد التمييز لا يكفي. هنا يتعين على الفلسفة القانونية أن تفصل بين النية الفردية والنتيجة البنيوية. فقد يكون الظلم بلا فاعل متعصب، لكنه يظل ظلماً. لذلك ينبغي أن تشمل المسؤولية واجب فحص الآثار، لا مجرد سلامة النوايا. وهذه نقطة مهمة لأن المجتمع الرقمي قد ينقل التمييز من مستوى القرار الشخصي الواضح إلى مستوى البنية الحسابية الخفية.
ومن جهة أخرى، لا ينبغي أن تتحول الرغبة في المساءلة إلى افتراض أن كل ضرر ناتج عن الذكاء الاصطناعي يقتضي حظره أو تجريم مطوريه. فالابتكار ينطوي بطبيعته على قدر من عدم اليقين، والقانون الذي يطالب بانعدام الخطر قد يوقف تقنيات ذات فوائد اجتماعية كبيرة. التحدي هو الوصول إلى توازن بين تشجيع الابتكار وحماية الإنسان. وهذا التوازن لا يتحقق بالشعارات، بل بتناسب الالتزامات مع مستوى المخاطر. فالأنظمة التي تستخدم لأغراض بسيطة لا ينبغي إخضاعها للمتطلبات نفسها المفروضة على أنظمة تؤثر في الحقوق أو السلامة أو الحرية. فلسفة المسؤولية المتناسبة تسمح للقانون بأن يكون حارساً للابتكار لا عدواً له.
كما يفرض الذكاء الاصطناعي إعادة النظر في مفهوم الاستقلال البشري داخل المؤسسات. ففي كثير من الأحيان يبقى القرار النهائي شكلياً بيد الإنسان، لكن الموظف قد يميل إلى اتباع توصية النظام بسبب الثقة المفرطة أو ضغط الوقت أو هيبة التقنية. وهنا يصبح وجود الإنسان في الحلقة غير كافٍ إذا كان حضوره مجرد توقيع على نتيجة لم يفحصها. المسؤولية الحقيقية تقتضي قدرة فعلية على المراجعة، وتدريباً مناسباً، ووقتاً كافياً للاعتراض، وسلطة لإلغاء القرار الآلي. وإلا تحولت الرقابة البشرية إلى ستار قانوني يمنح النظام شرعية دون أن يحد من سلطته.
وفي هذا السياق يمكن الحديث عن واجب عدم التفويض الكامل. فهناك قرارات تمس جوهر الشخص الإنساني بحيث ينبغي ألا تترك للآلة وحدها، مهما بلغت دقتها. ليس السبب أن الإنسان دائماً أكثر صواباً، بل لأن بعض القرارات تحمل بعداً أخلاقياً وتفسيرياً يتجاوز الحساب. الحكم على شخص أو حرمانه من حق أو ترتيب أثر شديد على حياته يتطلب أحياناً فهماً للسياق والاستثناء والرحمة والتناسب. وهذه عناصر يصعب اختزالها في نموذج احتمالي. لذلك قد يكون الاحتفاظ بسلطة بشرية ذات معنى جزءاً من بنية المسؤولية، وليس مجرد خيار تنظيمي.
وتثير فكرة منح الذكاء الاصطناعي شخصية قانونية مستقلة جدلاً واسعاً. أنصار الفكرة قد يرون فيها وسيلة لتبسيط الإسناد عندما تصبح الأنظمة شديدة الاستقلال، لكن هذا الحل قد يخلق مشكلة أكبر إذا استُخدم كحاجز يحمي الشركات والأفراد. فالشخصية القانونية ليست لقباً فلسفياً يمنح لكل كيان قادر على الفعل؛ إنها تقنية قانونية لتحقيق أهداف اجتماعية. وإذا أدى منحها للآلة إلى إضعاف التعويض أو تفتيت المسؤولية، فإنها تصبح غير مبررة. أما إذا ظهرت مستقبلاً أنظمة ذات خصائص مختلفة جذرياً عن الأنظمة الحالية، فقد يعاد فتح السؤال، لكن المسؤولية المعاصرة ينبغي ألا تسبق الواقع التقني إلى افتراض وعي أو إرادة لا دليل عليهما.
ويبدو أكثر اتساقاً بناء نموذج للمسؤولية القانونية الجديدة على تعدد الطبقات. في الطبقة الأولى تقع مسؤولية التصميم، وتشمل السلامة والاختبار وتقليل الانحياز. وفي الثانية مسؤولية النشر، وتشمل اختيار السياق المناسب وتقييم المخاطر. وفي الثالثة مسؤولية التشغيل، وتشمل المراقبة والتدخل والتحديث. وفي الرابعة مسؤولية القرار المؤسسي، حيث تظل الجهة التي تعتمد النتيجة مسؤولة عن احترام حقوق الأفراد. وفي الخامسة مسؤولية التعويض، التي ينبغي أن تضمن للمتضرر طريقاً واضحاً وسريعاً للحصول على الإنصاف حتى عندما يصعب تحديد الخطأ التقني بدقة. بهذا يصبح القانون قادراً على التعامل مع التعقيد دون التضحية بحق الضحية.
ومن المهم كذلك ألا تبقى قواعد المسؤولية أسيرة الحدود الوطنية. فالأنظمة الذكية قد تطور في دولة، وتستضاف في دولة ثانية، وتستخدم في دولة ثالثة، وتعالج بيانات أشخاص في دول عديدة. وهذا يخلق أسئلة عن الاختصاص والقانون الواجب التطبيق ومعايير السلامة وتبادل الأدلة. إن المسؤولية الرقمية بطبيعتها عابرة للحدود، ولذلك تحتاج إلى حد أدنى من المبادئ المشتركة التي تمنع الشركات من نقل الأنشطة عالية المخاطر إلى البيئات الأقل تنظيماً. وفي هذا المستوى تلتقي فلسفة المسؤولية بفلسفة العدالة العالمية: من غير المقبول أن تختلف قيمة الحماية الإنسانية جذرياً لمجرد اختلاف موقع الخادم أو مقر الشركة.
ويكشف هذا كله أن الذكاء الاصطناعي لا يلغي المسؤولية القانونية، بل يجبرنا على تحريرها من صورتها الفردية الضيقة. فالقرار الآلي هو في الغالب نتيجة منظومة اجتماعية واقتصادية وتقنية: هناك من صمم، ومن موّل، ومن اختار البيانات، ومن نشر، ومن استخدم، ومن استفاد. وإذا ركز القانون على آخر شخص ضغط الزر فقط، فقد يغفل مصادر السلطة الحقيقية. المسؤولية الجديدة يجب أن تتبع السلطة حيث توجد، وأن تتبع المنفعة حيث تتحقق، وأن تتبع القدرة على الوقاية حيث تكون ممكنة. وهذا التحول يجعل المسؤولية أداة لكشف بنية القرار لا مجرد عقوبة على نهايته.
وفي المقابل يجب الحفاظ على مبدأ شخصنة اللوم، خصوصاً في المجال الجنائي. فالتوسع في المسؤولية الشبكية لا يبرر معاقبة أشخاص لم يملكوا معرفة أو سيطرة معقولة. العدالة تقتضي التمييز بين توزيع الالتزامات المدنية والتنظيمية وبين إسناد الذنب الجنائي. ويمكن للقانون أن يكون صارماً في فرض معايير السلامة والتعويض دون أن يتخلى عن الضمانات الأساسية للعقوبة. ومن هنا تظهر الحاجة إلى هندسة دقيقة للمسؤولية: مسؤولية موضوعية في بعض صور التعويض، ومسؤولية قائمة على الإهمال في حالات أخرى، ومسؤولية تنظيمية للمؤسسات، ومسؤولية جنائية عندما يثبت تجاهل متعمد أو تهور جسيم أو استخدام إجرامي واعٍ.
إن السؤال «من المسؤول عندما تقرر الآلة؟» يكشف في جوهره أن الآلة لا تدخل القانون وحدها؛ فهي تحمل معها شبكة البشر والمؤسسات والقيم التي صنعتها. وما يبدو قراراً آلياً مستقلاً هو غالباً آخر حلقة في تاريخ طويل من الاختيارات البشرية: اختيار الهدف، وتصميم معيار النجاح، وانتقاء البيانات، وتحديد العتبات، وتقرير موضع الاستخدام. لذلك فإن البحث عن المسؤولية ينبغي ألا يبدأ من لحظة ظهور النتيجة فقط، بل من كامل السلسلة التي أنتجتها. هذه النظرة تمنع التقنية من أن تتحول إلى ذريعة أخلاقية تقول إن «النظام فعل ذلك»، وتعيد التأكيد أن المجتمع الذي يختار استخدام نظام ما يتحمل مسؤولية الشروط التي يسمح له بالعمل ضمنها.
وخلاصة القول إن المسؤولية القانونية في عصر الذكاء الاصطناعي تحتاج إلى إعادة تأسيس لا إلى هدم. يجب الحفاظ على جوهرها المتمثل في حماية الإنسان ومنع الضرر وتحقيق الإنصاف، مع تطوير أدوات الإسناد بما يلائم واقعاً أصبحت فيه السببية موزعة والقرارات معقدة. النموذج الأكثر عدالة ليس تحميل الآلة ذنباً وهمياً، ولا تحميل فرد واحد كل أخطاء منظومة ضخمة، وإنما بناء مسؤولية متعددة المستويات تربط الواجب بالسيطرة، والمخاطر بالمنفعة، والشفافية بالمساءلة، والاستقلال التقني بالرقابة البشرية. وبذلك يستطيع القانون أن يستوعب الذكاء الاصطناعي دون أن يتنازل عن مركزية الإنسان، وأن يسمح بالتقدم دون أن يجعل الغموض التقني منطقة معفاة من العدالة. فالمستقبل القانوني لا يتوقف على السؤال عما إذا كانت الآلات ستقرر، لأن ذلك يحدث بالفعل في مجالات متزايدة، بل على السؤال الأهم: كيف نضمن أن يبقى وراء كل قرار يمس الإنسان طريق واضح إلى تفسيره ومراجعته وتحمل مسؤوليته؟
1