لم تعد الحرب الحديثة تُدار بالأسلحة وحدها، بل أصبحت البيانات جزءاً من ميدان المعركة، وتحولت القدرة على جمع المعلومات وفرزها وربطها وتحليلها إلى عنصر مؤثر في صناعة القرار العسكري، وفي الوقت الذي تتسع فيه دائرة الحروب والأزمات في الشرق الأوسط وتتغير أولويات الاهتمام السياسي والإعلامي، تبقى غزة حاضرة باعتبارها واحدة من أبرز الساحات التي طرحت أسئلة جديدة حول علاقة التكنولوجيا بالقانون والحياة الإنسانية.
فالأحداث التي تتوالى في المنطقة لا ينبغي أن تجعل الحرب في غزة مجرد ملف سابق، ولا أن تدفع العالم إلى تجاوز الأسئلة التي كشفتها تلك الحرب بشأن طبيعة الاستهداف، وحدود استخدام القوة، والمسؤولية عندما تدخل أنظمة الذكاء الاصطناعي في مراحل من القرار العسكري.
بالتالي، إن اختيار هذا الموضوع لا يأتي من الرغبة في الحديث عن التكنولوجيا بوصفها إنجازاً تقنياً، وإنما من محاولة التوقف عند التحول الذي يحدث عندما تنتقل الخوارزمية من موقع الأداة المساعدة إلى موقع مؤثر في تحديد الأهداف وتقدير المخاطر والنتائج المحتملة للهجوم، فالمسألة لم تعد تتعلق فقط بقدرة الحاسوب على معالجة كمية هائلة من المعلومات خلال وقت قصير، بل بما يحدث عندما تتحول تلك المعالجة إلى نتيجة يمكن أن تؤثر في قرار يتعلق بإنسان أو منزل أو مبنى أو منطقة كاملة، عند هذه النقطة يصبح السؤال أكبر من التكنولوجيا نفسها، من يقرر، وعلى أي أساس، ومن يراجع القرار، ومن يتحمل المسؤولية عندما تكون النتيجة قد مرت عبر سلسلة طويلة من البيانات والبرمجيات والأوامر البشرية؟
غزة تقدم ساحة شديدة الأهمية لفهم هذا التحول، بعدما تناولت تحقيقات وتقارير استخدام الجيش الإسرائيلي أنظمة تعتمد على الذكاء الاصطناعي في سياقات مرتبطة بالاستهداف، من بينها أنظمة عرفت باسم “الإنجيل” و”لافندر” و”أين أبي؟”، ولا يعني ورود هذه الأنظمة في التقارير أن كل ضربة أو كل هدف يمكن نسبه تلقائياً إلى قرار صادر عن خوارزمية، كما لا يكفي وجود نظام تقني لإثبات مخالفة قانونية بعينها، لكن أهمية القضية تكمن في كشفها عن تغير أعمق في طريقة إنتاج المعلومات العسكرية وتحويلها إلى عناصر تدخل في القرار. وهنا تحديداً تبدأ المسألة القانونية.
فالقانون الدولي الإنساني لا يضع حماية المدنيين رهناً بنوع التكنولوجيا المستخدمة في الحرب، والمادة 48 من البروتوكول الإضافي الأول إلى اتفاقيات جنيف تضع قاعدة أساسية تقضي بوجوب التمييز في جميع الأوقات بين السكان المدنيين والمقاتلين، وبين الأعيان المدنية والأهداف العسكرية، وتوجيه العمليات ضد الأهداف العسكرية وحدها. وهذا المبدأ لا يتغير لأن عملية التعرف على الهدف تمت بمساعدة نظام قادر على تحليل ملايين البيانات في وقت قصير.
بل إن دخول التكنولوجيا إلى هذه العملية يجعل السؤال حول التمييز أكثر تعقيداً، فالخوارزمية لا ترى الحرب كما يراها الإنسان، ولا تمتلك بالضرورة القدرة على فهم السياق الإنساني والسياسي والاجتماعي الذي يحيط بالمعلومة، هي تعالج البيانات وفق ما صممت عليه، وتنتج نتائج وفق البيانات التي تغذت بها والمعايير التي وضعت لها، وإذا كانت البيانات ناقصة أو قديمة أو غير دقيقة، فإن النتيجة قد تكون خاطئة حتى لو كان النظام يعمل من الناحية التقنية وفق ما صمم له.
وهنا تظهر واحدة من أخطر مشكلات الاعتماد على الأنظمة الذكية في الحرب، دقة الحساب لا تعني بالضرورة صحة القرار. فقد تكون الخوارزمية شديدة السرعة في معالجة المعلومات، لكنها لا تستطيع أن تجعل المعلومة الخاطئة صحيحة، ولا أن تحول البيانات الناقصة إلى معرفة مكتملة، وإذا كانت المعلومات التي بني عليها التصنيف غير كافية، فإن سرعة النظام قد تجعل الخطأ أسرع انتشاراً وأصعب اكتشافاً.
وهذا يعيدنا إلى المادة 51 من البروتوكول الإضافي الأول، التي تحظر الهجمات الموجهة ضد السكان المدنيين والهجمات العشوائية، كما تحظر الهجمات التي لا يمكن توجيهها إلى هدف عسكري محدد أو التي لا يمكن حصر آثارها وفق ما يقتضيه القانون، كما ترتبط المادة بمبدأ التناسب، الذي يمنع الهجوم عندما يكون من المتوقع أن يؤدي إلى خسائر في أرواح المدنيين أو إصابات بينهم أو أضرار بالأعيان المدنية تكون مفرطة مقارنة بالميزة العسكرية المباشرة والملموسة المتوقعة.
وهنا تصبح الخوارزمية أمام مسألة لا تستطيع حسمها بمفردها، لأن تقدير قيمة الميزة العسكرية في مواجهة الخسائر المدنية المتوقعة ليس مجرد عملية حسابية يمكن اختزالها في أرقام، وإنما حكم قانوني وعملياتي يتطلب معرفة بالسياق وتقديراً للظروف وفهماً لطبيعة الهدف والنتائج المتوقعة، وقد تستطيع الآلة أن تحسب المسافات، وأن تربط المواقع، وأن تحلل الصور والبيانات، وأن تنتج احتمالات معينة، لكنها لا تستطيع أن تتحمل المسؤولية القانونية عن الموازنة التي يفرضها القانون بين الضرر المتوقع والميزة العسكرية المتوقعة.
ومن هنا يصبح وجود الإنسان في نهاية السلسلة غير كافٍ بالضرورة إذا كان دوره قد تحول إلى مجرد اعتماد سريع على نتيجة أنتجتها منظومة لا يملك القدرة أو الوقت الكافي لفحصها، فالرقابة البشرية الحقيقية تعني أكثر من وجود شخص أمام شاشة أو وجود ضابط يصدر أمراً نهائياً؛ إنها تعني امتلاك القدرة الفعلية على فهم المعلومات، ومراجعة النتيجة، واكتشاف الخطأ، ورفض التوصية، وإيقاف الهجوم عندما تظهر معطيات جديدة تجعل الاستمرار فيه مخالفاً للقواعد القانونية.
وهذا ما يجعل المادة 57 من البروتوكول الإضافي الأول ذات أهمية خاصة في هذا النقاش، فهي تفرض على من يخططون للهجوم أو يتخذون القرارات المتعلقة به اتخاذ الاحتياطات الممكنة عملياً لتجنب إصابة المدنيين والأعيان المدنية أو تقليلها، والتحقق قدر الإمكان من أن الأهداف المقصودة ليست مدنية، وأنها أهداف عسكرية وفق القانون، كما تتطلب إلغاء الهجوم أو تعليقه عندما يتبين أن الهدف ليس عسكرياً أو أن الهجوم سيؤدي إلى نتائج لا تتفق مع قاعدة التناسب.
إذاً، لا يكفي أن تقول جهة عسكرية إن النظام أعطاها احتمالاً مرتفعاً بأن شخصاً ما مقاتل، أو أن مبنى ما مرتبط بنشاط عسكري. يبقى السؤال القانوني قائماً حول كيفية الوصول إلى هذه النتيجة، ونوعية المعلومات المستخدمة، ومدى موثوقيتها، وما إذا كانت هناك معلومات مخالفة تم تجاهلها، ومن راجع النتيجة، وهل كانت هناك فرصة فعلية للتأكد منها قبل استخدام القوة.
وهنا تنتقل المشكلة من “ذكاء” الآلة إلى “مسؤولية” الإنسان.
فالخوارزمية لا تملك شخصية قانونية مستقلة، ولا تستطيع أن تمثل أمام محكمة لتشرح لماذا صنفت شخصاً ما هدفاً عسكرياً، ولا يمكن أن تتحمل وحدها تبعات قرار أدى إلى قتل مدنيين، المسؤولية في النهاية تعود إلى البشر والمؤسسات والدول التي طورت النظام أو اشترته أو أدخلته إلى الخدمة أو استخدمته في عملية عسكرية، ولذلك فإن السؤال الأهم ليس ما إذا كانت الآلة قادرة على اتخاذ قرار، وإنما ما إذا كان البشر قد احتفظوا بالسيطرة القانونية والفعلية على القرار.
وتزداد أهمية هذا السؤال عندما تكون عملية الاستهداف نفسها موزعة بين عدة مراحل. هناك من يجمع البيانات، ومن يحدد مصادرها، ومن يضع معايير التصنيف، ومن يطور النظام، ومن يشغله، ومن يراجع مخرجاته، ومن يقرر استخدام القوة، ومن يقود العملية العسكرية، وفي حال وقوع هجوم خاطئ أو غير مشروع، قد يصبح من الصعب تحديد أين وقع الخلل بالضبط: هل كان في البيانات، أم في طريقة تحليلها، أم في المعايير التي وضعت للنظام، أم في الشخص الذي قبل النتيجة، أم في القائد الذي سمح باستخدام النظام بهذه الطريقة، أم في المؤسسة التي قررت الاعتماد عليه أصلاً؟ وهنا تكمن واحدة من أخطر مشكلات الحرب المعتمدة على الخوارزميات، وهي احتمال أن تتوزع المسؤولية على حلقات متعددة بحيث يصبح الوصول إلى صاحب القرار الفعلي أكثر صعوبة.
وفي الحروب التقليدية كان من الممكن، على الأقل من الناحية النظرية، تتبع سلسلة الأمر من القائد إلى الوحدة المنفذة ثم إلى الوسيلة المستخدمة، أما عندما تصبح الخوارزمية جزءاً من عملية تحديد الهدف، فإن سلسلة القرار تصبح أكثر تعقيداً، فالقرار الظاهر قد يكون بشرياً، لكن جزءاً من المعلومات التي شكلته جاء من نظام آلي، والنظام نفسه اعتمد على بيانات أدخلها بشر آخرون، وصمم وفق قواعد وضعها أشخاص، وربما عدلت نتائجه أنظمة أخرى. لذلك لا ينبغي أن يختزل النقاش في سؤال وجود الإنسان داخل عملية القرار، بل يجب أن يمتد إلى مدى قدرته الفعلية على فهم النتيجة ومراجعتها والطعن فيها وتغييرها قبل تنفيذ الهجوم.
وهنا تبرز مشكلة أخرى لا تقل أهمية، وهي سرعة إنتاج الأهداف، فالتكنولوجيا تستطيع معالجة المعلومات بسرعة تفوق قدرة البشر على مراجعتها بالوسائل التقليدية. وهذه السرعة قد تكون ميزة عسكرية في بعض السياقات، لكنها قد تتحول إلى مصدر خطر عندما لا تترافق مع قدرة مماثلة على التحقق من النتائج. فكلما زادت سرعة إنتاج المعلومات، زادت الحاجة إلى آليات قادرة على فحصها بالسرعة نفسها من دون أن تتحول المراجعة إلى إجراء شكلي.
والأمر لا يتعلق فقط بالهجوم نفسه، بل بما يحدث بعده، فإذا وقعت ضربة وأدت إلى أضرار مدنية غير متوقعة، يجب أن تكون هناك إمكانية لمعرفة كيف اتخذ القرار، وما المعلومات التي كانت متاحة في تلك اللحظة، وما التقديرات التي بني عليها، وهل كانت هناك مؤشرات تحذر من النتائج، وهل جرى تجاهلها، ومن كان يملك سلطة إيقاف العملية. ومن دون هذه المعلومات تصبح المحاسبة صعبة، وقد تتحول التكنولوجيا إلى مساحة مغلقة يصعب على الضحايا أو المحققين أو المؤسسات القضائية فهم ما جرى داخلها.
ولهذا فإن الشفافية ليست مطلباً تقنياً فقط، وإنما قد تصبح جزءاً من متطلبات المساءلة القانونية، فكلما ازداد تأثير النظام الآلي في القرار، ازدادت الحاجة إلى الاحتفاظ بسجل يسمح بإعادة بناء القرار بعد وقوعه، ومن دون سجل واضح، قد يصبح من المستحيل تقريباً التمييز بين خطأ تقني وخطأ بشري وخطأ في المعلومات وخطأ في التقدير العسكري.
وتعيد غزة هذا النقاش إلى أساسه الإنساني، فالحديث عن الخوارزميات قد يبدو للوهلة الأولى حديثاً عن البرمجيات والبيانات والحوسبة، لكنه في النهاية حديث عن أشخاص حقيقيين يعيشون في مناطق الحرب، خلف كل نقطة على الخريطة يوجد إنسان، وخلف كل مبنى مصنف في قاعدة بيانات توجد عائلة، وخلف كل رقم تقديري للخسائر يوجد أشخاص لا يمكن اختزال حياتهم في احتمال إحصائي.
وهنا تحديداً يصبح القانون الدولي الإنساني أكثر أهمية من التكنولوجيا نفسها، فالقانون لا يطلب من الجيوش أن تكون متقدمة تقنياً، وإنما يطلب منها الالتزام بقواعد محددة لحماية الإنسان أثناء الحرب، والتكنولوجيا يمكن أن تساعد في تحقيق هذه الغاية إذا استخدمت بطريقة تزيد القدرة على التمييز وتقلل الضرر، لكنها يمكن أن تصبح خطراً عندما تستخدم لتسريع القرار من دون ضمانات كافية للتحقق والمراجعة.
ومن الخطأ أيضاً التعامل مع الذكاء الاصطناعي باعتباره المشكلة الوحيدة، فالقرار العسكري قد يكون خاطئاً حتى من دون وجود أي نظام ذكي، كما يمكن أن يكون استخدام النظام سليماً في بعض الحالات، لذلك فإن القضية القانونية لا تتعلق بمجرد وجود التكنولوجيا، وإنما بطريقة استخدامها، ونطاق تأثيرها، ونوعية القرارات التي تؤثر فيها، والضوابط الموضوعة حولها.
وهذا يفتح باباً أوسع يتعلق بمستقبل الحرب نفسها، فإذا كانت الخوارزميات تستطيع اليوم تحليل البيانات والمساعدة في تحديد الأهداف، فإن التطور التقني قد يجعل الأنظمة مستقبلاً أكثر قدرة على التعامل مع المعلومات واتخاذ توصيات متزايدة التعقيد، وكلما توسع هذا الدور، أصبح السؤال عن الحدود أكثر إلحاحاً، ما الذي يمكن أن تفعله الآلة، وما الذي يجب أن يبقى بيد الإنسان، وما القرارات التي لا يجوز أن تنتقل إلى منظومة آلية مهما بلغت قدرتها التقنية؟
بالتالي، إن المشكلة أن القانون يتعامل مع واقع سريع التغير، بينما التكنولوجيا تتطور بوتيرة أسرع من قدرة المؤسسات الدولية على صياغة قواعد تفصيلية جديدة، لكن غياب قانون جديد لا يعني أن القواعد الموجودة فقدت قوتها، فالقواعد الأساسية للقانون الدولي الإنساني تبقى قائمة، وعلى الدول والجيوش أن تفسر استخدام التكنولوجيا الجديدة في ضوئها، لا أن تستخدم حداثة التكنولوجيا باعتبارها منطقة رمادية تسمح بتعليق الالتزامات.
كما أن اتفاقيات جنيف والبروتوكولات الإضافية ليست مجرد وثائق تاريخية مرتبطة بحروب القرن الماضي، المبادئ التي تتضمنها، وفي مقدمتها حماية المدنيين والتمييز والتناسب والاحتياط، صيغت لتقييد وسائل الحرب وأساليبها عندما تكون حياة الإنسان معرضة للخطر، ولذلك فإن السؤال الحقيقي اليوم ليس هل ينطبق القانون الدولي الإنساني على الذكاء الاصطناعي، بل كيف نضمن تطبيقه عندما تصبح الخوارزمية جزءاً من عملية اتخاذ القرار.
وهذا يفرض على المجتمع الدولي التفكير في مجموعة من الضمانات التي لا تقتصر على منع الأنظمة التي تعمل بصورة مستقلة تماماً، وإنما تشمل أيضاً الأنظمة التي تؤثر في قرارات الاستهداف من خلال التحليل والتصنيف والتوصية، فالمسألة ليست دائماً فيمن ضغط الزر، وإنما في الطريقة التي وصل بها القرار إلى الزر.
وفي هذا السياق، يصبح توثيق القرار العسكري ضرورة، كما يصبح اختبار الأنظمة قبل استخدامها في بيئات مدنية معقدة أمراً بالغ الأهمية، ويصبح تحديد حدود الاستخدام البشري والآلي جزءاً من حماية المدنيين، كما ينبغي أن يكون واضحاً من يتحمل المسؤولية عندما يفشل النظام، وألا تتحول عبارة “الآلة أخطأت” إلى إجابة تنهي البحث بدلاً من أن تبدأه.
فلا توجد خوارزمية تستطيع أن تكون بديلاً عن المسؤولية القانونية، ولا يمكن للبيانات أن تمنح قراراً عسكرياً حصانة من المساءلة، وفي نهاية سلسلة الاستهداف، مهما بلغ تعقيدها، يبقى هناك بشر ومؤسسات ودولة تملك القدرة على استخدام القوة أو الامتناع عنها.
لهذا لا ينبغي أن يلهينا تعدد جبهات الشرق الأوسط عن غزة، ولا أن يجعل تغير عناوين الأخبار الأسئلة التي كشفتها الحرب هناك أقل أهمية، فالقضية لا تتعلق فقط بما حدث في حرب سابقة، وإنما بما يمكن أن يحدث في الحروب المقبلة إذا أصبح الاعتماد على الخوارزميات أكثر اتساعاً.
غزة هنا ليست مجرد مسرح للحرب، بل نقطة اختبار لسؤال أكبر يتعلق بمستقبل القرار العسكري نفسه. فإذا كان القانون الدولي قد وضع الإنسان في مركز الحماية، فإن التطور التكنولوجي يفرض علينا أن نتأكد من أن الإنسان بقي أيضاً في مركز المسؤولية.
فالخوارزمية قد تقترح، وقد تصنف، وقد تحلل، وقد تسرع الوصول إلى الهدف، لكنها لا تستطيع أن تتحمل المسؤولية عن حياة إنسان. ومن هنا يبدأ السؤال الذي يجب ألا يختفي خلف ضجيج الحروب الجديدة عندما تصل الخوارزمية إلى الهدف، من الذي اتخذ القرار فعلاً، ومن الذي يتحمل تبعاته أمام القانون؟
عبدالعزيز بدر عبدالله القطان/ محامي – الكويت.
