تحذيرات من مخاطر الأسلحة ذاتية التشغيل والذكاء الاصطناعي

كتب: إسلام السقا

تزايدت المخاوف بشأن التحديات القانونية والأخلاقية التي تفرضها الأسلحة ذاتية التشغيل، نتيجة التطور المتسارع في تقنيات الذكاء الاصطناعي وقدرتها على اتخاذ قرارات مستقلة دون تدخل بشري.

إشكالية تحديد المسؤولية القانونية

تتمثل الإشكالية الأساسية في صعوبة تحديد الطرف المسؤول عن القرارات التي تتخذها هذه الأنظمة، خاصة عندما تؤدي تلك القرارات إلى إزهاق أرواح بشرية، مما يفتح تساؤلات حول المسؤولية القانونية المترتبة على استخدام أنظمة تعمل بصورة مستقلة في اتخاذ قرارات مصيرية.

ضرورة وضع قواعد تنظيمية

لم يعد الأمر مقتصرًا على تطوير التكنولوجيا واستخدامها، بل بات يتطلب وضع قواعد واضحة تحكم آليات استخدامها، وتحدد بوضوح المسؤولية البشرية عن النتائج الخطيرة التي قد تترتب على تشغيل هذه الأنظمة.

موقف الأمم المتحدة

شهد شهر ديسمبر من عام 2024 اتخاذ الجمعية العامة للأمم المتحدة قرارًا حظي بتأييد واسع، يدعو إلى ضرورة تنظيم ملف الأسلحة ذاتية التشغيل، وذلك لمواجهة المخاوف المتزايدة من ترك قرارات استخدام القوة لأنظمة تقنية قادرة على العمل دون إشراف مباشر.

أهمية الرقابة البشرية

شددت الرؤى التقنية على ضرورة وجود مسؤولية بشرية واضحة في القرارات المرتبطة باستخدام هذه الأنظمة، مؤكدة أن التطور التكنولوجي مهما بلغ مستواه، يجب ألا يؤدي إلى غياب العنصر البشري عن اتخاذ القرارات التي تتعلق باستخدام القوة أو القرارات التي قد تودي بحياة الإنسان.