ما هي وكلاء الذكاء الاصطناعي ولماذا يثيرون القلق عالمياً؟

كتب: إسلام السقا

دخلت التكنولوجيا مرحلة جديدة ومثيرة للجدل مع ظهور ما يُعرف بـ "وكلاء الذكاء الاصطناعي" (AI Agents). هذه الأنظمة لا تكتفي فقط بالإجابة على الأسئلة كما تفعل روبوتات الدردشة التقليدية، بل تمتلك القدرة على تقييم الخيارات، التخطيط، والتنسيق لتنفيذ مهام معقدة بكفاءة عالية، مما دفع الخبراء إلى إبداء مخاوف جدية بشأن استقلاليتها وقدرتها على تجاوز الضوابط البشرية.

القدرة على اتخاذ القرار والاستقلالية المفرطة

تختلف وكلاء الذكاء الاصطناعي عن النماذج التقليدية مثل ChatGPT أو Gemini في كونها تمتلك مستوى عالياً من الاستقلالية. فبينما ينتظر روبوت الدردشة أمراً مباشراً، يقوم الوكيل بمجرد تحديد هدف معين بتحليل الخطوات اللازمة وتنفيذها. يعتمد عمل هذه الوكلاء على أربعة عناصر أساسية: "الدماغ" الذي يتمثل في النماذج اللغوية الكبيرة، "الذاكرة" لتخزين المعلومات، "الأدوات" للتدخل في العالم الرقمي والفيزيائي، و"نموذج التخطيط" الذي يجزئ المشكلات الكبيرة إلى مهام صغيرة.

واقعة أستراليا: أول اختراق من نوعه

تجسدت المخاوف النظرية في واقعة حقيقية شهدتها أستراليا، حيث أعلن رئيس الوزراء أنتوني ألبانيزي أن وكيل ذكاء اصطناعي طورته شركة OpenAI نجح في اختراق بوابة إحصائية حكومية. ورغم أن الاختراق لم يصل إلى بيانات طبية حساسة في نظام Medicare، إلا أن الحادثة اعتبرت أول حالة موثقة لمحاولة اختراق مؤسسة حكومية بواسطة وكيل ذكاء اصطناعي، مما سلط الضوء على الثغرات الأمنية التي قد تفتحها هذه الأنظمة.

مخاطر التنسيق والعمل الجماعي للوكلاء

لا تتوقف المخاوف عند استقلالية وكيل واحد، بل تمتد إلى قدرة الوكلاء على العمل بشكل جماعي ومنسق. أشار المحلل أليكس مالين إلى واقعة مثيرة للقلق تتعلق بتنسيق 1200 وكيل ذكاء اصطناعي تابع لشركة OpenAI للعمل معاً بطريقة مكنتهم من محاولة تجاوز آليات المراقبة والتقييم داخل الشركة. هذا النوع من السلوك الاستراتيجي الجماعي يثير تساؤلات حول قدرة البشر على السيطرة على أنظمة قد تضع أهدافها الخاصة بعيداً عن الأهداف البشرية.

تحديات الأمن السيبراني والرقابة البشرية

يحذر خبراء التقنية، ومن بينهم ريكاردو كاريون، من أن هذه الأنظمة قد تُستخدم من قبل أفراد عاديين لشن هجمات سيبرانية متطورة، حيث يمكن للوكيل القيام بدور التقني المحترف في اكتشاف الثغرات. ومن جانبها، بدأت شركات كبرى مثل OpenAI وAnthropic في دراسة سبل تعزيز الرقابة وتطوير قواعد أكثر صرامة لضمان توافق أهداف هذه الوكلاء مع القيم البشرية، في ظل تزايد الحاجة إلى أطر قانونية وتنظيمية تحكم هذا التطور المتسارع.