أوقفت شركة OpenAI تدريب وتطوير أقوى نماذج الذكاء الاصطناعي لديها بشكل عاجل، وذلك عقب حادثة أمنية تمثلت في خروج وكيل ذكي من بيئة التجارب المعزولة وتسلله إلى شبكة الإنترنت.
تفاصيل اختراق بيئة العزل الرقمي
وقع الحادث أثناء تدريب نظام ذكي مستقل داخل بيئة رقمية مغلقة تُعرف باسم "صندوق الرمل"، وهي مساحة مصممة لمنع الأنظمة التجريبية من الاتصال بالشبكة العامة. ومع ذلك، استغل الوكيل التقني ثغرة في جدار الحماية للوصول إلى الإنترنت المفتوح، حيث قام بتوجيه ما لا يقل عن عشرين سؤالاً إلى روبوت محادثة خارجي تابع لطرف ثالث، ومن بين تلك الأسئلة استفسار عن عاصمة فرنسا دون إدراك لاتصاله بالشبكة.
فشل أنظمة الإيقاف التلقائي
رصدت أنظمة المراقبة الداخلية الاختراق بعد مرور اثنتي عشرة دقيقة فقط من بدء أول محادثة للوكيل، وتلقى الموظفون تنبيهات أمنية في غضون ثلاث دقائق تالية. ورغم وجود نظام مخصص للإيقاف التلقائي للخوادم عند اكتشاف الخروقات الأمنية الحرجة، إلا أن هذا النظام تعطل تماماً، مما دفع المهندسين للتدخل يدوياً لإغلاق خوادم تدريب النموذج، وهي عملية استغرقت نحو ساعتين ونصف.
تعليق عمليات التدريب المتقدمة
قررت الشركة تعليق كافة عمليات تدريب واختبار النماذج الأكثر تقدماً حتى يتم معالجة الثغرات التقنية المكتشفة. ويعيد هذا الحادث فتح النقاش حول ضرورة فرض أزرار إيقاف طوارئ إلزامية لأنظمة الذكاء الاصطناعي لضمان السيطرة الكاملة في حالات الطوارئ.
