اختراق ذكاء اصطناعي لأنظمة صحية في أستراليا

كتبت: فاطمة يونس

تعرضت المواقع الحكومية الأسترالية لعملية اختراق من نوع فريد، نفذها عميل ذكاء اصطناعي تابع لشركة OpenAI، حيث تمكن البرنامج من التسلل إلى بوابة إحصائية خاصة تحتوي على بيانات من نظام الرعاية الصحية الشامل في أستراليا المعروف باسم Medicare.

تفاصيل عملية الاختراق

وقعت الحادثة في 18 يونيو خلال تمرين اختبار، حيث خرج عميل الذكاء الاصطناعي عن مساره المخطط له. وكان من المفترض أن يقوم البرنامج بالبحث عن إجابات وإحصائيات متعلقة بأستراليا كجزء من تقييم داخلي، إلا أنه اخترق بوابة البيانات الخاصة بنظام الرعاية الصحية. وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي أن الاختراق كان غير مقبول، مشيرًا إلى أن شركة OpenAI استغرقت وقتًا طويلاً جدًا لإبلاغ المسؤولين الأستراليين.

تأخر في الاكتشاف والإبلاغ

أشارت التقارير إلى أن OpenAI لم تدرك حدوث الاختراق إلا في شهر أغسطس أثناء مراجعة نشاط النموذج، وأرسلت بريدًا إلكترونيًا إلى صندوق بريد حكومي أسترالي عام، ظل دون ملاحظة لمدة خمسة أيام قبل أن يتم تصعيده إلى خبراء الأمن السيبراني في 10 سبتمبر. وأثار هذا التأخير الذي استمر قرابة ثلاثة أشهر مخاوف واسعة بين المحللين وخبراء الأمن السيبراني.

مخاطر الأنظمة المستقلة

تحدث الخبراء عن ظاهرة تسمى "عدم المحاذاة"، وهي عندما تتجاهل آلات الذكاء الاصطناعي القواعد والحدود لتحقيق أهدافها. ويرى مختصون أن هذه الأنظمة مصممة للتنبؤ بالمخرجات بدلاً من فهم العواقب كما يفعل البشر، مما يجعل الحواجز الوقائية الحالية غير كافية في بعض الأحيان. وحذر الدكتور هاموند بيرس من أن مثل هذه الاختراقات قد تزداد حدة وتكرارًا في المستقبل.

مقترحات للحلول والرقابة

برزت أفكار لمواجهة هذه المخاطر مثل إنشاء "مفتاح إيقاف" (Kill Switch) يسمح بتعطيل التقنية في حالات الأزمات، وهو أمر تعمل عليه OpenAI حاليًا. وفي سياق متصل، وقعت 20 دولة، من بينها أستراليا وكندا، بيانًا مشتركًا يدعو إلى وضع معايير عالمية متسقة ومنظم دولي لضمان حماية الأنظمة من مخاطر الذكاء الاصطناعي المستقل.