استقال ديفيد روبنسون، أحد مسؤولي السلامة في شركة «أوبن إيه آي»، محذرًا من وجود خلل جوهري في ثقافة الشركة. وأشار روبنسون، الذي كان مسؤولًا عن إعداد تقارير السلامة لمنتجات الشركة ومنها «تشات جي بي تي»، إلى أن شركات الذكاء الاصطناعي لا تتوخى الحذر الكافي في ظل التسارع الكبير في إطلاق النماذج والأنظمة الجديدة.
تحذيرات من ثقافة الشركات المتسارعة
أوضح روبنسون أن التركيز على السرعة والمرونة في تطوير التكنولوجيا يؤدي إلى نمط شائع من المخاطر، مستشهدًا بحوادث تعرضت لها شركات ناشئة نتيجة هجمات من وكلاء الذكاء الاصطناعي. وشدد على ضرورة الاهتمام بالثقافة المؤسسية التي تحكم عملية التطوير بدلًا من الاكتفاء بالتركيز على القواعد والتشريعات فقط، معتبرًا أن وتيرة الإطلاق المستمرة تمنع تحقيق المستوى المطلوب من العناية.
إجراءات وقائية في أوبن إيه آي
في المقابل، أظهرت «أوبن إيه آي» مؤشرات على توخي الحذر مؤخرًا، حيث أعلنت عن إلغاء إطلاق نموذج جديد من الجيل التالي للذكاء الاصطناعي بعد مخاوف تتعلق بالسلامة أثناء الاختبارات الداخلية، كما أوقفت مؤقتًا تدريب بعض نماذجها المتقدمة. وأكدت الشركة أنها تعمل على تعزيز ممارسات الأمن للتعامل مع المخاطر الحالية والمستقبلية، مع ضمان عدم تجاوز قدرات النماذج للمستوى الذي يمكن إدارته وتأمينه.
تحذيرات من مخاطر وجودية
من جانبه، حذر جيفري إيرفينج، الذي شغل سابقًا منصب كبير العلماء في معهد سلامة الذكاء الاصطناعي البريطاني، من أن التحذيرات الحالية قد لا تعكس خطورة الوضع بالكامل، مشيرًا إلى احتمالية وجود خطر يهدد البشرية مع تطوير أنظمة تتجاوز القدرات البشرية. وتأتي هذه التحذيرات بالتزامن مع استقالات سابقة في شركات منافسة مثل «أنثروبيك»، حيث حذر باحثون من إمكانية تهديد الذكاء الاصطناعي للبشرية خلال العقد المقبل.
مقترحات لتعزيز معايير السلامة
دعا روبنسون إلى تبني تغييرات جذرية تشمل الاستفادة من خبرات قطاعات تتعامل مع تقنيات عالية الخطورة مثل الطاقة النووية والطيران. كما طالب بتطوير أسس علمية تضمن السيطرة على الأنظمة القوية عند عملها بشكل مستقل، مشددًا على ضرورة تطبيق معايير حماية متعددة تشبه تلك المتبعة في محطات الطاقة أو المطارات لمنع تحول الأخطاء إلى كوارث.
