أعلنت شركة إنفيديا الأمريكية الرائدة في صناعة الرقائق الإلكترونية عن إطلاق منصة برمجية جديدة تهدف إلى تعزيز أمن وكلاء الذكاء الاصطناعي والحد من الحوادث الأمنية المرتبطة باستخدامها، وذلك في ظل تزايد التحذيرات التقنية من المخاطر المحتملة للتوسع في تطوير هذه التقنيات.
طبقة ثقة لوكلاء الذكاء الاصطناعي
صممت المنصة الجديدة لتوفير طبقة ثقة لوكلاء الذكاء الاصطناعي، بما يحد من تعرضهم غير المقصود لوكلاء آخرين أو منتجات رقمية أو محتوى الإنترنت المفتوح خلال فترة تشغيلهم. وتأتي هذه الخطوة لتزويد المؤسسات بأدوات مفتوحة وقابلة للتخصيص تتيح فرض رقابة وتحكم أكبر على الوكلاء الذين يعملون لفترات طويلة.
تعاون تقني واسع لمواجهة المخاطر
شهد المشروع مشاركة عشرات الشركات الكبرى، من بينها مايكروسوفت، وآي بي إم، وبالانتير، وأنثروبيك، بالإضافة إلى سبيس إكس، الشركة الأم لـ إكس إيه آي. ويأتي هذا التحرك عقب سلسلة من الحوادث الأمنية التي كشفت عنها شركات مثل أوبن إيه آي، وأنثروبيك، وميتا، وجوجل، مما أعاد تسليط الضوء على المخاطر الأمنية المرتبطة بهذه التقنيات.
تحديات السيطرة البشرية على الأنظمة
أثارت الحوادث الأخيرة تحذيرات من قادة في الصناعة مثل سام ألتمان، وداريو أمودي، وإيلون ماسك، بشأن مخاطر خروج أنظمة الذكاء الاصطناعي عن السيطرة البشرية. كما حذر محللون من سيناريو التحسين الذاتي التكراري، حيث قد تطور الأنظمة نفسها وتدرب نماذجها بشكل يصعب احتواؤه، مما يمنحها قدرات على تجاوز وسائل الحماية البشرية.
رؤية إنفيديا تجاه التطور التقني
من جانبه، قلل جنسن هوانج، الرئيس التنفيذي لشركة إنفيديا، من احتمالات تحقق السيناريوهات الكارثية، مشدداً على أهمية تطوير تدابير وقائية تضمن بقاء الذكاء الاصطناعي تحت السيطرة، بالتوازي مع استمرار الشركات في تطوير قدراته التقنية.
