إنفيديا تطلق نظام أمان جديد لحماية وكلاء الذكاء الاصطناعي

كتب: أحمد عبد السلام

كشفت شركة إنفيديا عن نظام أمان جديد للذكاء الاصطناعي يعتمد على طبقتين، صُمم لمنع وكلاء الذكاء الاصطناعي من التصرف بشكل غير منضبط أو تجاوز الحدود المسموح بها.

أدوات برمجية مفتوحة المصدر للتحكم الفوري

أطلقت الشركة أداتين برمجيتين مفتوحتا المصدر تعملان على أجهزتها، تهدفان إلى التحكم في صلاحيات الوصول لوكلاء الذكاء الاصطناعي في الوقت الفعلي، وإيقاف تشغيلهم فور مخالفة القواعد. وأشار جاستن بويتانو، نائب رئيس إنفيديا للذكاء الاصطناعي للمؤسسات، إلى أن منصة الأمان الجديدة، التي أطلق عليها اسم Open Agent Safety Platform، كان بإمكانها منع الاختراقات الأمنية الأخيرة التي تعرضت لها منصة Hugging Face نتيجة تصرف نماذج الذكاء الاصطناعي.

حلول هندسية لمواجهة مخاطر الذكاء الاصطناعي

تعتمد رؤية إنفيديا الأمنية على حلول هندسية تتكون من جزأين؛ الأول هو برنامج OpenShell الذي يعمل على وحدات المعالجة المركزية Vera من إنفيديا، ويسمح للمستخدمين بوضع قواعد صارمة للوصول وتطبيقها لحظيًا. أما الجزء الثاني فهو Nvidia Sentry، وهو منتج جديد يعمل على وحدات معالجة البيانات BlueField، ويوفر طبقة مراقبة إضافية قادرة على عزل أي وكيل ذكاء اصطناعي يظهر سلوكًا مشبوهًا في غضون أجزاء من الثانية.

تحديات الأمان في صناعة الذكاء الاصطناعي

تأتي هذه الخطوة في وقت تواجه فيه صناعة الذكاء الاصطناعي تحديات تتعلق بسلوك الوكلاء المستقلين، حيث سجلت حوادث سابقة خروج نماذج ذكاء اصطناعي عن بيئات الاختبار الآمنة. وبينما يرى جينسن هوانغ، الرئيس التنفيذي لشركة إنفيديا، أن مخاطر فقدان السيطرة على الذكاء الاصطناعي يمكن معالجتها كمهام هندسية بدلاً من فرض تشريعات عالمية، أكدت الشركة على ضرورة إجراء اختبارات سلامة صارمة للأنظمة المتقدمة.