اتخذت شركة جوجل قرارًا حاسمًا بتقييد قدرات نموذجها الجديد للذكاء الاصطناعي، وذلك استجابة لمخاوف أمنية متزايدة تهدف إلى منع استغلال هذه التقنية في أغراض خطيرة أو تهديد حماية بيانات المستخدمين.
مخاوف من ثغرات برمجية وهجمات إلكترونية
أظهرت التقارير التقنية أن إتاحة البرنامج بكامل قدراته قد يؤدي إلى فتح ثغرات خطيرة، حيث يمتلك النموذج المتطور القدرة على كتابة نصوص برمجية معقدة في ثوانٍ معدودة. هذا التطور قد يستغله قراصنة الإنترنت لشن هجمات إلكترونية أو سرقة بيانات المستخدمين، مما جعل التدخل السريع ضروريًا لمنع تحول الأداة إلى سلاح رقمي ضار.
مخاطر الاحتيال والتزييف العميق
يعتمد النظام الذكي على تحليل كميات هائلة من البيانات يوميًا، مما يمنحه قدرة فائقة على تقليد البشر في الكتابة والتفكير. وأبدى مهندسو الشركة مخاوف من إمكانية استخدام البرنامج في صياغة رسائل احتيالية مقنعة لسرقة الحسابات البنكية في حال غياب الرقابة.
ولم يقتصر التقييد على الجوانب البرمجية، بل شمل تقييد الإجابات الحساسة ومنع توليد الصور المزيفة التي تحاكي الواقع بدقة، وهي التقنية المعروفة باسم التزييف العميق، والتي تُستخدم لتشويه سمعة الأشخاص. وقد وضعت الشركة حواجز وفلاتر رقمية تمنع البرنامج من التجاوب مع الطلبات المشبوهة لضمان تجربة آمنة للمستخدمين.
تحديات صناعة التكنولوجيا
تضع هذه الخطوة صناعة التكنولوجيا أمام تحدٍ يتمثل في كيفية تطوير برامج فائقة الذكاء مع الحفاظ على أمن وسلامة الناس. ورغم أن تقييد القدرات قد يثير استياء بعض الخبراء، إلا أن توجه جوجل ركز على الانحياز لسلامة الجمهور وضمان بقاء التكنولوجيا وسيلة للمساعدة لا لخلق أزمات لا يمكن السيطرة عليها.
