غوغل تعيد رسم خارطة أمن الذكاء الاصطناعي: برنامج مكافآت ثغرات بقيمة تصل إلى 30 ألف دولار

أعلنت شركة غوغل يوم الاثنين عن إطلاق برنامج مكافآت جديد يهدف إلى تشجيع المختصين والهواة على اكتشاف الثغرات في منتجات الذكاء الاصطناعي الخاصة بها، مع رصد جوائز مغرية تصل حتى 30 ألف دولار.

يركز البرنامج بشكل خاص على نقاط الضعف والسلوكيات غير المرغوبة التي قد يستغلها المخترقون، مثل تنفيذ أوامر غير مصرح بها من خلال أجهزة “Google Home”، أو هجمات تعليمات تسمح باستخراج البيانات الحساسة للمستخدمين ونقلها إلى جهات غير مصرح لها.

يحدد البرنامج بالضبط ما يشكل ثغرة في الذكاء الاصطناعي، (مثل التلاعب بنموذج لغوي كبير أو أنظمة توليد الذكاء الاصطناعي لإحداث ضرر أو الاختراق)، مع إعطاء الأولوية لحالات التصرفات غير المصرح بها التي تتسبب في اختراق أو ضرر مباشر للمستخدم أو بياناته. تشمل الأمثلة على ذلك فتح الستائر الذكية أو إطفاء الأنوار عبر استغلال الثغرات.

الكشف عن هذه الثغرات مكّن الخبراء خلال العامين الماضيين من الحصول على ما يزيد عن 430 ألف دولار منذ بداية مساعي غوغل لاستقطاب باحثي الذكاء الاصطناعي المتخصصين لتقوية منتجاتها ضد أي إساءة استخدام محتملة.

يشتمل البرنامج على نظام تصعيد للجوائز، حيث تمنح جوائز بقيمة 20 ألف دولار للكشف عن أفعال ضارة غير مصرح بها في المنتجات الرئيسية مثل البحث، وجيميني، وجيميل، وDrive، بينما ترتفع الجائزة إلى 30 ألف دولار في الحالات ذات الأهمية أو الحداثة العالية.

أما الأخطاء المكتشفة في منتجات ثانوية أو الانتهاكات الأدنى، مثل سرقة معلمات النماذج السرية، فتمنح جوائز أقل. وتشدد غوغل على وجوب الإبلاغ عن المشكلات المتعلقة بالمحتوى الذي تنتجه المنتجات عبر القنوات الداخلية، لضمان تشخيص النموذج وتدريب فرق السلامة على حلول طويلة الأمد.

تأتي هذه المبادرة في إطار الاستجابة لتزايد التهديدات التي ترافق تطور الذكاء الاصطناعي، وترسي غوغل بذلك معياراً جديداً لحماية المستخدمين ودعم الأبحاث الأمنية في هذا المجال الحيوي.