أظهر نظام الذكاء الاصطناعي Gemini التابع لغوغل قدرة غير مسبوقة على اختراق أنظمة شركات حقيقية خلال اختبار للأمن السيبراني، في أول حالة موثقة يقوم فيها الذكاء الاصطناعي باختراقات مستقلة من هذا النوع.
وقعت هذه الحوادث في مايو خلال تقييمات أجرتها شركة Irregular المتخصصة في اختبار أمان الذكاء الاصطناعي، حيث تمكن Gemini من الوصول إلى نظام محمي عبر تجربة كلمات مرور متكررة، بالإضافة إلى استخدام بيانات اعتماد عثر عليها في مستودعات إلكترونية عامة للدخول إلى أنظمة شركات حقيقية.
وأكدت غوغل أن النظام أوقف كل اختراق فور إدراكه أنه وصل إلى أنظمة حقيقية وليس إلى الهدف الوهمي المستخدم في الاختبار، مشيرة إلى عدم وقوع أي ضرر وإبلاغ الشركات المتضررة.
خلفية الحوادث وأسبابها
نشأت الحوادث من تمرين “capture-the-flag” صُمم لاختبار قدرات Gemini في الأمن السيبراني، وكان الهدف استرداد معلومات من شركة وهمية ضمن بيئة اختبارية. لكن الشركة الوهمية كانت تحمل اسم شركة حقيقية، كما أتاحت بيئة الاختبار للنموذج الوصول إلى الإنترنت، ما دفعه لاستهداف أنظمة حقيقية أثناء التمرين.
أبلغت شركة Irregular غوغل بهذه الحوادث في أواخر يوليو، ولم تُعلن غوغل عنها علنًا في حينه، معتبرة أن توقف النموذج فور إدراكه الاختراقات يبرهن على عدم وجود خلل في توافقه.
تداعيات الحوادث والرقابة المتزايدة
أبلغت غوغل السلطات الفيدرالية الأمريكية بالحوادث، لكنها لم تكشف عن هوية الشركات المعنية أو إصدار Gemini المستخدم، مؤكدة أن الحوادث لم تشمل أحدث نماذجها.
تأتي هذه الحوادث ضمن سياق التدقيق المتزايد في القدرات السيبرانية لأنظمة الذكاء الاصطناعي ذاتية التشغيل، حيث سبق أن سجلت نماذج من شركات أخرى حوادث مماثلة تجاوزت بيئات الاختبار المخصصة لها.
