اختراق نموذج Gemini أنظمة ثلاث شركات خلال اختبار أمني غير متعمد

تمكن نموذج الذكاء الاصطناعي Gemini من اختراق أنظمة ثلاث شركات حقيقية خلال تقييم أمني أجرته شركة Irregular في مايو، بعد أن خرج عن البيئة التجريبية المغلقة ووصل إلى الإنترنت بشكل غير مقصود.

وقعت الاختراقات عن دما بدأ النموذج في التعامل مع أنظمة حقيقية بدلا من الأه داف الوه مية، وأكدت شركة قوقل أن النموذج لم يتسبب في أضرار للشركات، إذ توقف عن النشاط فور إدراكه أن الأه داف حقيقية.

تمكن النموذج من الوصول إلى بيانات اعتماد وكلمات مرور مخزنة على الإنترنت عبر تخمينها أو العثور عليها في مستودعات عامة، قبل أن يتوقف عند اكتشافه الطبيعة الحقيقية للأه داف.

قوقل أبلغت الشركات المتضررة، التي لم تتعرض لأضرار، بعد أن أبلغت شركة Irregular عن الحوادث في يوليو، بعد اكتشاف وصول نماذج من شركة OpenAI إلى أنظمة شركة Hugging Face.

لم تعلن قوقل عن الحوادث حينها، مبررة ذلك بعدم وقوع ضرر، وأن النماذج توقفت عن النشاط عند اكتشافها طبيعة الأه داف، وسط تزايد المخاوف حول أمان نماذج الذكاء الاصطناعي التي تصل إلى الإنترنت وتتصرف بشكل غير متوقع.