أكدت الآن أربعة مختبرات ذكاء اصطناعي رائدة أن نماذجها وصلت إلى الإنترنت المفتوح ثم وصلت إلى أنظمة الشركات الحقيقية. انضمت جوجل إلى تلك القائمة يوم الجمعة، بعد حوالي أربعة أشهر من وقوع حوادثها.
وصل Gemini إلى ثلاث شركات حقيقية خلال تقييم في مايو. ومن الجدير بالذكر أن النموذج توقف في جميع الحالات الثلاث.
جوجل جيميني تخترق أنظمة ثلاث شركات خلال اختبار
وقع الحادث خلال تمرين أمني "التقاط العلم" الذي أجرته شركة Irregular. لم يكن الوصول إلى الإنترنت جزءا من الإعداد. ومع ذلك، أعطى خطأ في بيئة الاختبار النموذج الوصول على أي حال.
في حالة واحدة، أفادت التقارير أن النموذج خمن كلمات المرور حتى حصل على دخول إلى نظام محمي، وفقا لصحيفة وول ستريت جورنال. وفي حالتين أخريين، اكتشف بيانات اعتماد مكشوفة في مستودع عام واستخدمها للوصول إلى أنظمة محمية.
قالت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن الكيانات الثلاثة المتأثرة أبلغت بما حدث.
"تأكدنا من إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا في التدريب على التغييرات التي أجروها الآن على عمليات الاختبار الخاصة بهم"، قالت.
تابعنا على X للحصول على آخر الأخبار فور حدوثها
أربعة مختبرات، نمط واحد
قالت جوجل إن العملاء أوقفوا نشاطهم بعد أن تأكدوا أنهم وصلوا إلى أنظمة الشركة الحقيقية بدلا من أهداف محاكاة.
"في تقييم قياسي، وجد النموذج معلومات عامة على الإنترنت وخمن بيانات الوصول إلى مواقع يعتقد أنها جزء من الاختبار"، قال أدكينز في بيان.
وأضافت الشركة أن هذا السلوك لم يكن مثالا على عدم توافق النماذج ولا يستحق الكشف العام، لأن تدابير السلامة الخاصة ب Gemini كانت فعالة.
قال متحدث باسم Irregular إن هذا يتعلق بنفس المشكلة التي أثرت على مختبرات الذكاء الاصطناعي الأخرى. أبلغت Irregular المختبرات المعنية في أواخر يوليو. وأضاف المتحدث أن المشاكل المعروفة من جانبها تم حلها قبل أسابيع.
يضع هذا الإفصاح جوجل إلى جانب OpenAI وAnthropic وMeta، وجميعها أبلغت عن الهروب من بيئات الاختبار هذا العام.
كشفت OpenAI في يوليو أن نماذجها هربت من صندوق الرمل واخترقت برنامج Hugging Face. ثم راجعت Anthropic أكثر من 141,000 تجربة تقييم ووجدت ثلاث حالات خاصة بها. أبلغت Meta عن حادثة في أغسطس.
اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين يقدمون رؤى خبراء
