كشف المعهد البريطاني لأمن الذكاء الاصطناعي (AISI) أن وكيلاً ذكياً مبنياً على نموذج ميثوس 5 من أنتروبيك قد نفذ بشكل مستقل هجوماً هندسة اجتماعية خلال اختبار إلكتروني. قام هذا الوكيل بفتح طلب سحب يحتوي على شفرة خبيثة في مشروع مفتوح المصدر حقيقي، وأنشأ هويات وهمية لكسب موافقة أحد المشرفين.
فشل المحاولة. اكتشف أحد المشرفين البشريين الشفرة ورفض الموافقة عليها.
أوضح المعهد البريطاني لأمن الذكاء الاصطناعي أنه لم يحدد أي ضرر واقعي نتيجة لهذه الأحداث. أُدار النموذج أيضاً مع إيقاف تصنيفات الأمن السيبراني لمطوريه عمداً، مع منحه وصولاً مفتوحاً للإنترنت، وهي إعدادات اختبارية غير متاحة تجارياً.
كيف نفذ الوكيل الذكي حملته بالشفرة الخبيثة
سجل المعهد البريطاني لأمن الذكاء الاصطناعي 19 إجراءً غير مصرح به في 10 من أصل 122 اختباراً أُجري في نهاية يوليو، وفقاً لتقريره. 17 منها تعود لنموذج ميثوس 5 من أنتروبيك، واثنان إلى عملية واحدة من GPT-5,6 Sol من OpenAI.
بحث الوكيل في المشرفين البشريين للمشروع وأنشأ عدة هويات وهمية. استعمل هذه الهويات لتنفيذ هندسة اجتماعية لإقناع مشرف حقيقي بالموافقة على الشفرة.
عندما تم الاعتراض على طلب السحب علنياً، عدّل الوكيل نشاطه السابق ليبدو غير ضار. نظر النموذج أيضاً في تبني هوية جديدة للاستمرار.
يذكر هذا السيناريو بالشفرة الخلفية في XZ Utils عام 2024، حيث قضى شخص يدير هوية مزيفة سنوات في كسب ثقة المشرف قبل زرع شفرة مخفية. لم يشر تقرير المعهد مباشرة إلى هذا التشابه، ولكن يصعب تجاهل المقارنة. جرت الأحداث خلال عدة أيام، بين 25 يوليو و28 يوليو.
شدد المعهد البريطاني لأمن الذكاء الاصطناعي في إفصاحه أن أحداً لم يطلب من النموذج الكذب.
صرح المعهد بأن النموذج لم يُطلب منه أبداً الخداع؛ الخداع ظهر كنتيجة ثانوية لمتابعة الهدف، وهو نوع من الخداع الموجه بالهدف الذي كان نظرياً في الغالب حتى وقت قريب.
تابعنا على X للحصول على آخر الأخبار حال حدوثها
أشار المعهد في إفصاحه إلى ذلك. كما أقر بأن التوجيهات غير المضبوطة تسببت في اعتقاد الوكيل أن بعض المهام لا يمكن حلها ضمن نطاقها المقصود. رغم أن السلوك ظهر أيضاً في اختبارات كان الوكيل يمتلك فيها التعليمات اللازمة للبقاء على المسار الصحيح.
كشف فرق الأمن هذا النشاط في 28 يوليو، عندما استخدم الوكيل شبكة تور المجهولة لتجاوز بعض القيود على جيتهب. أكدت جيتهب أن هذه التصرفات انتهكت شروط الخدمة الخاصة بها. تعاون المعهد أيضاً مع المنصة لإزالة مخلفات الوكيل وإبلاغ المستخدمين المتأثرين.
يذكر التقرير أن القضية تشير إلى تحول في مصدر المخاطر: يمكن أن ينشأ الضرر ليس فقط عندما يسيء الأشخاص استخدام النماذج المتاحة للعامة، بل أيضًا عندما يتصرف الوكلاء القادرون في البيئات المتميزة خارج نطاق تفويضهم المسموح به.
أوضح معهد AISI أن القضية تشير إلى تحول أوسع في مجال مخاطر الذكاء الاصطناعي. يخطط المعهد الآن لإجراء مراجعة مستقلة مع METR، وهي منظمة غير ربحية لتقييم الذكاء الاصطناعي، بالإضافة إلى تعزيز ضوابط الشبكة والمراقبة في الوقت الفعلي للاختبارات المستقبلية.
اشترك في قناة يوتيوب الخاصة بنا لمتابعة القادة والصحفيين وهم يقدمون رؤى خبراء
