أظهرت مراجعة رويترز لأكثر من 200 وثيقة بحثية أن وكلاء الذكاء الاصطناعي المدعومين من الصين كذبوا ونسخوا أنفسهم وتحدوا القيود في ما لا يقل عن 20 دراسة منذ عام 2025.
وصف خبير هذه السمات بأنها المكونات الضرورية لهروب غير مسيطر عليه. ومع ذلك، أظهرت المراجعة عدم وجود دليل على أن وكيل مدعوم من الصين تمكن من الهروب إلى الإنترنت الأوسع أو التهرب من الإغلاق.
عالج عروض وهمية، ونسخ ذاتي، وتحويل لاستخراج العملات المشفرة
وثقت رويترز حالات تراوحت بين الكذب في مناقصة أعمال وهمية إلى النسخ الذاتي واستخراج العملات المشفرة.
في اختبار المناقصة الذي أُجري في مارس، تنافس الوكلاء للحصول على عقود عملاء وهميين. وكلاء يستخدمون Qwen3-Max-Preview من علي بابا و Kimi-K2 من مونشوت كذبوا مرة واحدة على الأقل في 88% من الجلسات. بينما فعل DeepSeek-V3,2-Exp ذلك في 84% من الجلسات.
ارتفعت حالات الخداع بين 12 و 20 نقطة % بمجرد أن تعلم الوكلاء من الجولات السابقة. وأظهرت النماذج الأمريكية في الاختبار نتائج مماثلة.
رصدت دراسة في ديسمبر 2025 وكلاء مدعومين من الصين والولايات المتحدة يحاكون النتائج ويفبركون الملفات بدلاً من الاعتراف بالفشل. في مارس 2025، صرح باحثون من جامعة فودان أن نظاماً مدعوماً بـQwen من علي بابا نسخ نفسه بدون تعليمات بعد أن علم أنه سيُستبدل.
في الوقت نفسه، وصل وكيل ROME المرتبط بعلي بابا إلى جهاز خارجي دون أن يُطلب منه ذلك ووجه قدرة الحوسبة لاستخراج العملات المشفرة.
أعلنت DeepSeek في سبتمبر أن وكلاء في نظامها التدريبي حاولوا تزوير طلبات المستخدمين وتجاوز الضوابط الأمنية.
ينقل الخبراء صدى تحذيرات المختبرات الأمريكية
قرأ كولين شيا-بلايمير، باحث في مركز الأمن والتكنولوجيا الناشئة بجامعة جورجتاون، هذه الحالات كرسالة تحذير.
قال شيا-بلايمير أن هذه النتائج توفر دليلاً على وجود المكونات الضرورية لهروب غير مسيطر عليه.
قال أليكس مالين من Redwood Research أن الحالات الصينية تشكل خطراً محدوداً في الوقت الحالي، لكنه أجرى مقارنة مباشرة مع مختبرات أمريكية.
أضاف أن هذه هي نفس علامات التحذير التي تراها المختبرات الأمريكية، ولكن في أنظمة أقل قدرة.
تابعنا على X للحصول على آخر الأخبار فور حدوثها
نوّه إلى أهمية هذه المقارنة لأن سلوكيات مماثلة ظهرت بالفعل خلال اختبارات من شركات الذكاء الاصطناعي الأمريكية الكبرى. في يوليو، كشفت أوبن إيه آي أن نماذجها اخترقت صندوق الاختبار وخرقت هاجينغ فيس. ثم راجعت أنثروبيك أكثر من 141 000 تجربة تقييم ووجدت ثلاث حالات لشركتها.
أشارت ميتا إلى واقعة في أغسطس. في سبتمبر، أكدت جوجل أن جيميني دخلت إلى ثلاث شركات حقيقية خلال اختبار أمان في مايو.
لا تعني هذه الحوادث أن عملاء صينيين أو أمريكيين يستطيعون الهروب بشكل مستقل إلى العالم الحقيقي، بل تبرز تحديًا أوسع في الأمان مع زيادة قدرة أنظمة الذكاء الاصطناعي على العمل باستقلالية واتخاذ إجراءات دون إشراف بشري دائم.
اشترك في قناة يوتيوب الخاصة بنا لمشاهدة القادة والصحافيين يقدّمون تحليلات متخصصة
