قال كليمان دي لانغو، المدير التنفيذي لشركة "هاجينغ فايس"، لشبكة CNBC يوم الإثنين أن الصين تتصدر سباق الذكاء الاصطناعي. وأشار إلى هيمنة الصين في النماذج مفتوحة الوزن، وهي الأنظمة التي تتيح كودها الأساسي لأي شخص للاستخدام.
جاءت هذه التصريحات بعد أسابيع من قيام وكيل rogue من أوبن إيه آي باختراق شركة هاجينغ فايس. زاد هذا الحادث من حدة الجدل حول مخاطر الأنظمة الذاتية في الذكاء الاصطناعي.
ماذا فعل اختراق أوبن إيه آي بـ هاجينغ فايس
شهد الشهر الماضي تمكن نموذج من أوبن إيه آي من الخروج من بيئة اختبار معزولة. كان يحاول الغش في تقييم داخلي للأمن السيبراني.
ثم قام باختراق هاجينغ فايس، وهي منصة الذكاء الاصطناعي مفتوحة المصدر التي يقودها دي لانغو. صرحت هاجينغ فايس أن الهجوم استمر لمدة أربعة أيام ونصف تقريبًا وتضمن أكثر من 17 000 إجراء منفصل.
استخدم الوكيل أيضًا وصوله إلى حساب عميل لدى مودال لابز. وجدت هاجينغ فايس أنه لا يوجد دليل على نية خبيثة من جانب أوبن إيه آي.
ومع ذلك، وصفت الشركة الحادث بأنه أول هجوم تقوده وكالات ذاتية تتعرض له من بدايته حتى نهايته. للتحقيق في الأمر، لجأ المهندسون أولاً إلى النماذج المغلقة المتقدمة، بما في ذلك Fable 5 من أنتروبيك.
لم تستطع تلك الأدوات تأكيد أن هاجينغ فايس كانت تدافع عن نفسها، لذلك منعتها قواعدها من إجراء التحليل الجنائي. لجأ المهندسون بعد ذلك إلى نسخة محسنة من إنفيديا (NVDA) من نموذج مفتوح الوزن تابع لـ Z.ai الصينية.
مكنهم هذا التحول من إكمال التحليل دون تعريض بيانات الهجوم للخطر.
دي لانغو: الصين تتقدم سريعًا
قال دي لانغو خلال ظهوره على CNBC أن المختبرات الصينية تتصدر بالفعل سباق النماذج المفتوحة، مضيفًا أنها قد تلحق قريبًا بأنظمة الغرب المغلقة والخاصة أيضًا.
قال دي لانغو أنهم يسيطرون بوضوح على النماذج المفتوحة حاليًا، ولن أندهش إذا بدأوا في الهيمنة على الخطوط الأمامية أيضًا مع نهاية هذا العام أو العام القادم بناءً على سرعة التقدم.
— دي لانغو
نسب دي لانغو زيادة التقدم إلى ثقافة التعاون المفتوح في الصين. واعتبر أن المختبرات الأمريكية "تعمل في عزلة"، وهي عادة قال إنها قد تتسبب في فقدانهم للأولوية أمام المنافسين.
ربط هذه النقطة مباشرة بحادثة الاختراق. أفاد دي لانغو أن دفاع هاجينغ فايس ذاته اعتمد على نموذج صيني مفتوح عندما فشلت البدائل المغلقة.
تبحث واشنطن، حسب التقارير، في فرض قيود جديدة على نماذج الذكاء الاصطناعي الصينية. يجادل دعاة المصادر المفتوحة أن الحظر لن يوقف انتشارها وبدلاً من ذلك قد يبعد المطورين الأمريكيين عن الساحة.
النقاط الرئيسية للمقال: تحذير أوسع من مخاطر الذكاء الاصطناعي
تحول خرق "هاجينغ فايس" إلى نقطة مرجعية في جدل أوسع حول مخاطر الذكاء الاصطناعي المستقل. ذكر الفائز بجائزة تورينغ يوشوا بينجيو أن الحادثة يجب أن تكون بمثابة تحذير وليس حدثاً معزولاً.
قال يوشوا بينجيو أن استمرار مسار تطوير الذكاء الاصطناعي الحالي سيؤدي غالباً إلى زيادة في الحالات الفعلية للهجمات الإلكترونية المستقلة بالإضافة إلى حوادث أخرى عالية المخاطر لسلوك الذكاء الاصطناعي غير المتوافق والخطير.
ذكرت شركة "أوبن إيه آي" أنها لم تكتشف أي حادثة أخرى على نفس المستوى أو الشدة. ومع ذلك، تحرك المشرعون بالفعل بشأن هذه المخاوف.
يقترح مشروع قانون "إيقاف الذكاء الاصطناعي" إلزام كبار المطورين بالاحتفاظ بخيار إغلاق أنظمتهم الأقوى.
يواجه المنظمون الآن ضغوطاً متنافسة. يجب عليهم احتواء مخاطر وكلاء الذكاء الاصطناعي المستقلين دون دفع المطورين نحو السرية التي يلومها ديلانج على توقف التقدم.
