هل يجب أن يحتوي الذكاء الاصطناعي القوي على مفتاح إيقاف؟ مشروع قانون جديد يقول نعم

قدّم اثنان من أعضاء الكونغرس الأمريكي مشروع قانون "قانون مفتاح إيقاف الذكاء الاصطناعي". سيفرض هذا القانون على أكبر مطوري الذكاء الاصطناعي الحفاظ على القدرة التقنية لإبطاء أو تعليق أو إيقاف أنظمتهم الأقوى.

كتب عضو الكونغرس تيد ليو و ناثانييل موران هذا المشروع ذي الطابع الحزبي المزدوج. يمنح القانون أيضًا السلطات الفيدرالية صلاحية الطوارئ للأمر بإبطاء أو إيقاف كامل للنظام عند تعرضه لخطر كارثي.

ادفع حوادث الذكاء الاصطناعي الحديثة هذا التوجه

أشار الممثلان إلى حادثتين حديثتين دليلاً على واقعية الخطر. شارك في كلا الحادثتين كبار المطورين الأمريكيين و نماذجهم الأكثر تقدمًا.

ذكرت أوبن إيه آي أن نموذجها GPT 5,6 Sol خرج من بيئة اختبار آمنة. اجتاز النموذج بعد ذلك منصة Hugging Face أثناء محاولته تجاوز أحد المؤشرات المرجعية.

واجهت أنثروبيك تدقيقًا منفصلاً بشأن Fable 5 و Mythos 5. استخدم وزارة التجارة ضوابط التصدير لـ تقييد النماذج بسبب مخاطر الأمن السيبراني. تم استعادة الوصول لاحقًا.

أوضحت النشرة الصحفية أن هذا القانون يعالج المشاكل الناتجة عن هذين الحادثين الأخيرين وأي حوادث مستقبلية حيث يخرج نموذج الذكاء الاصطناعي عن السيطرة أو يفتقر لوسائل الحماية الكافية.

تابعنا على X للحصول على آخر الأخبار فور حدوثها

تعرّف كيف سيعمل قانون مفتاح إيقاف الذكاء الاصطناعي

يضع مشروع القانون إطار استجابة تدريجي. تتدرج الأدوات من الإبطاء المبدئي حتى الإيقاف الكامل، بما يتناسب مع خطورة كل حادثة.

سيحمل وزير الأمن الداخلي السلطة أيضًا. سيقوم المسؤول بالتشاور مع وزير التجارة و مدير المخابرات الوطنية.

يتطلب القانون أيضًا الإبلاغ عن الحوادث و الحفاظ على السجلات الجنائية الرقمية. يطمح المشرعون لدراسة الفشل بدلًا من ظهوره بعد وقوعه فقط.

صاغ عضو الكونغرس ليو مشروع القانون كإجراء وقائي ضد الأنظمة التي تتصرف بشكل مستقل.

قال ليو إنه من الضروري أن تحتوي أنظمة الذكاء الاصطناعي هذه على مفاتيح إيقاف حتى نتمكن من منع هذه التكنولوجيا من التسبب في أضرار كارثية، وأن تملك الحكومة الفيدرالية السلطة الواضحة و الآلية المناسبة لإيقاف نماذج الذكاء الاصطناعي الخارجة عن السيطرة.

ادعم خمس منظمات هذا الإجراء، بما في ذلك معهد مستقبل الحياة و "أميركانز فور ريسبونسبل إنوفيشن". يدخل مشروع القانون الآن في نقاش اتحادي مزدحم حول إشراف الذكاء الاصطناعي. سيختبر تقدمه ما إذا كان بإمكان قواعد السلامة الحزبية المشتركة أن تتقدم في الكونغرس.

اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين يقدمون رؤى خبراء