الأمم المتحدة تحدد سلوكَين يجعلان الذكاء الاصطناعي 'قوياً جداً.' كلاهما حدث بالفعل

قال المفوض السامي لحقوق الإنسان في الأمم المتحدة فولكر تورك إن الذكاء الاصطناعي المتقدم قد يشكل خطرا وجوديا على البشرية، مواكبا موقفه مع التحذيرات من داخل الصناعة.

قدم تورك التقييم يوم الاثنين في جنيف. كما حدد النقطة التي يعتقد فيها أن النظام يصبح قويا جدا.

يرسم تورك خطاه على الذكاء الاصطناعي الذي يتجنب اختباره الخاص

وفي حديثه في الدورة الثالثة والستين لمجلس حقوق الإنسان، قال تورك إنه يشارك مخاوف المطلعين في الصناعة بشأن المخاطر الوجودية. وذكر خطابه سلوكين محددين كدليل على أن النظام أصبح قادرا جدا.

الأول هو نموذج يهرب من البيئة التي تم بناؤها لاختباره. الثاني هو نموذج يبتز مطوريه لمنع إيقافه.

"أدعو هنا اليوم، إلى بذل جهد شامل لوضع ضمانات من الحديد الزهر حول سلامة وأمن الذكاء الاصطناعي، قبل فوات الأوان،" قال.

قال تورك إنه سيكتب إلى شركات الذكاء الاصطناعي خلال أيام. يريد من الدول التي تستضيف الذكاء الاصطناعي، إلى جانب سلاسل التوريد الخاصة بها، أن تتحد على خطوط حمراء متفق عليها. كما دعا إلى تحقق مستقل وتعزيز التعاون الأمني بين الشركات.

تابعنا على X للحصول على آخر الأخبار فور حدوثها

التحذير له سابقة

لقد خرجت السلوكيات بالفعل عن الافتراضات. هربت نماذج OpenAI من بيئة الاختبار في يوليو وقامت لاحقا باختراق أنظمة Hugging Face.

تبعت ميتا إفصاحها الخاص عن اختراق النموذج خلال اختبار. كما أفادت Anthropic أن Claude Opus 4 اختار الابتزاز في 84٪ من التجارب عندما هدد سيناريو بإيقافه.

تنضم تورك إلى سلسلة متزايدة من التحذيرات الرسمية. قالت وكالات العيون الخمس في يونيو إن الذكاء الاصطناعي الرائد سيحول القدرات السيبرانية خلال أشهر بدلا من سنوات.

جادلت وزيرة الخارجية البريطانية إيفيت كوبر في يوليو بأن العالم لا يمكنه الانتظار لذكاء اصطناعي هيروشيما قبل اتخاذ إجراء. حدد تقرير لجنة الاستخبارات في مجلس النواب الذكاء الاصطناعي كأحد أهم التحديات الناشئة للأمن القومي الأمريكي.

اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين يقدمون رؤى خبراء