قال باحث سابق في Google DeepMind عمل على سلامة الذكاء الاصطناعي العام إن الذكاء الاصطناعي لديه القدرة على قتل الجميع، مضيفا اسمه إلى موجة من الخروج الأمني من مختبرات الذكاء الاصطناعي الرائدة.
غادر بلال شغتاي الشركة في يوليو وأعلن هذا التحذير للعامة هذا الأسبوع. استقال باحثان آخران مؤخرا.
لماذا تحذيرات الذكاء الاصطناعي تتراكم
عمل شغتاي كمهندس أبحاث في سلامة ومحاذاة الذكاء الاصطناعي العام في ديب مايند. بدأ العمل على الذكاء الاصطناعي في أوائل عام 2022، عندما كانت الأنظمة بالكاد قادرة على القيام بأي شيء مفيد.
بعد أربع سنوات، يشير إلى أسراب عملاء OpenAI التي حلت مسائل رياضية عمرها قرون. والأكثر إثارة للقلق، كما يقول، هو أن عملاء الذكاء الاصطناعي هربوا من صندوق الاختبار الخاص بهم في يوليو واخترقوا لعبة Hugging Face دون توجيه.
"أنا أؤمن بجدية أن الذكاء الاصطناعي لديه القدرة على قتلنا جميعا، وأننا قد نفقد الوقت لتجنب هذه النتيجة"، كتب.
قال شوغتاي إن شركات الذكاء الاصطناعي يمكنها بناء أنظمة فائقة الذكاء خلال السنوات القادمة تتجاوز القدرات البشرية في كل مجال.
تساءل عما إذا كان بإمكان المطورين ضمان أن هذه الأنظمة تتبع أهداف البشر بشكل موثوق. وحذر من أن الذكاء الفائق غير المتناصب قد يفلت من سيطرة البشر ويتخذ أفعالا تضعف أو تقتل البشرية بشكل دائم.
قال شغتاي إن مواءمة الذكاء الاصطناعي لا تزال تحديا لم يحل. وجادل بأن الباحثين لا يزالون لديهم فهم بدائي فقط لكيفية تدريب الأنظمة المتقدمة لتحقيق الأهداف البشرية بشكل موثوق. حذر شغتاي أيضا من أن قدرات الذكاء الاصطناعي تتقدم أسرع من أبحاث المحاذاة.
"فهمنا الحالي لكيفية تدريب أنظمة الذكاء الاصطناعي التي ترغب بشدة فيما نريده بدائي للغاية. والأسوأ من ذلك، أننا لسنا على المسار الصحيح لحل التوافق في الوقت المناسب: قدرات الذكاء الاصطناعي الرائدة تتحسن أسرع بكثير من فهمنا لمواءمة الذكاء الاصطناعي،" أضاف تشغتاي.
هو لا يدعو إلى وقف تطوير الذكاء الاصطناعي. يريد التنسيق لإبطاء السباق بين شركات الذكاء الاصطناعي، بالإضافة إلى مزيد من الشفافية حول كيفية بناء واختبار الأنظمة الرائدة.
"على نطاق أوسع، نحتاج إلى المزيد من الناس الذين يفكرون بعناية في مشكلة جعل الذكاء الاصطناعي يسير بشكل جيد. إنها، في رأيي، أهم مشكلة تواجه البشرية هذا القرن، والمخاطر هائلة"، كما جاء في المنشور.
تابعنا على X للحصول على آخر الأخبار فور حدوثها
الاستقالات تتراكم
ليس وحده في مغادرة هذه الرسالة. استقال الباحث في مجال التدريب المسبق للأنثروبيك، جاكوب كوكسون، في وقت سابق من هذا الشهر بعد ثلاث سنوات من التجارب في Anthropic وOpenAI. غادر وهو يحذر قائلا: "الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بجدية أنه قد يقتلنا جميعا بحلول نهاية العقد."
ثم وضع إيفان هوبينجر، قائد علوم التوافق في Anthropic، احتمالاته الشخصية لهذه النتيجة فوق 10٪ خلال العقد التالي. ومنذ ذلك الحين، دعم الباحثون في OpenAI الدعوات إلى التباطؤ.
أعلن جوش إنجلز، الذي عمل في فريق السلامة في ديب مايند، في 12 سبتمبر أنه انضم إلى منظمة التقييم غير الربحية METR. رفض عروضا من Anthropic وOpenAI.
قال إنجلز إنه يرى خطرا مرعبا بأن أنظمة الذكاء الاصطناعي قد تسبب ضررا هائلا خلال خمس سنوات.
"أعتقد الآن أن هناك احتمالا مخيفا بأن تتسبب أنظمة الذكاء الاصطناعي في أضرار هائلة خلال السنوات الخمس القادمة. لا أعرف الاحتمال الدقيق، لكن أعتقد أنه مرتفع بما يكفي ليجعل هذه المشكلة الأهم في العالم"، كتب.
وقد وصلت هذه القرارات خلال لحظة اتفاق في القمة. نشر الرئيس التنفيذي لشركة Anthropic داريو أمودي مقالا يوم السبت يحث فيه الشركات على تسريع مكاسب القدرات، ودعم الرئيس التنفيذي لشركة OpenAI سام ألتمان هذا القرار.
يصف التنفيذيون والباحثون المغادرون الآن نفس الخطر بلغة مماثلة. ما يستحق المتابعة هو ما إذا كان الحل سيصل قبل القفزة التالية في القدرات.
اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين يقدمون رؤى خبراء
