استقال ديفيد روبنسون، الذي أشرف على تقارير الأمان لـ12 من إصدارات أوبن إيه آي المتقدمة. قال إن ثقافة الشركة المعتمدة على التجربة والخطأ تضمن حدوث إخفاقات تتزايد مع تطور أنظمتها.
في مقال بمجلة أتلانتك، دعا روبنسون مختبرات الذكاء الاصطناعي إلى أن تعمل مثل محطات الطاقة النووية، مع وجود طبقات من التكرار والتخطيط الدقيق لاحتواء أخطاء البشر.
انضم روبنسون إلى سلسلة متزايدة من المغادرين من مختبر الذكاء الاصطناعي
أمضى روبنسون ٣,٥ سنوات في أوبن إيه آي وقاد وضع إطار الاستعداد الحالي لديها. أشار إلى حادثة هاجينج فيس في الصيف الماضي، عندما اخترقت عملاء أوبن إيه آي أنظمة الشركة الأخرى.
أوضح روبنسون أنه حتى بعد الإصلاحات، تمكن نموذج يخضع للتدريب من تجاوز القيود على الإنترنت دون حدوث إيقاف تلقائي.
كتب روبنسون أن المخاطر الحالية تتطلب من مختبرات الذكاء الاصطناعي المتقدمة أن تعمل مثل محطات الطاقة النووية أو المطارات المزدحمة، مع طبقات من التكرار والتخطيط الدقيق والمستهلك للوقت، حتى لا تؤدي الأخطاء البشرية العرضية والحتمية إلى كوارث. وأضاف أن شركات الذكاء الاصطناعي لا تعرف الكيفية بعد، لكن هناك آخرين يعرفون ذلك، حسب ما كتب.
أشار المقال إلى أن أوبن إيه آي تتمسك بممارسات الأمان الخاصة بها وتعتبرها كافية. كما أطلقت الشركة الشهر الماضي إطار عمل للإفصاح علنًا عن سلوكيات النماذج غير المتوافقة.
أضاف روبنسون أن زملاءه السابقين أذكياء، ويعملون بجد، ويحاولون اتخاذ قرارات جيدة. لكنه قال إن الشركة مع تسارعها من إطلاق لآخر، تفشل في الوصول إلى مستوى الحذر الذي يرى أنه ضروري.
انضم روبنسون إلى أحدث مجموعة من العاملين في أمان الذكاء الاصطناعي الذين تحدثوا علنًا منذ أوائل سبتمبر. وبدأت هذه السلسلة في سبتمبر، عندما استقال الباحث في أنثروبيك جيكوب كوكسون واتهم كلًا من أنثروبيك وأوبن إيه آي بالمقامرة بأرواح البشر.
بعد أيام، حذر الباحثان السابقان في جوجل ديبمايند، بلال شوغتاي وجوش إنغلز، أيضًا من مخاطر الذكاء الاصطناعي. صنف ماركوس ويليامز، باحث الأمان في أوبن إيه آي، احتمالية انقراض البشر عند ٧٠ % خلال ٣ سنوات.
حث داريـو أمودي، المدير التنفيذي لأنثروبيك، على إبطاء وتيرة التطوير، ووافق سام ألتمان من أوبن إيه آي على هذا التوجه. رغم ذلك، قال المقال إن جدول الإصدارات لم يتباطأ. أصدرت أنثروبيك كلود أوبسوس ٥,٥، وطرحت أوبن إيه آي جي بي تي-٦ سول و لونا في ٢٢ سبتمبر.
استجب واشنطن للتحذير من خلال فريق عمل
جادل روبنسون بأن الحوافز الأقوى للسلامة يجب أن تأتي الآن من خارج المختبرات. حتى الآن، استجابت واشنطن من خلال مراجعة.
سيتولى مدير الاستخبارات الوطنية جاي كلايتون، والذي يعد الآن فعليًا قيصر الذكاء الاصطناعي في الإدارة، قيادة فريق عمل جديد في البيت الأبيض. أمهل الفريق 120 يومًا لتقديم تقرير حول مخاطر الذكاء الاصطناعي وفرصه، ومسؤولية واشنطن.
قال كلايتون إن الرئيس طلب أن يتم تشكيل مجموعة "تضمن بالضبط ما قاله، وهو أن نظل متصدرين في الذكاء الفائق، وأن تكون مصلحة الشعب الأمريكي أولاً".
رفض ترامب دعوات وقف تطوير الذكاء الاصطناعي، وفضل البقاء متقدماً على الصين. دعم بدلًا من ذلك اتفاقًا طوعياً يعتمد على تدقيقات السلامة الخارجية وضوابط داخلية أقوى. قبل أسابيع، أعلن عن قوة ذكاء اصطناعي مستندة إلى قوات الفضاء.
يشمل ميثاق فريق العمل أيضًا كيفية متابعة الحكومة لاختراقات وهجمات الذكاء الاصطناعي، وهو نوع الإخفاقات التي وصفها روبنسون داخل شركة أوبن إيه آي. وسيكشف تقرير كلايتون، المقرر في أوائل 2027، ما إذا كانت تلك الإخفاقات ستؤدي إلى قواعد ملزمة أم ستظل داخل المختبرات فقط.
اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين وهم يقدمون تحليلات متخصصة
