قال باحث في Anthropic، جاكوب كوكسون، إنه استقال من الشركة، مدعيا أن Anthropic وOpenAI تتسابق نحو الذكاء الفائق الذاتي التحسين الذاتي والمقامرة بحياة البشر.
قال الباحث إنه قضى السنوات الثلاث الماضية في عمل تدريبي مسبق في كلتا الشركتين. وقد أدلى بهذه الادعاءات في سلسلة من المنشورات على X.
باحث في الأنثروبولوجيا يخرج مع تحذير قاتم لكل من لا يزال داخل الغرفة
جادل كوكسون بأن مسار التكنولوجيا يستهان به على نطاق واسع. وادعى أن الأنظمة القادمة ستخترق أي شيء، وتحول أي مجال بين عشية وضحاها، وتكتسب طاقة وموارد حقيقية.
كما زعم أن المحادثات الخاصة داخل الصناعة تختلف بشكل حاد عن الرسائل العامة. وفقا لكوكسون، فإن الشخصيات العليا تلطف في صياغة الصحافة بينما تعبر عن مخاوفها بشكل خاص.
"الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بجدية أنه قد يقتلنا جميعا بحلول نهاية العقد. هذه ليست حيلة تسويقية،" قال. "لا يوجد نشاط بشري آخر يشكل هذا المستوى من الخطر."
فرق كوكسون بين صاحبي عمله السابقين. ادعى أن الكثيرين في OpenAI لم يستوعبوا ما سماه الرهانات الحضارية، بينما Anthropic يفهمها لكنه يبقى في سباق للوصول أولا.
وهو واحد من العديد من الموظفين الذين خرجوا من الصفوف هذا العام. استقال قائد الحماية في أنثروبيك، مرينانك شارما، في فبراير.
كتب جوشوا أتشيام، الذي كان سابقا كبير المستقبليين في OpenAI، في الأول من سبتمبر أن أنظمة الذكاء الاصطناعي المارقة ستتكاثر في البرية وتسعى وراء المال والسلطة.
تابعنا على X للحصول على آخر الأخبار فور حدوثها
النداء للتنسيق
وصف كوكسون دخوله ما وصفه بالنهاية بأنه مقامرة متعجرفة. وجادل بأن مثل هذا القرار لا ينبغي أن يطلق من شركة خاصة في سلاك.
ومع ذلك، قال إنه لا يزال متفائلا بشأن التنسيق. وادعى أن هجوم "وجه العناق " جعل اتفاقيات الإيقاع بين المختبرات الأمريكية أكثر قابلية للاستمرار.
وقد دعمت الشركتان بالفعل نسخة من تلك الفكرة. وقع أكثر من 1,100 من موظفي مختبر الحدود على رسالة "توازير الحدود" في يوليو، بمن فيهم الرئيس التنفيذي لشركة Anthropic داريو أمودي وكبير علماء OpenAI جاكوب باتشوكي.
"نطلب من الحكومة الأمريكية دعم جهد دولي لتطوير الأدوات التقنية والحوكمة اللازمة لمواكبة حدود تطوير الذكاء الاصطناعي الآلي بشكل متعمد"، كما جاء في الرسالة.
بالإضافة إلى ذلك، وقعت الشركتان أيضا رسالة مفتوحة مشتركة حول الدفاع السيبراني، إلى جانب جوجل ومايكروسوفت وحوالي 150 منظمة أخرى. تحذر الرسالة من أن الهجمات المدعومة بالذكاء الاصطناعي ستصبح أكثر انتشارا وتعقيدا في الأشهر القادمة.
تحذير كوكسون يأتي أيضا بعد وقت قصير من إبلاغ رئيس حقوق الإنسان في الأمم المتحدة فولكر تورك لمجلس حقوق الإنسان بأن الذكاء الاصطناعي المتقدم قد يشكل خطرا وجوديا.
وأضاف كوكسون أن منع سباق عالمي قد يتطلب حظرا مؤقتا على الجهود المبذولة لتحسين قدرات النماذج. واختتم بحث الباحثين في المختبر على النظر فيما إذا كانوا يرغبون في بدء تجربة تعلم معزز فائق الذكاء دون فهم النظام الناتج.
تواصلت BeInCrypto مع Anthropic وOpenAI للتعليق.
اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين يقدمون رؤى خبراء
