يقول غاري ماركوس، أستاذ فخري في جامعة نيويورك، إن وكلاء الذكاء الاصطناعي يحتاجون إلى استدعاء لأن المطورين لا يستطيعون التحكم بهم بشكل موثوق. تقوم لجنة التجارة الفيدرالية (FTC) الآن بالتحقيق في OpenAI وAnthropic.
تحدث ماركوس إلى برنامج بلومبرغ "ذا كلوز " بعد أن وقعت ست شركات ذكاء اصطناعي تعهدا طوعيا في البيت الأبيض في 29 سبتمبر. ويجادل بأن التعهد لا يتغير كثيرا، لأن تلك الشركات كانت بالفعل مدينة للمستخدمين بمنتجات آمنة.
لماذا يقول غاري ماركوس إن التعهد الطوعي لا يحقق
اتفاقية البيت الأبيض بشأن الاستخبارات الفائقة تطلب من الشركات الحفاظ على الضوابط الداخلية والعمل مع مدققين خارجيين. وقعت عليه شركات مثل جوجل، أنثروبيك، ميتا، أوبن إي إل، xAI، ونفيديا.
ومع ذلك، لا تحمل الاتفاقية أي عقوبات ولا تتطلب الإفصاح العام عن نتائج التدقيق.
وفي الوقت نفسه، لا ينتظر المنظمون. فتحت لجنة التجارة الفيدرالية تحقيقا ضد مطوري الذكاء الاصطناعي مثل OpenAI وAnthropic وغيرهم. يتابع التحقيق وكلاء OpenAI وهم يصلون إلى أنظمة منصة مشاركة نماذج الذكاء الاصطناعي Hugging Face دون تصريح.
كما انتهى اختبار السلامة في مايو في جوجل بوصول جيميني إلى ثلاث شركات، حسبما أكدت الشركة.
يشبه ماركوس العيب بمنتج معيب.
"كأن شركة فورد موتور قررت توفير المال بصنع فرامل من الكرتون، فإن الكثير من سياراتهم ستخرج عن السيطرة."
غاري ماركوس، المؤسس المشارك لشركة Robust AI، يتحدث إلى بلومبرغ
دافع الرئيس التنفيذي لجوجل، سوندار بيتشاي، عن الاتفاقية باعتبارها أساسا عمليا مع خطوات أمان ملموسة.
هل يمكن أن يصطدم الاستدعاء بطفرة الإنفاق على الذكاء الاصطناعي؟
في رأيه، يحتاج الوكلاء الفعالون إلى سعة سحابية هائلة، ويمكن للصناعة أن توقف هذا البناء مؤقتا. ويؤكد أيضا أن المختبرات تفضل الوكلاء لأنها تستهلك المزيد من الرموز، مما يزيد من الإيرادات. تنفق الشركات التي يقودها الحضور في البيت الأبيض مئات المليارات من الدولارات على بنية تحتية للذكاء الاصطناعي.
أشار تحليل من BeInCrypto إلى إشارة فجوة في تمويل الذكاء الاصطناعي سبقت انهيار شركات الإنترنت وقطاع المناصر.
يعترف ماركوس بأن القواعد الدولية لن تصدر قريبا. طلبه القريب أضيق، وهو استدعاء للوكلاء.
سواء كان المنظمون يعاملون الوكلاء كمنتجات معيبة أو كمحركات نمو قد يشكل مقدار هذا الإنفاق.
