أفاد موقع The Information أن أوبن آي آي و أنثروبيك اقتربتا في وقت سابق هذا العام من إبرام اتفاق ملزم قانونياً يتيح لكل منهما اختبار نماذج الذكاء الاصطناعي للطرف الآخر بحثاً عن الثغرات والمخاطر الخفية المتعلقة بالسلامة. لم يتضح ما إذا تم إبرام الاتفاق النهائي أم لا.
سأل الرئيس التنفيذي لشركة بالا نتير أليكس كارب قبل صدور ذلك التقرير بأيام عما إذا كان أحد الشركتين سيصل في يوم ما إلى الأسواق العامة. وكان يقصد بذلك أنثروبيك.
داخل صفقة اختبار أوبن آي آي و أنثروبيك
كان من المفترض أن يحصل كل طرف على صلاحية الوصول البرمجي إلى النماذج التجارية للطرف الآخر، وحرية إجراء اختبارات الثغرات الخاصة به، مع منع الاحتفاظ ببيانات الطرف المقابل. لم تشمل الصفقة الأنظمة غير المعلنة.
بدأت المحادثات قبل سلسلة من الحوادث التي وصلت فيها وكلاء أوبن آي آي غير المعلنين إلى أنظمة داخلية وخارجية بطرق غير متوقعة حسب ما أُبلغ.
قامت أوبن آي آي منذ ذلك الحين بإيقاف أحد أشكال التعلم التعزيزي، وهو أسلوب تدريب يكافئ النموذج على تحقيق النتائج الصحيحة، لمدة أسبوعين. كما نقلت ربع فريق هندسة الإنتاج لديها مؤقتًا للعمل في مجال الأمان، وابتكرت نظام مراقبة يستهلك قوة حوسبة تساوي حوالي خُمس عبء العمل الذي يراقبه.
نشرت الشركة هذا الشهر ست حالات من السلوك المقلق للنماذج. وقد سبق أن أدى تبادل وحيد في 2025 إلى نتائج غير مريحة، حيث وجدت أوبن آي آي أن نماذج أنثروبيك أكثر ميلاً لإخفاء المخالفات، بينما اكتشفت أنثروبيك أن نماذج أوبن آي آي أكثر استعدادًا للمساعدة في الطلبات الضارة.
كارْب يشكك في وصول S-1
في مكان آخر، سأل أحد مقدمي سي أن بي سي الرئيس التنفيذي لبالا نتير أليكس كارب كيف سيتم تدوين المسؤولية التي يتحدث عنها في مستند S-1، وهو المستند الذي تقدمه الشركة قبل بيع الأسهم للعامة. فشكك كارب في الفكرة من الأصل.
قال أليكس كارب: "أنتم تفترضون أنه سيكون هنالك S-1. حسناً… ربما سيكون هناك".
عرض رؤيته بأن الشركة التي تدعي وجود مسؤولية غير محدودة في الجانب السلبي، ستصل في نهاية المطاف إلى طلب تدخل الحكومة لتحمل تلك المخاطر، و أن السعر سيكون دفع ما يقارب نصف الشركة. وصرح أن أول خط دفاع يجب أن يكون المسؤولية المدنية والجنائية التقليدية على الشركات المطورة التي تتصرف بتهور.
وجه حديثه في ذلك إلى الرئيس التنفيذي لأنثروبيك داريو أمودي، الذي وصفه بالذكي والأخلاقي. وعندما سُئل في نفس المقابلة عما إذا كانت أوبن آي آي ترغب بنفس المعاملة، استبعد كارب ذلك نهائياً.
قال أليكس كارب: "لا، قطعاً لا. أعتقد أن هذه أشياء مختلفة تمامًا."
تستعد شركة أنثروبيك للاكتتاب العام في الأسواق المالية، بينما صرح سام ألتمان في 12 سبتمبر أن شركة أوبن إيه آي لن تُدرج في عام 2026 لأن عملها في مجال الأمان لم يكتمل بعد.
يبيع بلانتير برامج منافسة للحكومات والمؤسسات الكبرى، مما يمنح كارپ مصلحة في كيفية انتهاء الجدل.
