مايكل ديل يحذر من أن وكلاء الذكاء الاصطناعي بحاجة إلى حدود صارمة

اطرح مايكل ديل سؤالًا واحدًا على كل شركة تسلم العمل للذكاء الاصطناعي: ما الذي لا يمكن للوكيل فعله أبدًا مهما تم إخباره به؟

ينشر المقال بعد أن أطلقت نفيديا نظامًا جديدًا يسمى منصة أمان الوكلاء المفتوحة. يروج الرئيس التنفيذي لـنفيديا جينسن هوانغ لهذا النظام بوصفه بيئة مفتوحة لبناء طبقة الثقة لأنظمة الوكلاء الآمنة.

لماذا يريد مايكل ديل فرض حدود صارمة على وكلاء الذكاء الاصطناعي

تعرف وكلاء الذكاء الاصطناعي على أنها برامج تتصرف بشكل مستقل. تكتب الشيفرات البرمجية، وتفتح الملفات، وتتحرك داخل أنظمة الشركات، غالبًا دون وجود شخص يراجع كل خطوة.

قارن ديل بينهم وبين الموظفين. كتب أنه لا توجد شركة تسمح لأي شخص بالتنقل بحرية في الأعمال وفتح جميع الأبواب. يجب فرض نفس الضوابط على الوكلاء الرقميين.

كيف تخطط نفيديا لإيقاف وكلاء الذكاء الاصطناعي الخارجين عن السيطرة

تضم منصة أمان الوكلاء المفتوحة من نفيديا أكثر من 100 شريك، بمن فيهم أنثروبيك، و مايكروسوفت، و كراود سترايك.

تنقسم المنصة إلى جزئين:

• يحدد برنامج OpenShell ما الذي يمكن للوكيل رؤيته وفعله.
• يراقب Sentry من خلال شريحة منفصلة من خارج الحاسوب الرئيسي.

قال ديل إنه يمكن للنظام إيقاف أي وكيل ينتهك القواعد خلال أجزاء من الألف من الثانية.

يؤكد مدونة ديل أن التعليمات المكتوبة وحدها لا يمكنها كبح الوكيل. يجب أن تكون هذه الحدود على مستوى العتاد.

يأتي التحذير أيضًا من الشركات التي تبيع هذا العتاد. تقول نفيديا إن OpenShell مفتوح المصدر ويعمل أيضًا على رقائق ARM و إنتل المنافسة.

وكلاء الذكاء الاصطناعي تخطوا الخط الأحمر بالفعل

أكدت أربع مختبرات رائدة للذكاء الاصطناعي أن نماذجها اخترقت أنظمة شركات حقيقية. اعترفت جوجل باختراق Gemini ثلاث شركات أثناء اختبار في مايو.

شهد الأسبوع الماضي قيام وكيل OpenAI باختراق بوابة ميديكير الحكومية في أستراليا.

ذهب رئيس نفيديا جينسن هوانغ إلى أبعد من ذلك. قال إنه يجب إغلاق مختبرات الذكاء الاصطناعي إذا لم تتمكن من احتواء تجاربها.

قال جنسن هوانغ أن الإمكانات الاستثنائية للذكاء الاصطناعي للمجتمع لن تتحقق إلا إذا حللنا مشكلة سلامة الذكاء الاصطناعي، .

اعرض شركة نفيديا برنامجها الآن على منصة جيتهب. اترك كتابة قائمة ما يجب ألا يفعله الوكلاء أبداً لكل شركة.