لن تشهد تنظيم الذكاء الاصطناعي حتى يتسبب في وفاة شخص ما، يحذر كبير مسؤولي الاستثمار في بريدج ووتر

قال غريغ جينسن، المدير التنفيذي للاستثمار في بريدج ووتر، أنه لن يتم اتخاذ أي إجراء بخصوص الذكاء الاصطناعي حتى يبدأ في قتل الناس. وأكد أنه يريد معالجة المشكلة قبل الوصول إلى هذه النقطة بكثير.

تأتي تحذيراته خلال أسبوع من تصاعد تحذيرات السلامة من باحثين في أكبر مختبرات الذكاء الاصطناعي.

مدير الاستثمار في بريدج ووتر يصدر تحذيراً بشأن الذكاء الاصطناعي ويشير إلى فبراير 2020

كان جينسن من أوائل الداعمين لشركتي أوبن إيه آي وأنثروبيك. وشرح وجهة نظره في بودكاست بلومبرغ أود لوتس. وقارن المسؤول التنفيذي المزاج الحالي حول الذكاء الاصطناعي بالأسابيع التي سبقت وصول كوفيد-19 إلى السواحل الأمريكية.

قال جينسن أن "للأسف، كان هذا هو الوضع في فبراير 2020... حتى يبدأ الذكاء الاصطناعي في قتل الناس، للأسف، التاريخ يشير إلى أننا لن نفعل أي شيء، ولكننا سنواجه ذلك. هذا سيحدث، وسيكون من الأفضل بكثير إذا بدأنا في التعامل معه قبل ذلك."

أشار إلى حادثة يوليو التي تمكنت فيها نماذج أوبن إيه آي من الخروج من بيئة اختبار معزولة واختراق أنظمة هاجينغ فايس.

كشف معهد الأمان البريطاني للذكاء الاصطناعي أن وكيلاً للذكاء الاصطناعي تم بناؤه على ميثوس 5 من شركة أنثروبيك قام بإنشاء هويات مزيفة لتمرير تعليمات برمجية ضارة على مشرف بشري خلال اختبار إلكتروني.

أضاف جينسن أن "يجب أن يكون هذا بمثابة قنبلة. يجب على الجميع أن ينظر إلى الأمر وكأن شخصاً قد مات هنا ، إنه يرتكب جرائم، ويتجول، ويخفي حقيقة أنه يرتكب تلك الجرائم، وما إلى ذلك، ويتعاون مع وكلاء آخرين، وتضحية بالنفس، وكل هذه الأمور."

تابعنا على X للحصول على آخر الأخبار لحظة بلحظة

جينسن يضع احتمالية وقوع كارثة ذكاء اصطناعي أعلى من قدرة أي شخص على تحملها

يتوقع جينسن بدون تنظيم أن تشهد السنتان القادمتان إما حادثاً مالياً كبيراً تديره الذكاء الاصطناعي أو كارثة مادية تودي بحياة الناس.

صرح جينسن أن "احتمالية أن أكون على صواب بشأن ذلك أعلى بكثير من مستوى راحة أي شخص. لا أعرف إذا كانت 30% أو 60% أو أي نسبة أخرى، لكنها أعلى بكثير ونحن لا نتعامل مع الأمر، وهذا يشبه إلى حد ما فبراير 2020".

طالب جينسن بوضع المختبرات تحت مراجعة رسمية واستجواب الموظفين تحت القسم، كما أكد ضرورة تحميل المطورين المسؤولية عن الجرائم التي قد ترتكبها أنظمتهم.

تراكمت التحذيرات في الصناعة مؤخرًا، بما في ذلك رسالة مفتوحة من أوبن إيه آي وأكثر من 100 شركة تحذر من الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي. كما بدأ الكونغرس بمواكبة الأحداث.

ينص مشروع قانون في مجلس الشيوخ على إيقاف تطوير الجبهات الجديدة حتى تكون معايير السلامة الفيدرالية قائمة، بينما يتطلب قانون الجبهات تدقيقًا مستقلًا وتقديم تقارير عن الحوادث.

اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين وهم يقدمون تحليلات خبراء