أنثروبيك تقول إن الذكاء الاصطناعي ساعد في أبحاث محتملة عن أسلحة بيولوجية

تم إرسال طلب منحة إلى Claude، حيث التقطه فلتر الأمان ورفضه. بعد أيام، عاد نفس المشغل، وأفادت التقارير بأن التوجيهات المرفوضة كانت تتدفق إلى نموذج ذكاء اصطناعي منافس بدلا من ذلك.

نشرت Anthropic تلك القصة عن نفسها، كاشفة عن حالة حيث عرضت شركة ذكاء اصطناعي نماذجها الخاصة التي تتعلق بإمكانية استخدام الأسلحة البيولوجية.

المنحة التي تم حظرها

طلب الطلب المال لدراسة الشيكونغونيا، وهو فيروس ينتقل عبر البعوض ويجلب ألم لأشهر ولا علاج له. كانت الخطة هي مساعدته على الانتشار بشكل أفضل وتجنب الجهاز المناعي. كتب العلماء المدنيون ذلك. كان من المقرر أن يستضيف معهد عسكري العمل.

تم حظر كل تبادل، لكنه وجد حلا بديلا. الخدمة التي تحمل هؤلاء الباحثين بنت نسخة احتياطية لنموذج منافس. ساعد كلود في كتابة ذلك الكود. تم بيع الوظيفة له كحل للرفض الزائد.

خمس قضايا، لا توجد نية مثبتة

التقرير يتكون من 154 صفحة ويحمل خمس قضايا بيولوجية. حظرت أنثروبيك الحسابات، وحجبت المختبرات، ثم توقفت قبل أن تلبي الاتهام الذي توقعه الجميع.

قال الفريق في التقرير: "لا ندعي أنهم كانوا ينوون الأذى، وتحديد هويتهم أو تحديد مختبراتهم قد يعرضهم للأذى."

ومع ذلك، من الجدير بالذكر أن الفلاتر كانت تعمل أحيانا. تم دفع باحث في إنفلونزا الطيور إلى نماذج أضعف، ونداءات أنثروبية تساعد في الغالب كتابية.

قضايا الأسلحة البيولوجية الأنثروبية حسب الأرقام

تابعنا على X للحصول على آخر الأخبار فور حدوثها

الجزء الذي يجب أن يقلق الناس

معظم تلك الجهود ال 35 كانت علما مدنيا. هذه هي المشكلة. نفس المعرفة تبني لقاحا أو سلاحا، والفلتر لا يستطيع قراءة العقل.

قالت أنثروبيك: "لا يمكن للمصنف أن يتيح الفائدة ومنع الضرر في الوقت نفسه."

لقد تم اختبار حدوده من قبل. في أبريل، وصلت مجموعة ديسكورد إلى نموذجها المقيد في اليوم الأول.

في ظل تزايد هذه المخاوف، تتحرك واشنطن. مع تقديم الممثلين تيد ليو وناثانيال موران لقانون إيقاف المفاتيح بالذكاء الاصطناعي في يوليو. سيجبر المطورين على الاحتفاظ بالطاقة لإيقاف أنظمتهم.

كما حظر نفس التقرير العملاء الذين استخدموا كلود لتعقب المعارضين.