اكتشف فريق أنتروبيك شيئاً داخل نماذج كلود لم يقم أحد بتصميمه أو توقعه. بنية داخلية تُسمى "مساحة J" تبدو وكأنها تعمل كأساس إدراكي مشترك في جميع أنحاء النموذج.
يمثّل بحث 6 يوليو خطوة كبيرة لفهم ما يحدث فعلياً داخل نماذج اللغة الكبيرة.
ما هي مساحة J داخل كلود فعلياً
تمثل مساحة J منطقة داخلية يجمع فيها كلود المعلومات الهامة ويشاركها مع جميع أجزاء النموذج. يُمكن التفكير فيها ببساطة على أنها سبورة بيضاء داخل الذكاء الاصطناعي.
عندما يجيب كلود على سؤال، أو يحل لغزاً، أو يتبع تعليمات، تظهر التفاصيل الأساسية في هذه المساحة المشتركة بحيث يمكن للأجزاء المختلفة من النموذج الاستفادة منها.
اكتشف فريق أنتروبيك مساحة J باستخدام أداة بحثية تُدعى "عدسة J". تساعد هذه الأداة الباحثين على فحص كيفية انتقال المعلومات داخل كلود أثناء تنفيذ مهمة. أظهرت أنه خلال عملية التدريب ظهرت مساحة J من تلقاء نفسها. لم يصممها فريق أنتروبيك بطريقة مباشرة.
تابعنا على X للحصول على آخر الأخبار فور حدوثها.
تشبه الفكرة نظرية في علم الأعصاب تُسمى "المساحة العامة".
يصف ذلك في البشر كيفية جعل المخ المعلومات الهامة متاحة لعمليات ذهنية متعددة في الوقت نفسه. فعلى سبيل المثال، عندما يسمع شخص سؤالاً، ويتذكر حقيقة، ويقرر كيف يجيب، فإن تلك المعلومات تحتاج إلى الالتقاء معاً.
يبدو أن كلود يفعل شيئاً مشابهاً. اكتشف فريق أنتروبيك أن كلود يمكنه وصف ما بداخل مساحة J عند سؤاله، كما يستطيع تعديل تلك المحتويات إذا طُلب منه ذلك.
والأهم من ذلك، عند تغيير الباحثين مباشرةً في مساحة J، تغيرت إجابات كلود وأداءه في المهام أيضاً.
لماذا هذا الأمر مهم لأمان الذكاء الاصطناعي وقابليته للفهم
تحمل الاكتشافات أهمية حقيقية لأمان الذكاء الاصطناعي. إذا تمكن الباحثون من مراقبة نشاط مساحة J، فقد يتمكنون من كشف الدوافع الخفية وراء سلوك النماذج. ونتيجة لذلك، يحصلون على أداة أقوى للكشف عندما يطرأ خطأ ما.
يشمل ذلك اكتشاف الهجمات. راقب مساحة J قد يكشف متى يعالج النموذج محاولة حقن موجهة تهدف إلى السيطرة على مخرجاته. علاوة على ذلك، ذكر تقرير أن مجرد نافذة جزئية إلى طبقة المعالجة "الواعية" هذه يمثل تقدماً ملحوظاً لهذا المجال.
تظل النطاقات محدودة، مع ذلك. تحدث الغالبية العظمى من معالجة المعلومات لدى كلود بالكامل خارج مساحة J.
مع ذلك، أصدرت أنثروبيك تنفيذ عدسة J مفتوح المصدر وعرضاً توضيحياً لـ Neuronpedia، ودعت مجتمع البحث الأوسع لاختبار النتائج.
اشترك في قناتنا على يوتيوب لمشاهدة القادة والصحفيين يقدمون رؤى خبراء.
يعتمد هذا العمل على سلسلة أبحاث طويلة. نشرت أنثروبيك تقريراً عن الوعي الذاتي الناشئ في أكتوبر 2025، وأطلقت أيضاً مبادرات لرفاهية النماذج في أبريل 2025، لتستكشف باستمرار ما يحدث داخل أنظمتها.
تبرز ملاحظة تحذيرية بوضوح. تؤكد أنثروبيك أن البحث لا يزعم أن كلود واعٍ أو يمتلك تجربة ذاتية. يستخدم البحث عبارة "معلومات يمكن الوصول إليها بوعي"، مستعيراً المصطلحات دون تجاوزها نحو الوعي الفعلي.
