من المسؤول عندما يفقد وكيل الذكاء الاصطناعي أموالك؟

في 4 مايو، ساعدت رسالة مخفية في شفرة مورس في تفعيل تحويل عملة رقمية بقيمة ستة أرقام. مرت عبر نظامين ذكاء اصطناعي متصلين. أحدهما كان Grok الخاص بإيلون ماسك، روبوت الدردشة الذي بناه xAI الخاص بإيلون ماسك. والآخر كان Bankrbot، وكيل العملات الرقمية الذي يمكنه إجراء المدفوعات من محفظة مرتبطة.

أرسل المهاجم أولا رمز عضوية رقمي للمحفظة فتح أدوات الدفع الخاصة ببانكر. ثم فك جروك الشيفرات الرسالة، وتعامل بانكربوت مع الرد كأمر دفع. نقل ما يقدر بمبلغ 150,000 إلى 200,000 دولار.

تحول رسالة مورس إلى دفعة من ستة أرقام

لماذا هذا مقلق؟ لأن القضية تبرز استغلالا بقيمة ستة أرقام يشمل فقط عميلين ذكاء اصطناعي. أحدهما أنتج نصا. وآخر اعتبرها إذنا للإنفاق.

إذا نظرنا إلى حجم المدفوعات الوكائلية بالذكاء الاصطناعي اليوم، فقد تكون مثل هذه السيناريوهات كابوسا لمستقبل التمويل الوكئي.

كان طول كيروك 176 ميلاlمدفوعات وكيل الأسد على السلسلة بقيمة 73 مليون دولار حتى أبريل 2026. كان متوسط الدفع بين 0.01 و0.10 دولار، بينما انخفض 76٪ إلى أقل من 0.30 دولار. تصبح المدفوعات الصغيرة مشكلة تحكم كبيرة عندما يمكن للبرامج القيام بها باستمرار.

النمط ينتقل إلى بنية الدفع الرئيسية. أطلقت ماستركارد نظام دفع الوكلاء للآلات في يونيو للمدفوعات عالية التكرار ومنخفضة القيمة، بينما تعمل جوجل وفيزا على تطوير معايير للوكلاء لإثبات الهوية والسلطة.

سألت BeInCrypto رودريغو كويليو، الرئيس التنفيذي لشركة Edge & Node؛ نيتين غور، رئيس المؤسسات في Nethermind؛ وفرانشيسكو أندريولي، مدير علاقات المطورين في MetaMask، الذي يتحمل المخاطرة.

كان كويلو مباشرا.

"الشركة التي نشرته. لا توجد نسخة من هذا النموذج تقع المسؤولية على النموذج،" قال رودريغو كويلو، الرئيس التنفيذي لشركة Edge & Node، مطور البنية التحتية للذكاء الاصطناعي والويب 3.

لقد وضعت كاليفورنيا هذا المبدأ بالفعل في القانون. القانون AB 316، الساري المفعول منذ يناير، يمنع المدعى عليه الذي طور أو عدل أو استخدم الذكاء الاصطناعي من الجدال بأن النظام تسبب بشكل مستقل في الضرر المزعوم. السببية والتوقع لا يزالان مهمين.

الإيصال ليس الإذن

المعاملة على السلسلة تثبت أن المال تم تحريكه. لا يثبت أن الوكيل كان لديه تفويض صالح لتحريكها.

"معظم الشركات التي تنشر وكلاء اليوم لا يمكنها فعليا إثبات ما كان مخولا لوكيلها للقيام به. يمكنهم أن يعرضوا عليك المعاملة. لقد حدثت على سلسلة والسجل عام ودائم. ما لا يمكنهم إظهاره هو الإذن الذي كان خلفها،" قال كويلهو.

قد تشمل الفجوات من فوض السلطة، وأي سياسة تنطبق، وما هي المعلومات التي قرأها الوكيل، وما إذا كانت الدفعة بقيت ضمن حدودها. لا يجيب عنوان المحفظة على أي من هذه الأسئلة.

قال نيتين غور من نذرمايند إن النزاع يدور حول التفويض.

"ما يفصل النزاع هو دليل السلطة. أظهر أن الوكيل تصرف ضمن تفويض صحيح وموقع ومحدد زمنيا وهذا يحل مثل أي دفعة مصرح بها أخرى."

يستخدم AP2 من جوجل أوامر موقعة تشفيريا لتسجيل نوايا المستخدم. يتيح بروتوكول الوكيل الموثوق من فيزا للوكلاء المعتمدين تقديم توقيعات رقمية تثبت الهوية والتفويض المرتبط بها.

تضيف ماستركارد الاعتماد والقيود البرمجية المفروضة. تختلف القضبان، لكن هدف التصميم مشترك: يجب أن يكون الإذن بالسفر مع الدفع.

ضع الحدود حيث لا يستطيع الوكيل الوصول إليها

لا يزال التفويض يفشل إذا كان بإمكان الوكيل إعادة كتابته، أو الموافقة على طلبه أو امتلاك سلطة التوقيع غير المقيدة. يرسم كويلو الحد عند المفتاح الخاص.

"يجب ألا يمتلك الوكيل المفاتيح. يجب أن يكون قادرا على اقتراح دفعة، ويقرر نظام منفصل ما إذا كان هذا الدفع مسموحا به،" قال كويلو.

فرانشيسكو أندريولي من MetaMask يطرح نفس النقطة حول المحفزات:

"الضوابط التي تعمل هي التي لا يستطيع الوكيل الوصول إليها، إذا كانت وثيقتك موجودة في الطلب، فهي ليست سياسة، بل اقتراح لنظام شاهدناه مرارا يقنع بذلك."

في الواقع، يعني ذلك وجود أموال منفصلة، معاملات صارمة وحدود يومية، أطراف معتمدة، إلغاء سريع، ومفتاح إيقاف مختبر. النظام المستقل يتحقق من القواعد قبل التوقيع.

الأدوات التي تغذي الوكلاء تخلق خطرا آخر. قام سنيك بمسح 3,984 مهارة من الوكلاء العامين في فبراير ووجدت على الأقل مشكلة أمنية واحدة بنسبة 36.82٪. أكد التقرير وجود 76 حمولة خبيثة تتعلق بسرقة بيانات الاعتماد أو الأبواب الخلفية أو استخراج البيانات.

يرى غور أن حقن الفورات هو النمط السائد: "حقن التوجيه هو النمط السائد: يأخذ الوكيل التعليمات من محتوى غير موثوق طلب منه قراءته وينفذها كما لو أن المدير طلب منها."

لذا يحتاج مسار التدقيق القابل للدفاع إلى هوية الوكيل، والتفويض الموقع، وإصدار السياسة، والمعاملة، وبيانات المصدر، وأي استثناء معتمد، مكتوبة عند حدوث الدفع. توفر السلسلة جزءا واحدا.

معيار غور أقصر: "قابل للإثبات، قابل للإلغاء ومقيد بالعمل."

بدون تلك الخصائص، تبقى الشركات مع إيصال ثابت لقرار لا يمكنها الدفاع عنه.