أعلن أوبن إيه أي أنه يضيف علامة مائية غير مرئية لـ شات جي بي تي على نصوص الدردشة وإخراج الترميز الخاص بـ كودكس في جميع أنحاء الاتحاد الأوروبي. مع ذلك، تظهر اختبارات الشركة أنه عند استبدال ربع الكلمات بمرادفات، تنخفض نسبة الكشف إلى 17% فقط.
يأتي هذا الإجراء استجابةً لقانون الاتحاد الأوروبي للذكاء الاصطناعي، وهو دليل قواعد الذكاء الاصطناعي الخاص بالاتحاد، الذي يطلب وضع تسميات قابلة للقراءة آليًا على النصوص المُنشأة بواسطة الذكاء الاصطناعي. مع ذلك، تعترف أوبن إيه أي بأن التقنية لا تزال غير ناضجة، ولهذا يبقى الكاشف بعيدًا عن أيدي العامة في الوقت الحالي.
ما مدى قوة العلامة المائية لـ شات جي بي تي بعد تعديل النص؟
ذكر الإعلان في بيان أن النظام المسمى textGrain يقوم بتحفيز اختيارات الكلمات للنموذج ليترك نمطًا إحصائيًا مخفيًا، حيث يقوم كاشف منفصل بفحص المقاطع بحثًا عن ذلك النمط.
أوضحت أوبن إيه أي في الأسئلة الشائعة أن العلامة المائية تعيش في نفس الصياغة، ولا تضيف أي رموز مخفية أو مسافات غير مرئية أو ترقيم غريب. يعني ذلك أن خدعة إزالة الرموز المخفية لا يوجد ما تزيله أساسًا.
أكدت الشركة أن طول النص يُحدث فرقًا كبيرًا. تقيس أوبن إيه أي النص بالرموز، وهي مقاطع الكلمات التي تعالجها نماذج الذكاء الاصطناعي. كل رمز يساوي تقريبًا ثلاثة أرباع كلمة إنجليزية.
أظهرت اختبارات أوبن إيه أي أن الكاشف التقط حوالي 66% من الإجابات غير المعدلة التي يبلغ عدد كلماتها تقريبًا 150 كلمة. عند حوالي 300 كلمة، ارتفعت النسبة إلى حوالي 92%.
أضعف التحرير الطفيف العلامة المائية لـ شات جي بي تي أيضًا. في النصوص التي تحتوي على 300 كلمة، استبدال كلمة من أصل عشرة بكلمة مرادفة خفض نسبة الكشف من 92% إلى 66%، بينما أدى استبدال كلمة من كل أربع كلمات إلى انخفاض النسبة إلى 17% فقط.
أشارت النتائج إلى أن العلامة المائية لم تؤثر تقريبًا على درجات الاختبار المرجعي لنموذج أوبن إيه أي GPT-6 Astra، وهو أحدث نموذج متقدم للشركة.
لماذا لا تسمح أوبن إيه أي للعامة باستخدام الكاشف؟
بدلًا من توفير أداة عامة، تستقبل أوبن إيه أي طلبات من الباحثين المعتمدين والمنظمات المتخصصة، وذكرت الشركة أن النتيجة الإيجابية لا تكشف عن المستخدم أو الطلب أو المحادثة.
أكدت الشركة أيضًا أن النتيجة السلبية لا تعني الكثير، فالقطع القصيرة أو المعدلة أو المترجمة قد تفلت من الكاشف، وكذلك يمكن أن ينطبق الأمر على مخرجات أدوات الذكاء الاصطناعي المنافسة.
أكدت المصادر أن غياب اكتشاف العلامة المائية لا يثبت أن المؤلف بشري.
المصدر: أوبن إيه آي
تتعامل الصور والصوت بشكل مختلف. يستطيع أي شخص رفع تلك الملفات إلى أداة التحقق العامة من synthid لدى أوبن إيه آي وفحص العلامة المائية.
تُبقي أداة وسم ChatGPT مغلقة افتراضيًا خارج أوروبا. مع ذلك، يمكن لعملاء الواجهة البرمجية حول العالم الآن تفعيل الخاصية لبعض النماذج من إعدادات المشروع أو المؤسسة.
أشارت الشركة إلى أن عملية الطرح جاءت بعد بدء تطبيق الشفافية بموجب قانون الذكاء الاصطناعي الأوروبي في أغسطس. بالنسبة للعملات الرقمية، تبدو الرهانات واقعية حيث صرحت TRM Labs أن اعتماد الذكاء الاصطناعي في الجرائم الرقمية ارتفع بنسبة 40% عام بعد عام.
من المرجح أن تحدد الفجوة بين مطالب الجهات التنظيمية وقدرة أنظمة الكشف على الإثبات كيفية تعامل كل مختبر رئيسي للذكاء الاصطناعي مع الامتثال.
