أوبن إيه آي تبدأ بوضع علامات مائية على نصوص تشات جي بي تي في الاتحاد الأوروبي

أعلنت شركة أوبن إيه آي أنها ستشرع في إضافة علامات مائية غير مرئية إلى النصوص التي تولدها نماذج تشات جي بي تي وكودكس داخل الاتحاد الأوروبي، وذلك التزاماً بقواعد الشفافية الصارمة المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي. وقد دخلت هذه القواعد حيز التنفيذ في الثاني من أغسطس، وهي تفرض على شركات الذكاء الاصطناعي وضع علامات واضحة على المحتوى المُولَّد آلياً بطريقة تمكن الأنظمة الأخرى من التعرف عليه.

ومن المقرر أن يتم نشر هذه الميزة الجديدة تدريجياً خلال الأسابيع القادمة لتشمل المستخدمين المؤهلين لخدمتي تشات جي بي تي وكودكس ضمن خططهم كافة، ولكن حصرياً في دول الاتحاد الأوروبي. أما المطورون الذين يستخدمون واجهة برمجة التطبيقات الخاصة بالشركة في أي مكان حول العالم، فيمكنهم تفعيل الميزة يدوياً لنماذج مختارة بدءاً من اليوم، رغم أنها تظل معطلة افتراضياً. وقررت الشركة عدم جعل العلامة المائية خياراً افتراضياً عالمياً في مرحلة الإطلاق الأولى.

لا تظهر العلامة المائية كرمز مرئي على الشاشة، بل تعمل عبر تشكيل خيارات الكلمات الخاصة بالنموذج بطريقة دقيقة، مما يترك نمطاً لا يستطيع القراء البشريون ملاحظته، ولكن يمكن لأجهزة الكشف المتخصصة التقاطه. ونظراً لأن هذه العلامة مضمنة في صلب الكلمات ذاتها، فإنها تنتقل برفقة النص عندما يتم نسخه ولصقه في تطبيقات أو مستندات أخرى.

وأكدت أوبن إيه آي أن العلامة المائية لا تتعقب المستخدم أو تكشف هويته، مشيرة إلى أنها لم تلاحظ أي تغير ذي بال في أداء نماذجها عند تفعيل هذه الميزة. وإلى جانب هذا الإعلان، نشرت الشركة تقريراً تقنياً مفصلاً يشرح طريقتها التي تحمل اسم textGrain والمعتمدة على معايرة الإنتروبيا. وقد أُعد التقرير بالتعاون مع باحثين من جامعة بنسلفانيا وجامعة ييل، ويوضح كيف يتم استخدام مفتاح سري لترتيب توقعات الكلمة التالية، بحيث يمكن للجهاز اكتشاف المحتوى المُولَّد بالذكاء الاصطناعي عبر دمج مئات التعديلات الطفيفة.

ورغم هذا التعقيد التقني، إلا أن العلامة المائية تواجه بعض القيود الواضحة. تشير اختبارات أوبن إيه آي إلى أن تعديل النص يمكن أن يقلل بشكل ملحوظ من إمكانية اكتشافه. ففي أحد الاختبارات، أدى استبدال 10% من الكلمات بمرادفات لها إلى انخفاض معدل الاكتشاف من نحو 92% إلى 66%. كما أشارت الشركة إلى أن المقاطع القصيرة، والإجابات الرياضية، والنصوص المترجمة تعد أكثر صعوبة من حيث دقة الاكتشاف.

وبسبب هذه القيود، تقصر أوبن إيه آي في البداية إمكانية الوصول إلى أدوات الكشف على الباحثين المعتمدين والجهات الخبيرة، والذين سيساعدون في تقييم مدى موثوقية التكنولوجيا واستخدامها المسؤول. وحذرت الشركة أيضاً من أن غياب العلامة المائية لا يعد دليلاً قاطعاً على أن النص كتبه بشر، فقد يكون النص قصيراً للغاية، أو خضع لتعديل مكثف، أو ربما جرى توليده بواسطة نموذج تابع لشركات منافسة.

ويأتي هذا الإعلان بعد نحو شهرين من إعلان شركة أنثروبيك المنافسة عن نيتها وضع علامات مائية على النصوص التي تولدها نماذج كلاود على نطاق عالمي. وقد أثار ذلك القرار انتقادات من بعض المستخدمين الذين اعتبروا أنهم من قدم الإرشادات والسياق بينما كان الذكاء الاصطناعي مجرد أداة تنفيد. والجدير بالذكر أن شركات كبرى مثل أنثروبيك، وغوجل، وميتا، ومايكروسوفت، وأوبن إيه آي، قد التزمت جميعها باتباع مدونة ممارسات الاتحاد الأوروبي الخاصة بشفافية الذكاء الاصطناعي.