Share to: 
تستعد شركة OpenAI لإضافة علامة مائية رقمية غير مرئية إلى النصوص والأكواد التي تُولّدها نماذج الذكاء الاصطناعي التي تعمل داخل روبوت ChatGPT في الاتحاد الأوروبي، وذلك في إطار الامتثال لقواعد الشفافية الجديدة التي يفرضها قانون الذكاء الاصطناعي الأوروبي.
وتعتمد OpenAI نظامًا خاصًا يحمل اسم “textGrain”، يضيف إشارة إحصائية غير مرئية إلى اختيارات الكلمات التي ينتجها النموذج. ويمكن لأداة مخصصة اكتشاف هذه الإشارة وتحديد إذا كان المحتوى يحمل العلامة المائية.
وقالت الشركة إن أداء نظامها “textGrain” يضاهي أو يتجاوز بعض الأساليب الأخرى المستخدمة في هذا المجال، مثل نظام “SynthID” المخصص لاكتشاف العلامات المائية في النصوص. لكنها حذرت في الوقت نفسه من أن الأداء القوي في الظروف المثالية لا يضمن اكتشاف العلامة المائية بصورة موثوقة في الاستخدامات اليومية.
وتواجه التقنية صعوبة أكبر في اكتشاف العلامات المائية داخل النصوص القصيرة، إذ تصل نسبة نجاحها إلى نحو 80% فقط في بعض الحالات. كما تنخفض قدرتها على الاكتشاف عند التعامل مع محتوى مثل المعادلات والرياضيات، أو بعد إجراء تعديلات على النص الأصلي.
وتعتزم OpenAI إتاحة تقنية العلامة المائية كمشروع مفتوح المصدر مستقبلًا، بما يسمح للباحثين والمطورين بتعديلها وتطوير آليات استخدامها.
ولن تُفعّل العلامة المائية افتراضيًا على نطاق واسع، باستثناء مخرجات النصوص المؤهلة التي ينتجها ChatGPT ومنصة البرمجة Codex داخل الاتحاد الأوروبي. كما ستتيح الشركة للمستخدمين الاشتراك في الميزة مع نماذج محددة، دون الكشف حتى الآن عن النماذج التي ستدعمها خارج المنطقة.
وتتخذ OpenAI موقفًا أكثر تحفظًا تجاه أداة الكشف نفسها، إذ ستقتصر إتاحتها في البداية على الباحثين المعتمدين والمؤسسات المتخصصة التي تحصل على موافقة الشركة.
وأكدت OpenAI أن أداة الكشف لا تستطيع تحديد هوية المستخدم، كما لا تكشف المطالبات التي أدخلها المستخدمون أو محتوى محادثاتهم.
وتأتي هذه الخطوة استجابة للمادة رقم 50 من قانون الذكاء الاصطناعي الأوروبي، التي تلزم مزودي أنظمة الذكاء الاصطناعي التوليدي بجعل مخرجات النصوص قابلة للكشف عنها آليًا.
وتسري القواعد الجديدة بالفعل على الشركات الجديدة التي تدخل السوق الأوروبية، في حين مُنحت الشركات القائمة مهلة حتى الثاني من ديسمبر للامتثال لها. وتشمل هذه المتطلبات OpenAI وأنثروبيك، بالإضافة إلى شركات تقنية كبرى مثل مايكروسوفت وجوجل وميتا.
