كشفت شركة Anthropic عن خططها لوضع علامات مائية قابلة للقراءة آليًا على المحتوى الذي تتم معالجته، وليس فقط توليده، بواسطة نماذجها. يأتي هذا التطور استجابةً لقانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي يلزم بوضع علامات على المخرجات الصوتية والمرئية والنصية والفيديوية المولدة أو المعدلة بواسطة الذكاء الاصطناعي.
تهدف هذه العلامات المائية، التي ستكون غير مرئية للمستخدمين، إلى تعزيز الشفافية والامتثال للقوانين الأوروبية. لكن النهج الذي تتبناه Anthropic، والذي يشمل وضع العلامات على جميع المحتويات المعالجة حيثما أمكن، حتى في الحالات التي لا يتطلبها القانون الأوروبي صراحةً، يثير تساؤلات حول مدى فعاليتها وسهولة تجاوزها. القانون يعفي من وضع العلامات في حالات الاستخدام المساعد البسيط، مثل تصحيح الأخطاء النحوية، أو عندما لا يؤثر الذكاء الاصطناعي "بشكل كبير" على نص المستخدم أو معناه. ومع ذلك، فإن العلامات الموضوعة على مستوى النموذج قد لا تتمكن من التفريق بين التعديلات الطفيفة والتوليد الكامل، مما قد يؤدي إلى وسم محتوى لا ينبغي وسمه.
تكمن إحدى المشكلات الرئيسية في أن هذه العلامات المائية، رغم كونها "غير مرئية"، قد تؤثر أحيانًا على اختيار الكلمات المثلى لتناسب نمط العلامة، مما قد ينتج عنه نص أقل طبيعية. كما أن سهولة تجاوز هذه العلامات تثير القلق؛ فمن السهل نسبيًا إزالتها عند نسخ النصوص ولصقها في أنظمة أخرى، أو عند التعامل مع المحتوى المرئي والصوتي عبر أدوات بسيطة. وبمجرد أن تكشف Anthropic عن كيفية اكتشاف هذه العلامات، سيصبح من السهل بناء أنظمة لإزالتها.
بالإضافة إلى ذلك، هناك احتمالية كبيرة لسوء التفسير. العلامة المائية لا تقدم سوى إشارة بأن المحتوى "تمت معالجته بواسطة Claude"، وهي ليست دليلاً قاطعًا، وقد تظهر حتى على محتوى لم يتم إنشاؤه بواسطة Claude. يزداد الأمر تعقيدًا عندما نفكر في الجمهور العام الذي قد لا يميز بين النص المعالج والنص المولّد بالكامل، مما قد يؤدي إلى اعتبار أي محتوى لمسته يد Claude بنفس درجة المحتوى المولّد آليًا.
تدرك Anthropic أنها قد تقوم بوسم محتوى لا يتطلب القانون الأوروبي وسمه، مثل النصوص المدققة لغويًا أو المترجمة. هذا النهج الشامل قد يسبب إحباطًا للمستخدمين، خاصةً للمعلمين والأساتذة الذين قد يفسرون هذه العلامة بشكل خاطئ. يطرح هذا تساؤلاً جوهريًا: ما فائدة العلامة المائية التي لا تستطيع التمييز بين التعديل البسيط والتوليد الكامل؟
في خضم هذه التحديات، يظل الهدف الأساسي من متطلبات الشفافية هو الحفاظ على سلامة النظام البيئي للمعلومات ومنع التلاعب ونشر المعلومات المضللة. وتضع المفوضية الأوروبية آمالها على شركات الذكاء الاصطناعي، مثل Anthropic، لتطوير حلول تتبع مصدر المعلومات. ومع ذلك، فإن فعالية هذه العلامات المائية ومدى موثوقيتها لا تزال قيد الاختبار، والعقوبات على عدم الامتثال في الاتحاد الأوروبي قد تكون وخيمة، تصل إلى غرامات كبيرة.
