تكشف التحديات المتزايدة في إدارة المحتوى على منصات التواصل الاجتماعي أن الاعتماد الكامل على أنظمة الذكاء الاصطناعي في الإشراف على المجتمعات الرقمية قد يكون قاصرًا، خاصةً وأن هذه الأنظمة قد تعكس تحيزات دفينة وتفشل في فهم تعقيدات اللغة البشرية.
تعتمد أنظمة الإشراف الحالية المدعومة بالذكاء الاصطناعي على خوارزميات التعلم الآلي لتحليل المنشورات وتحديد المحتوى المخالف. ومع ذلك، تواجه الآلات صعوبة في استيعاب الفروقات الدقيقة للسخرية، والمحاكاة الساخرة، والعامية. وتشير الأبحاث إلى أن الفئات المهمشة قد تتأثر بشكل غير متناسب بهذه التقنيات، مما يؤدي إلى معاقبة المجتمعات الأكثر عرضة للخطر بدلًا من حمايتها.
تؤكد جيلبرت، مديرة الأبحاث في مختبر المواطنين والتكنولوجيا بجامعة كورنيل، أن "السكان المهمشون والضعفاء هم من يتعرضون لأعلى معدلات الإشراف، وغالبًا ما يكون ذلك نتيجة لـ 'إيجابيات كاذبة'،" ناتجة عن ردود فعل على المحتوى المسيء أو استعادة اللغة. وتضيف: "الإيجابيات الكاذبة هي قضية تتعلق بالعدالة، فهي تعني أن المجموعات المهمشة بالفعل تتعرض لمزيد من إسكات الرقابة."
علاوة على ذلك، يمكن للذكاء الاصطناعي أن يقلل من فعالية المجتمعات في تنظيم نفسها. ففي منصات مثل "ريديت"، قد يفضل المشرفون البشريون حظر المستخدمين الذين ينشرون خطابًا يحض على الكراهية أو العنف. ولكن إذا قام الذكاء الاصطناعي بإزالة هذا المحتوى قبل أن يراه المشرف البشري، فإنهم يفقدون القدرة على تقييم مدى استحقاق الحظر.
استجابة لهذه التحديات، أعلنت "ريديت" عن توسيع اختبار "Rules Hub"، وهي مجموعة أدوات تمنح المشرفين البشريين مزيدًا من التحكم في اختيار القواعد التي يتم فرضها تلقائيًا، وتحديد الإجراءات عند انتهاكها، ومعاينة النتائج قبل التفعيل. يتوقع أن يحل هذا النظام محل أداة "Automod" الحالية التي تعتمد بشكل أساسي على الكلمات المفتاحية.
يُعد الذكاء الاصطناعي أداة مساعدة، ولكنه ليس الحل الكامل. يرى العديد من المشرفين أن الطفرة في الذكاء الاصطناعي التوليدي قد زادت من المحتوى المخالف للقواعد. إن تقليل المدخلات البشرية في عملية الإشراف يمثل خطوة إلى الوراء. وبينما تتغير التحديات التي تواجه فرق الإشراف بسبب المحتوى منخفض الجهد الذي يولده الذكاء الاصطناعي، فإن الحاجة إلى أساليب أكثر قوة، تجمع بين الكشف الآلي والحكم البشري والخبرة، تصبح أكثر إلحاحًا. فكما أن وسائل التواصل الاجتماعي لا قيمة لها بدون الناس، فإن الإشراف على المحتوى لا يمكن أن ينجح بدون الحكم البشري في المقدمة.
