بقلم جون ديزموند ، محرر اتجاهات الذكاء الاصطناعى
أصبح تعديل المحتوى عملاً تجاريًا أكبر ، ومن المتوقع أن يصل حجمه إلى 11.8 مليار دولار بحلول عام 2027 ، وفقًا لتقديرات من الشفافية أبحاث السوق.
يتم تغذية السوق من خلال الزيادات الهائلة في المحتوى الذي ينشئه المستخدم في شكل مقاطع فيديو قصيرة وميمات وصور GIF ومحتوى فيديو مباشر ومحتوى وأخبار. نظرًا لأن نسبة معينة من المحتوى الذي تم تحميله هي أخبار مزيفة ، أو محتوى ضار أو عنيف ، فإن مواقع التواصل الاجتماعي تستخدم جيوشًا من الوسطاء المجهزين بأدوات تستخدم الذكاء الاصطناعي والتعلم الآلي لمحاولة تصفية المحتوى غير المناسب.
استخدم Facebook Accenture للمساعدة في تنظيف محتواه ، في عقد قيمته 500 مليون دولار سنويًا ، وفقًا لحساب حديث في نيو يورك تايمز، استنادًا إلى بحث مكثف في تاريخ تعديل المحتوى في عملاق الوسائط الاجتماعية.
• مرات ذكرت أن الرئيس التنفيذي لشركة Accenture ، جولي سويت ، أمرت بمراجعة العقد بعد تعيينها في عام 2019 ، بدافع القلق مما كان يُنظر إليه آنذاك على أنه مخاطر أخلاقية وقانونية متزايدة ، مما قد يضر بسمعة شركة الخدمات المهنية متعددة الجنسيات.
أمرت سويت بالمراجعة بعد أن انضم عامل في شركة Accenture إلى دعوى قضائية جماعية للاحتجاج على ظروف عمل المشرفين على المحتوى ، الذين يراجعون مئات منشورات Facebook في نوبة عمل ويعانون من الاكتئاب والقلق والبارانويا نتيجة لذلك. لم ينتج عن المراجعة أي تغيير ؛ توظف أكسنتشر أكثر من ثلث 15,000 ألف شخص وظفهم فيسبوك لتفقد منشوراتها ، وفقًا لتقرير صحيفة تايمز.
كان لدى الرئيس التنفيذي لشركة Facebook Mark Zuckerberg استراتيجية لتوظيف الذكاء الاصطناعي للمساعدة في تصفية المنشورات السامة ؛ يتم تعيين الآلاف من المشرفين على المحتوى لإزالة الرسائل غير الملائمة التي لا يلتقطها الذكاء الاصطناعي.
أصبح عمل إدارة المحتوى والعلاقة بين Accenture و Facebook من حوله مثيرًا للجدل. "لا يمكنك الحصول عليها صرح Cori Crider ، أحد مؤسسي Foxglove ، وهي شركة محاماة تمثل مشرفين المحتوى ، بأن Facebook كما نعرفه اليوم بدون Accenture " مرات. "عوامل التمكين مثل Accenture ، بالنسبة للرسوم المرهقة ، سمحت لـ Facebook بحمل المشكلة الإنسانية الأساسية لأعمالها على مسافة ذراع."
استأجرت Facebook ما لا يقل عن 10 شركات استشارية وتوظيف ، وعدد من المقاولين من الباطن ، لتصفية منشوراتها منذ عام 2012 ، مرات وذكرت. تختلف معدلات الأجور ، حيث يولد الوسطاء الأمريكيون 50 دولارًا أو أكثر في الساعة لشركة Accenture ، بينما يحصل الوسطاء في بعض المدن الأمريكية على راتب يبدأ من 18 دولارًا في الساعة ، مرات وذكرت.
رؤى من وسيط محتوى متمرس
تلتقط منظمة العفو الدولية حوالي 90٪ من المحتوى غير المناسب. أحد موردي أنظمة تعديل المحتوى هو Appen، ومقرها أستراليا ، وتعمل مع عملائها على التعلم الآلي وأنظمة الذكاء الاصطناعي. في الآونة الأخيرة بلوق وظيفة على موقعه على الإنترنت ، قدم جاستن آدم ، مدير برنامج يشرف على العديد من مشاريع الإشراف على المحتوى ، بعض الأفكار.
الأول هو تحديث السياسات حسب ما تمليه تجربة العالم الحقيقي. "يجب أن يتبع كل قرار متعلق بإدارة المحتوى السياسة المحددة ؛ ومع ذلك ، فإن هذا يستلزم أيضًا أن السياسة يجب أن تتطور بسرعة لسد أي فجوات أو مناطق رمادية أو حالات حافة عند ظهورها ، وخاصة بالنسبة للمواضيع الحساسة ، صرح آدم. وأوصى برصد اتجاهات المحتوى الخاصة بالأسواق لتحديد فجوات السياسات.
ثانيًا ، كن على دراية بالتحيز الديموغرافي المحتمل للمشرفين. "يعتبر الإشراف على المحتوى أكثر فاعلية وموثوقية وجدير بالثقة عندما يكون مجموعة الوسطاء ممثلة لعامة السكان في السوق التي يتم الإشراف عليها" ، قال. وأوصى بتعيين مجموعة متنوعة من الوسطاء حسب الاقتضاء.
ثالثًا ، قم بتطوير استراتيجية إدارة المحتوى والحصول على موارد الخبراء لدعمها. قال آدم: "قرارات تعديل المحتوى عرضة للتدقيق في المناخ السياسي الحالي". تقدم شركته خدمات لمساعدة العملاء على توظيف فريق من الخبرة في موضوع السياسة المدربة ، وإنشاء مراجعة لمراقبة الجودة ، وتصميم تحليل الجودة وإعداد التقارير.
تقنيات الإشراف الآلي للمحتوى باستخدام الذكاء الاصطناعي
أكثر أنواع تعديل المحتوى شيوعًا هو النهج الآلي الذي يستخدم الذكاء الاصطناعي ومعالجة اللغة الطبيعية ورؤية الكمبيوتر ، وفقًا لـ بلوق وظيفة من Clarifai ، وهي شركة AI ومقرها مدينة نيويورك متخصصة في رؤية الكمبيوتر والتعلم الآلي وتحليل الصور ومقاطع الفيديو.
تم تصميم نماذج الذكاء الاصطناعي لمراجعة المحتوى وتصفيته. اقترحت الشركة "يمكن وضع علامة على المحتوى غير الملائم ومنع نشره على الفور تقريبًا" لدعم عمل المشرف البشري.
تشمل تقنيات تعديل المحتوى اعتدال الصورة يستخدم تصنيف النص وتقنيات البحث المرئي القائمة على رؤية الكمبيوتر. يمكن أن يتعرف التعرف على أحرف الكائن على النص داخل صورة ويعدل ذلك أيضًا. تبحث المرشحات عن الكلمات والأشياء وأجزاء الجسم المسيئة أو المسيئة في جميع أنواع البيانات غير المنظمة. يمكن إرسال المحتوى الذي تم الإبلاغ عنه على أنه غير ملائم للإشراف اليدوي.
تقنية أخرى لـ تعديل الفيديو، يتطلب مشاهدة الفيديو إطارًا تلو الآخر ، كما يتطلب عرض الصوت أيضًا. ل اعتدال النص، يتم استخدام خوارزميات معالجة اللغة الطبيعية لتلخيص معنى النص أو اكتساب فهم للعواطف في النص. باستخدام تصنيف النص ، يمكن تعيين الفئات للمساعدة في تحليل النص أو المشاعر.
يحدد تحليل المشاعر نغمة النص ويمكن أن يصنفها على أنها غضب أو تنمر أو سخرية ، على سبيل المثال ، ثم تسميتها بالإيجابية أو السلبية أو الحيادية. يقوم أسلوب التعرف على الكيان المحدد بالبحث عن الأسماء والمواقع والشركات واستخراجها. تستخدمه الشركات لتتبع عدد المرات التي يتم فيها ذكر علامتها التجارية أو العلامة التجارية لأحد المنافسين ، أو عدد الأشخاص من المدينة أو الولاية الذين ينشرون المراجعات. يمكن أن تعتمد التقنيات الأكثر تقدمًا على قواعد البيانات المضمنة لإجراء تنبؤات حول ما إذا كان النص مناسبًا أم أنه أخبار مزيفة أو عملية احتيال.
مع قليل من الشك ، هناك حاجة إلى الذكاء الاصطناعي في الإشراف على المحتوى عبر الإنترنت حتى يكون لديه فرصة للنجاح. "الحقيقة هي ، ببساطة ، أن هناك الكثير من المحتوى الذي ينشئه المنسقون بحيث يتعذر على المشرفين البشريين مواكبة ذلك ، وتواجه الشركات تحديًا يتمثل في دعمها بشكل فعال" ، كما يقول موقع Clarifai.
حدود أدوات إدارة المحتوى الآلي
تشمل قيود أدوات الإشراف الآلي على المحتوى الدقة والموثوقية عندما يكون المحتوى متطرفًا أو كلامًا يحض على الكراهية ، نظرًا للاختلافات الدقيقة في الكلام المرتبط بمجموعات ومناطق مختلفة ، وفقًا لحساب حديث من أمريكا الجديدة، وهو معهد للبحوث والسياسات مقره واشنطن العاصمة. كان تطوير مجموعات بيانات شاملة لهذه الفئات من المحتوى يسمى "تحديًا" وتم وصف تطوير أداة يمكن تطبيقها بشكل موثوق عبر مجموعات ومناطق مختلفة بأنه "صعب للغاية".
بالإضافة إلى ذلك ، فإن تعريفات أنواع الكلام التي تندرج في فئات غير مناسبة ليست واضحة.
علاوة على ذلك ، "نظرًا لأن الكلام البشري ليس موضوعيًا وعملية الإشراف على المحتوى ذاتية بطبيعتها ، فإن هذه الأدوات محدودة من حيث أنها غير قادرة على فهم الفروق الدقيقة والاختلافات السياقية الموجودة في الكلام البشري" ، وفقًا للمقالة.
في مثال آخر ، يمكن لأداة التعرف على الصور تحديد حالة العُري ، مثل الثدي ، في جزء من المحتوى. ومع ذلك ، فمن غير المحتمل أن تحدد الأداة ما إذا كان المنشور يصور مواد إباحية أو ربما الرضاعة الطبيعية ، وهو أمر مسموح به في العديد من المنصات.
اقرأ مقالات المصدر والمعلومات من الشفافية أبحاث السوق, in نيو يورك تايمز، في a بلوق وظيفة على موقع Appen الإلكتروني ، أ بلوق وظيفة على موقع Clarifai وحساب من أمريكا الجديدة.
أفلاطون. Web3 مُعاد تصوره. تضخيم ذكاء البيانات.
انقر هنا للوصول.
