ゼファーネットのロゴ

支援に参加したAIで大企業になるコンテンツモデレーション 

日付:

ソーシャルメディアとウェブサイトのコンテンツのコンテンツモデレーションは、困難な自動化タスクの中心にあるAIで大きなビジネスになりつつあります。  

ジョンP.デズモンド、AIトレンドエディター  

からの見積もりによると、コンテンツのモデレーションはより大きなビジネスになりつつあり、11.8年までに2027億ドルに達すると予想されています。 透明性市場調査. 

市場は、短いビデオ、ミーム、GIF、ライブオーディオおよびビデオコンテンツとニュースの形でユーザー生成コンテンツの指数関数的な増加によって活気づけられています。 アップロードされたコンテンツの一部はフェイクニュース、悪意のあるコンテンツ、暴力的なコンテンツであるため、ソーシャルメディアサイトでは、AIと機械学習を使用して不適切なコンテンツを除外するツールを備えたモデレーターの軍隊を採用しています。 

Facebookは、アクセンチュアを採用してコンテンツのクリーンアップを支援しており、最近のアカウントによると、年間500億ドル相当の契約を結んでいます。 ニューヨークタイムズ、ソーシャルメディアの巨人でのコンテンツモデレーションの歴史に関する広範な調査に基づいています。  

アクセンチュア、CEO、ジュリー・スウィート

  タイムズ アクセンチュアのCEO、ジュリー・スウィートは、多国籍専門サービス会社の評判を損なう可能性のある倫理的および法的リスクの増大を懸念して、2019年の任命後に契約の見直しを命じたと報告しました。  

アクセンチュアの労働者が集団訴訟に参加してコンテンツモデレーターの労働条件に抗議した後、スウィートはレビューを命じました。コンテンツモデレーターはシフトで何百ものFacebook投稿をレビューし、その結果、うつ病、不安、妄想を経験しました。 レビューによる変更はありませんでした。 タイムズのレポートによると、アクセンチュアはFacebookが投稿を検査するために雇った15,000人のXNUMX分のXNUMX以上を雇用している。  

FacebookのCEOであるMarkZuckerbergは、有毒な投稿を除外するためにAIを採用する戦略を立てています。 AIがキャッチしない不適切なメッセージを削除するために、何千ものコンテンツモデレーターが雇われています。   

コリ・クライダー、共同創設者、フォックスグローブ

コンテンツのモデレーション作業と、それを取り巻くアクセンチュアとフェイスブックの関係については、物議を醸しています。 「あなたは持つことができませんでした アクセンチュアなしで今日私たちが知っているFacebook」と、コンテンツモデレーターを代表する法律事務所であるFoxgloveの共同創設者であるCoriCriderは次のように述べています。 タイムズ。 「アクセンチュアのようなイネーブラーは、目を見張るような料金で、Facebookにそのビジネスの核となる人間の問題を独立企業間で保持させてきました。」 

Facebookは、10年以来、投稿をフィルタリングするために、少なくとも2012のコンサルティングおよび人材派遣会社と多数の下請け業者を雇用しています。 タイムズ 報告。 賃金率はさまざまで、米国のモデレーターはアクセンチュアに対して50時間あたり18ドル以上を生み出していますが、一部の米国の都市のモデレーターはXNUMX時間あたりXNUMXドルの賃金を開始しています。 タイムズ 報告した。 

経験豊富なコンテンツモデレーターからの洞察  

AIは不適切なコンテンツの約90%をキャッチします。 コンテンツモデレーションシステムのXNUMXつのサプライヤーは アペン、オーストラリアに拠点を置き、機械学習とAIシステムでクライアントと協力しています。 最近では ブログ投稿 そのウェブサイトで、いくつかのコンテンツモデレーションプロジェクトを監督するプログラムマネージャーであるジャスティンアダムは、いくつかの洞察を提供しました。   

XNUMXつ目は、実際の経験に応じてポリシーを更新することです。 「すべてのコンテンツモデレーションの決定は、定義されたポリシーに従う必要があります。 ただし、これには、特にデリケートなトピックの場合、ギャップ、灰色の領域、またはエッジケースが発生したときにそれを埋めるために、ポリシーを迅速に進化させる必要もあります」とアダムは述べています。 彼は、政策のギャップを特定するために、市場に固有のコンテンツの傾向を監視することを推奨しました。  

次に、モデレーターの潜在的な人口統計学的バイアスに注意してください。 「モデレーターのプールがモデレーションされている市場の一般的な人口を代表している場合、コンテンツのモデレーションは最も効果的で、信頼性が高く、信頼できる」と彼は述べた。 彼は、必要に応じてモデレーターの多様なグループを調達することを推奨しました。    

第三に、コンテンツ管理戦略を開発し、それをサポートする専門家のリソースを持っています。 「コンテンツのモデレーションの決定は、今日の政治情勢の中で精査されやすい」とアダムは述べた。 彼の会社は、クライアントが訓練されたポリシー主題の経験のチームを採用し、品質管理レビューを確立し、品質分析とレポートを調整するのを支援するサービスを提供しています。   

AIによる自動コンテンツモデレーションの手法  

最も一般的なタイプのコンテンツモデレーションは、AI、自然言語処理、コンピュータービジョンを採用した自動化されたアプローチです。 ブログ投稿 コンピュータービジョン、機械学習、画像とビデオの分析を専門とするニューヨーク市を拠点とするAI企業であるClarifaiから。   

AIモデルは、コンテンツを確認およびフィルタリングするために構築されています。 人間のモデレーターの仕事をサポートするために、「不適切なコンテンツにフラグを付けて、ほぼ瞬時に投稿されないようにすることができます」と同社は提案しました。  

コンテンツモデレーションの手法には、次のものがあります。 画像のモデレート これは、テキスト分類とコンピュータービジョンベースの視覚的検索技術を使用しています。 オブジェクト文字認識は、画像内のテキストを識別し、それをモデレートすることもできます。 フィルタは、すべてのタイプの非構造化データ内で、虐待的または不快な単語、オブジェクト、および身体部分を探します。 不適切としてフラグが立てられたコンテンツは、手動でモデレートするために送信できます。  

別のテクニック、 ビデオモデレーション、ビデオをフレームごとに視聴し、オーディオもスクリーニングする必要があります。 にとって テキストのモデレート、自然言語処理アルゴリズムは、テキストの意味を要約したり、テキスト内の感情を理解したりするために使用されます。 テキスト分類を使用して、テキストまたは感情の分析に役立つカテゴリを割り当てることができます。    

感情分析は、テキストのトーンを識別し、たとえば、怒り、いじめ、皮肉として分類し、ポジティブ、ネガティブ、またはニュートラルとしてラベルを付けることができます。 固有表現抽出技術は、名前、場所、および会社を検索して抽出します。 企業はこれを使用して、そのブランドが言及された回数や競合他社のブランド、またはレビューを投稿している都市や州の人々の数を追跡します。 より高度な手法では、組み込みのデータベースを使用して、テキストが適切かどうか、または偽のニュースや詐欺であるかどうかを予測できます。  

間違いなく、AIが成功するチャンスを得るには、オンラインコンテンツのモデレーションにAIが必要です。 「現実には、人間のモデレーターが追いつくにはUGCが多すぎるため、企業はそれらを効果的にサポートするという課題に直面しています」とクラリファイの投稿は述べています。 

自動コンテンツ管理ツールの制限  

自動コンテンツモデレーションツールの制限には、コンテンツが過激派またはヘイトスピーチである場合の正確性と信頼性が含まれます。これは、さまざまなグループや地域に関連するスピーチの微妙な違いによるものです。 新しいアメリカ、ワシントンDCに本拠を置く研究および政策研究所。 これらのカテゴリのコンテンツの包括的なデータセットの開発は「チャレンジング」と呼ばれ、さまざまなグループや地域に確実に適用できるツールの開発は「非常に難しい」と表現されました。  

さらに、どのタイプのスピーチが不適切なカテゴリに分類されるかの定義は明確ではありません。   

さらに、「人間の発話は客観的ではなく、コンテンツのモデレーションのプロセスは本質的に主観的であるため、これらのツールは、人間の発話に存在するニュアンスやコンテキストの変化を理解できないという点で制限されています」と投稿によると。 

別の例では、画像認識ツールは、コンテンツの一部における乳房などのヌードのインスタンスを識別することができる。 ただし、ツールが投稿にポルノが描かれているか、母乳育児が描かれているかを判断できる可能性は低く、これは多くのプラットフォームで許可されています。  

からのソース記事と情報を読む 透明性市場調査in ニューヨークタイムズで ブログ投稿 アッペンのウェブサイトで、 ブログ投稿 クラリファイのウェブサイトとからのアカウント 新しいアメリカ. 

PlatoAi。 Web3の再考。 増幅されたデータインテリジェンス。
アクセスするには、ここをクリックしてください。

出典:https://www.aitrends.com/ethics-and-social-issues/content-moderation-becoming-a-big-business-with-ai-enlisted-to-help/

スポット画像

最新のインテリジェンス

スポット画像