人工智能趋势编辑John P.Desmond
据估计，内容审核正在成为一项更大的业务，预计到 11.8 年将达到 2027 亿美元。 透明度市场研究.
短视频、模因、GIF、实时音频和视频内容以及新闻等形式的用户生成内容呈指数级增长，推动了市场的发展。 由于上传的内容中有一定比例是假新闻、恶意或暴力内容，社交媒体网站正在聘请配备人工智能和机器学习工具的版主大军，试图过滤掉不适当的内容。
根据最近的一个账户，Facebook 已聘请埃森哲帮助清理其内容，合同价值每年 500 亿美元。 纽约时报，基于对社交媒体巨头内容审核历史的广泛研究。
时 报道称，埃森哲首席执行官朱莉·斯威特 (Julie Sweet) 在 2019 年上任后下令对合同进行审查，因为担心当时被视为日益增长的道德和法律风险，这可能会损害这家跨国专业服务公司的声誉。
在埃森哲一名员工参加集体诉讼以抗议内容版主的工作条件后，斯威特下令进行审查，内容版主轮班审查数百篇 Facebook 帖子，结果经历了抑郁、焦虑和偏执。 审查没有导致任何变化； 据《泰晤士报》报道，在 Facebook 雇佣的 15,000 名员工中，埃森哲雇佣了三分之一以上的人来检查其帖子。
Facebook 首席执行官马克·扎克伯格 (Mark Zuckerberg) 制定了一项策略，即采用人工智能来帮助过滤有毒帖子； 雇佣了数以千计的内容版主来删除 AI 没有捕捉到的不当信息。
内容审核工作以及埃森哲和 Facebook 围绕它的关系已经引起争议。 “你不能有 我们今天所知道的 Facebook，没有埃森哲，”代表内容版主的律师事务所 Foxglove 的联合创始人科里·克里德 (Cori Crider) 对 时. “像埃森哲这样的推动者，以令人眼花缭乱的费用，让 Facebook 对其业务的核心人为问题置若罔闻。”
自 10 年以来，Facebook 已经聘请了至少 2012 家咨询和人力资源公司以及一些分包商来过滤其帖子。 时 报道. 薪酬标准各不相同，美国版主每小时为埃森哲赚取 50 美元或更多，而美国一些城市的版主每小时的起薪为 18 美元， 时 报告。
经验丰富的内容主持人的见解
AI 捕获了大约 90% 的不当内容。 内容审核系统的供应商之一是 澳鹏，总部位于澳大利亚，与客户合作开发机器学习和人工智能系统。 在最近 博客文章 在其网站上，负责多个内容审核项目的项目经理贾斯汀·亚当 (Justin Adam) 提供了一些见解。
第一个是根据现实世界的经验更新政策。 “每个内容审核决定都应遵循既定的政策； 然而，这也要求政策必须迅速发展，以在出现任何差距、灰色地带或边缘情况时予以弥补，特别是对于敏感话题，”亚当说。 他建议监测特定于市场的内容趋势，以确定政策差距。
其次，要注意版主的潜在人口偏见。 “当审核人池代表被审核市场的一般人群时，内容审核是最有效、最可靠和最值得信赖的，”他说。 他建议酌情采购多元化的主持人。
第三，制定内容管理策略并拥有专家资源来支持它。 “在当今的政治气候中，内容审核决定很容易受到审查，”亚当说。 他的公司提供服务，帮助客户雇佣一支训练有素的政策主题团队，建立质量控制审查，并定制质量分析和报告。
使用 AI 进行自动内容审核的技术
最常见的内容审核类型是采用人工智能、自然语言处理和计算机视觉的自动化方法。 博客文章 Clarifai 是一家总部位于纽约市的人工智能公司，专门从事计算机视觉、机器学习以及图像和视频分析。
AI 模型旨在审查和过滤内容。 该公司建议，“几乎可以立即标记并防止发布不当内容，”以支持人类主持人的工作。
内容审核技术包括 图片审核 它使用文本分类和基于计算机视觉的视觉搜索技术。 对象字符识别可以识别图像中的文本并对其进行调节。 过滤器在所有类型的非结构化数据中寻找辱骂性或攻击性的词、对象和身体部位。 可以发送标记为不当的内容进行手动审核。
另一种技术，对于 视频审核, 要求逐帧观看视频并屏蔽音频。 为了 文字审核，自然语言处理算法用于概括文本的含义或获得对文本中情感的理解。 使用文本分类，可以分配类别以帮助分析文本或情绪。
情绪分析识别文本的语气，并可以将其归类为愤怒、欺凌或讽刺，例如，然后将其标记为积极、消极或中立。 命名实体识别技术查找并提取名称、位置和公司。 公司使用它来跟踪其品牌被提及的次数或竞争对手的品牌，或者来自某个城市或州的发布评论的人数。 更先进的技术可以依靠内置数据库来预测文本是否合适，是假新闻还是骗局。
毫无疑问，在线内容审核需要人工智能才能获得成功。 “现实情况是，人类版主需要跟上的 UGC 实在是太多了，公司面临着有效支持他们的挑战，”Clarifai 的帖子说。
自动化内容管理工具的局限性
自动内容审核工具的局限性包括在内容是极端主义或仇恨言论时的准确性和可靠性，这是由于与不同群体和地区相关的言论存在细微差别，根据最近的报道 新美国，位于华盛顿特区的研究和政策研究所。 为这些类别的内容开发综合数据集被称为“具有挑战性”，而开发一种可以可靠地应用于不同群体和地区的工具被描述为“极其困难”。
此外，哪些类型的言论属于不适当的类别的定义尚不清楚。
此外，“由于人类语音不是客观的，内容审核过程本质上是主观的，这些工具的局限性在于它们无法理解人类语音中存在的细微差别和上下文变化，”该帖子称。
在另一个示例中，图像识别工具可以识别一段内容中的裸露实例，例如乳房。 但是，该工具不太可能确定帖子是否描述了色情内容或母乳喂养，这在许多平台上都是允许的。
阅读源文章和信息 透明度市场研究, in 纽约时报在 a 博客文章 在 Appen 的网站上， 博客文章 在 Clarifai 的网站和来自 新美国.
柏拉图重新构想的 Web3。 数据智能放大。
单击此处访问。
