近日，Facebook的CEO马克.扎克伯格宣布公司将会新增3000名内容审核员，他们负责审核平滔喔赡内容，包含比来网上有出现的谋杀、自杀和强奸等视频。科技巨擘聘请大年夜量人力来做内容审核，已经不算什么稀奇事。Google、百度、腾讯、新浪、今日头条都设置了类似岗亭。对于做内容的平台，内容审核尤其重要，一旦没有处理好，很有可能影响到全部公司的前景。为什么在科技如斯蓬勃的今天，机械还没法完全替代传统的人工审核？各大年夜巨擘还须要人海战术来鉴黄呢？

内容平台的阿克琉斯之踵

本年4月，一位泰国须眉在Facebook上直播屠戮亲生女儿的画面，随后该须眉自杀。视频袈溱Facebook上挂了近24个小时，大年夜量用户看到婴儿被屠戮的过程。个一一段视频播放量跨越25万次，视频还被其他用户上传到其他视频网站。

事发后，Facebook团队意识到问题的严重性。Facebook的CEO扎克伯格公开表示，Facebook将尽一切尽力避免词攀类内容再出现，并且表示Facebook要变成一个健康而安然的收集社区，还有很多工作要做。

扩招内容审核员恰是Facebook为此做出的举措。此前，Facebook在全球已有4500名员工负责内容审核，此次扩招会让审核过程加倍及时和精确。这些员工重要负粜ウ理那些没有被审查到的、或者没有被急速删除的不良内容。

社交媒体时代，天天都有大年夜量的用户在赓续地临盆内容。对于平台而言，除了补贴内容临盆方外，还须要支撑更多的内容审核成本。但尽管如斯，平台照样不吝人力和财力，去做好内容审核的工作。一方面是大年夜量的不良内容，会使得用户产生反感，会降低应用产品的频率甚至远离产品。劣币驱赶良币，晦气于平台的经久成长。别的一方面，不良内容的宣布，很有可能导致触犯国度司法，引来婢歙的管束甚至封闭，本年事首?年代，有名的同性社区ZANK就因为直播涉黄被整体封闭。

让人掉望的内容审核工作

2013年，百度、腾讯、金山等10多个互联网公司构成“安然联盟”，用20万高薪雇用“首席淫秽色情剖断官”。上班能看片还拿着高薪，网友奚弄“的确没天理”。

审核员的工作，会对小我生活产生很大年夜的负面影响。经久审查儿童色情作品后,他们会对接触孩子的人捕风捉影。不雅看太多色情图片甚至会影响他们的性生活和婚姻关系，他们已经对色情影像感到到麻痹。

本年1月，微软在线安然团队的成员向微软提告状讼。因为他们天天被迫不雅看大年夜量恐怖、色情和凶杀图片及视频，是以患上了心理后遗症，“经常掉眠、做恶梦，脑筋里充斥图片和视频内容。”但微软官方表示，并不认同这两位前员工的不雅点， 公司每月都邑对这些员工供给必定的心理支撑。

其实，内容审核工作并没有想象中简单。以Facebook为例，Facebook已有的审核员天天要处理大年夜量的UGC内容，他们须要审核包含色情、暴力、犯法等多个方面的不良内容，在断定内容时会遭受很大年夜的压力。他们必须区分开通俗儿童写真和儿童色情照片，还要分清跋扈这是同伙间的打趣照样侵犯性内容。他们必须做到过细地归类，须要将内容放到具体语境下进行区分。如果没有审核到位，Facebook很有可能会被责备侵犯公平易近的谈吐自由。

（收集雇用“内容审核员”信息）

同样的情况，在中国也是广泛存在，尤其是在内容审核范畴。不少公司会将内容审核交由外头公司承担，这些公司雇佣大年夜量人力来做文字、图片、视频等内容的审核，审核员天天须要承担上百条甚至更多信息的审核工作。这些审核员领着3000到5000的月工资，大年夜多生活在国内二、三线城市。路透社此前的一篇报道曾经将新浪微博的┞封项工作称为“高压、无望的工作”——每人每小时至少要看3000条微博，不少人因为压力太大年夜且看不到上升空间而分开。

人工智能时代的审核难堪

跟着科技的成长，媒体和创颐魅者都赓续的勾画着，人工智能时代到来的冲动场景，但时至今日，固然经由过程机械进修，赓续在晋升体系对于内容类型的辨认和断定概率。但对于内容的审核，科技巨擘重要照样依附人工，这真是特其余难堪。

机械在很长时光内，根本不克不及完全代替身工审核。以Google为例，Google有跨越一万名员工充当着搜刮结不雅评估者的角色。这家业界领先的科技巨擘仍需雇佣大年夜量的劳动力来改良自身产品，这或许说清楚明了人工智能局限性——机械还很难模仿出通俗用户的应用体验，很难解得内容背后的深意，很难作出精确的“人的断定”。

色情、暴力、犯法，这些不良内容多次在Facebook上出现，这让Facebook陷入争议。本年3月，一名15岁美国少女被多名须眉性侵犯并被直播到Facebook上，视频吸引了至少40万人存眷。有人称，如许的画面让人认为害怕和不安，“看了之后晚上都睡不着觉”。

并且，今朝机械审核多用于文字内容。如机械检测到含有敏感词汇的内容，会将其删除或向用户发出警告。但对于图片、视频的审核，机械无法像对文字内容一样提取关键词，审核难度较大年夜。在上述的Facebook杀童直播案中，机械就无法根据视频画面去辨别内容性质。此时，人工审核将发挥其无可替代的感化。

对于Facebook如许拥有20亿用户的大年夜型社交网站，除了人工审核，还有其他两种帮助审核渠道。一方面，Facebook引导用户应用举报功能。用户若发明色情视频、图片等不良信息，可以向平台举报。网站治理员收到信息后，会完成删图或者封号等后续处理。另一方面，Facebook也正在测试人工智能，欲望进一步采取机械+人工的审查究法。比如，如不雅有一张赤身照片此前被删除，那么再次上传时就会被主动删除。

　　推荐阅读

　　传统城域网架构遇瓶颈 引入NFV成有效解法

跟着“互联网+”的飞速成长，互联网的举措措施及应用日益丰富，收集流量呈井喷式增长，统??来越复>>>详细阅读

本文标题：为何技术这么发达，鉴黄还要靠人海战术？

地址：http://www.17bianji.com/lsqh/35487.html

 1/2    1