工人日报:人机结合,织密反低俗的网

车辉

2019年08月02日08:11  来源:工人日报
 
原标题:人机结合,织密反低俗的网

  各内容平台正在掀起一场反低俗行动——7月30日,今日头条升级了其推出的反低俗小程序,用户只需要在该小程序内输入一段文字或文章链接,其就可以检测出内容健康指数,得到一个鉴定结果,并增加图片识别功能;起点中文网表示将加强反低俗审核系统和举报机制,全面复查全站内容,独立审核团队人数将扩大20%以上……

  天下网友苦低俗内容污染久矣! 在内容平台上,色情、标题党、虚假内容曾大行其道,没掉过标题党坑里的读者不足以谈“网”事,一些利益相关者为吸引点击量不惜造假忽悠,误导用户。

  这些低俗低质内容的介入,就像网络毒药一样,让用户们动辄觉得被“欺骗感情”“毒害心智”。如果涉及色情或低级趣味,对青少年的危害更大。

  互联网不是法外之地,网络“空气”应得到净化,这是反低俗内容的根本动因。

  各大内容平台已意识到:那些劣质内容固然可以凭着哗众取宠获得灰色流量,但它们不仅无法固定高质量的忠实受众群,还会侵蚀平台价值,稀释信息价值浓度。

  正因此,不少内容平台内部搭建了色情、低俗、标题党、虚假信息、低质等技术模型;一些平台还投入了近万人审核团队,以保障内容审核的效率和准确度。

  但仍需清醒地意识到,在当前内容创作和消费海量增长的趋势下,纯靠人工拦截相关内容,效率较低,无法有效满足用户需求。所以反低俗需要技术加持。

  当然,技术也有局限性,对于低俗内容的界定,技术手段只能量化不能主动判断。比如有些世界名画,机器审核就会根据裸露身体超标而将其判定为色情图片,这显然会闹出笑话。

  可见,反低俗如果只依靠人工或者只依靠技术都无法实现,而须将人工与技术有效结合起来。“人机结合”方可织密“反低俗”的网络,也方能提高内容质量治理效率,更好地净化内容生态。

  说到底,社会需要有价值的信息供给,而非低俗低质内容的“滥竽充数”。反低俗,政府监管、平台以及用户,没有旁观者。

(责编:董晓伟、仝宗莉)