工人日報:人機結合,織密反低俗的網

車輝

2019年08月02日08:11  來源:工人日報
 
原標題:人機結合,織密反低俗的網

  各內容平台正在掀起一場反低俗行動——7月30日,今日頭條升級了其推出的反低俗小程序,用戶隻需要在該小程序內輸入一段文字或文章鏈接,其就可以檢測出內容健康指數,得到一個鑒定結果,並增加圖片識別功能﹔起點中文網表示將加強反低俗審核系統和舉報機制,全面復查全站內容,獨立審核團隊人數將擴大20%以上……

  天下網友苦低俗內容污染久矣! 在內容平台上,色情、標題黨、虛假內容曾大行其道,沒掉過標題黨坑裡的讀者不足以談“網”事,一些利益相關者為吸引點擊量不惜造假忽悠,誤導用戶。

  這些低俗低質內容的介入,就像網絡毒藥一樣,讓用戶們動輒覺得被“欺騙感情”“毒害心智”。如果涉及色情或低級趣味,對青少年的危害更大。

  互聯網不是法外之地,網絡“空氣”應得到淨化,這是反低俗內容的根本動因。

  各大內容平台已意識到:那些劣質內容固然可以憑著嘩眾取寵獲得灰色流量,但它們不僅無法固定高質量的忠實受眾群,還會侵蝕平台價值,稀釋信息價值濃度。

  正因此,不少內容平台內部搭建了色情、低俗、標題黨、虛假信息、低質等技術模型﹔一些平台還投入了近萬人審核團隊,以保障內容審核的效率和准確度。

  但仍需清醒地意識到,在當前內容創作和消費海量增長的趨勢下,純靠人工攔截相關內容,效率較低,無法有效滿足用戶需求。所以反低俗需要技術加持。

  當然,技術也有局限性,對於低俗內容的界定,技術手段隻能量化不能主動判斷。比如有些世界名畫,機器審核就會根據裸露身體超標而將其判定為色情圖片,這顯然會鬧出笑話。

  可見,反低俗如果隻依靠人工或者隻依靠技術都無法實現,而須將人工與技術有效結合起來。“人機結合”方可織密“反低俗”的網絡,也方能提高內容質量治理效率,更好地淨化內容生態。

  說到底,社會需要有價值的信息供給,而非低俗低質內容的“濫竽充數”。反低俗,政府監管、平台以及用戶,沒有旁觀者。

(責編:董曉偉、仝宗莉)