上海2018年1月15日電 /美通社/ -- 近日，國(guó)家互聯(lián)網(wǎng)信息辦公室指導(dǎo)北京市互聯(lián)網(wǎng)信息辦公室，針對(duì)部分知名手機(jī)客戶(hù)端持續(xù)傳播色情低俗信息、違規(guī)提供互聯(lián)網(wǎng)新聞信息服務(wù)等問(wèn)題，分別約談相關(guān)企業(yè)負(fù)責(zé)人，并責(zé)令企業(yè)立即停止違法違規(guī)行為，同時(shí)關(guān)停了部分 App 新聞版塊24小時(shí)。
此次事件將客戶(hù)端的內(nèi)容審查問(wèn)題再度曝光在整個(gè)社會(huì)。追求用戶(hù)留存、頁(yè)面停留時(shí)長(zhǎng)對(duì)于平臺(tái)來(lái)說(shuō)本無(wú)可厚非，然而中性的機(jī)器算法面對(duì)的卻是內(nèi)容偏好差別巨大的海量用戶(hù)群體。機(jī)器算法大幅提高了內(nèi)容生產(chǎn)、分發(fā)、消費(fèi)的效率，而“唯數(shù)據(jù)為準(zhǔn)”的算法在規(guī)則上忽視了這種用戶(hù)喜好的差別。此次重點(diǎn)曝光的低俗內(nèi)容就是由此產(chǎn)生的問(wèn)題之一。
凈化網(wǎng)絡(luò)環(huán)境，七牛應(yīng)有擔(dān)當(dāng)
針對(duì)此次突發(fā)事件，七牛云火線(xiàn)推出“內(nèi)容審核資源包”，集鑒黃、鑒暴恐、政治人物識(shí)別于一體的綜合內(nèi)容審核安全系列產(chǎn)品，嚴(yán)格按照網(wǎng)信、網(wǎng)安等監(jiān)管機(jī)構(gòu)要求，同時(shí)保障相關(guān)網(wǎng)站或內(nèi)容服務(wù)商的穩(wěn)定安全運(yùn)營(yíng)，致力為廣大網(wǎng)民創(chuàng)造一片清新寧?kù)o的環(huán)境。
低俗化尚有整改機(jī)會(huì)，涉黃涉暴后果難以挽回
內(nèi)容的低俗化還有整改空間，事件涉及的新聞?lì)?App 僅被處以停封1天、內(nèi)部整改的懲罰。可一旦內(nèi)容被鑒定為涉黃、涉暴恐以及涉政治敏感，那么公司就會(huì)直接被永久關(guān)停并追究刑事責(zé)任。這是任何一家企業(yè)無(wú)法承受的。因此，從事件嚴(yán)重性來(lái)說(shuō)，這三類(lèi)違規(guī)帶來(lái)造成的風(fēng)險(xiǎn)系數(shù)會(huì)指數(shù)級(jí)增大。
七牛內(nèi)容審核資源包，保障運(yùn)營(yíng)安全
七牛云人工智能實(shí)驗(yàn)室在人工智能領(lǐng)域深耕多年，在內(nèi)容審核領(lǐng)域深入研發(fā)，對(duì)政府類(lèi)的審核需求有高度的敏感和理解。早在2015年七牛就推出了圖片鑒黃服務(wù)，并且準(zhǔn)確度超過(guò)99.5%，可以替代90%以上的人工審核。七牛云人工智能實(shí)驗(yàn)室的鑒黃、鑒暴恐、政治人物識(shí)別是用心打造的高性能、高識(shí)別率，緊跟時(shí)政要求的安全檢測(cè)系列 API。詳情點(diǎn)擊鏈接：https://www.qiniu.com/resources/plup 即可1元體驗(yàn)“內(nèi)容審核資源包”，內(nèi)含15萬(wàn)次 API 調(diào)用。
從性能方面，七牛云人工智能實(shí)驗(yàn)室提供的內(nèi)容審核安全服務(wù)能夠?qū)崿F(xiàn)單張圖片響應(yīng)時(shí)間小于0.1 s、準(zhǔn)確率超過(guò)99.5%、7x24h 全天候?qū)徍恕，F(xiàn)累積識(shí)別圖片數(shù)量已超過(guò)4000億張、審核視頻數(shù)量超過(guò)80億個(gè)。合作客戶(hù)包括熊貓直播、faceU、淡藍(lán)、平安銀行、新華社、中央人民廣播電臺(tái)、北京網(wǎng)信辦等數(shù)千家互聯(lián)網(wǎng)企業(yè)和政企機(jī)構(gòu)。
人工審核難以達(dá)到的高效 ，機(jī)器識(shí)別輕松做到
當(dāng)內(nèi)容形式的創(chuàng)新乏力，體驗(yàn)差別不大已經(jīng)成為行業(yè)普遍狀態(tài)，不少平臺(tái)會(huì)時(shí)不時(shí)地通過(guò)打一些“擦邊球”來(lái)?yè)Q取脫穎而出的機(jī)會(huì)。這次事件無(wú)疑是對(duì)所有內(nèi)容平臺(tái)的一記警鐘。每一家具有社會(huì)責(zé)任感的企業(yè)都應(yīng)將內(nèi)容審核放在更高的位置。
依靠傳統(tǒng)的內(nèi)容審核方式存在著極大漏洞，人工審核不僅誤判率高且效率低下。相較之下，機(jī)器識(shí)別依賴(lài)于人工智能領(lǐng)域最新的深度學(xué)習(xí)算法，能夠?qū)Ω邚?fù)雜度數(shù)據(jù)形成良好的解讀，并通過(guò)持續(xù)地訓(xùn)練，不斷提高識(shí)別精度。所以，面對(duì)當(dāng)下的困境，借助機(jī)器識(shí)別無(wú)疑才是更好的選擇。
