（原標(biāo)題：“艾莎門”調(diào)查：視頻審核主要靠人又是KPI惹禍？）
大量披著兒童喜愛的動(dòng)畫角色而制作的充斥著暴力、色情、低級(jí)笑料的視頻內(nèi)容去年出現(xiàn)在國(guó)外的視頻網(wǎng)站You Tube上。由于《冰雪奇緣》里的艾莎公主是這類視頻最常利用的角色，因此這個(gè)事件被稱為“愛莎門”。近日，有家長(zhǎng)在微博上反映，這些在被境外封殺的視頻悄悄流入國(guó)內(nèi)市場(chǎng)，優(yōu)酷、愛奇藝、騰訊、搜狐等視頻網(wǎng)站全部中招。南都記者調(diào)查獲悉，雖然目前國(guó)內(nèi)各大主流視頻網(wǎng)站均進(jìn)行了緊急處理。但這絕不是一次突擊清理這么簡(jiǎn)單。視頻網(wǎng)站對(duì)UGC(用戶原創(chuàng)內(nèi)容)是如何進(jìn)行審核和監(jiān)管的？這類視頻如何堂而皇之通過(guò)審核？艾媒咨詢集團(tuán)CEO張毅接受南都記者采訪時(shí)表示，UGC內(nèi)容是目前的大趨勢(shì)，對(duì)這種模式的監(jiān)管和審核應(yīng)該越來(lái)越受到重視。
審核主要依靠人工？
上周，微博網(wǎng)友“肉呆大魔王”在微博上呼吁網(wǎng)友關(guān)注并舉報(bào)問(wèn)題視頻。事件引起關(guān)注之后，1月20日，騰訊、愛奇藝、優(yōu)酷等發(fā)布了緊急聲明，紛紛表示采取措施。主要通過(guò)封停賬號(hào)、屏蔽搜索關(guān)鍵詞、下架視頻等方式進(jìn)行處理。昨日上午，南都記者在幾個(gè)主流視頻網(wǎng)站搜索發(fā)現(xiàn)，絕大部分關(guān)鍵詞搜索已經(jīng)被屏蔽。
但南都記者注意到，微博網(wǎng)友“sihan涵晗”在優(yōu)酷的聲明微博下評(píng)論稱：有人曝光就查一下，沒(méi)人曝光就隨便發(fā)視頻……該網(wǎng)友的評(píng)論實(shí)則指出了這次事件背后的根本問(wèn)題--視頻網(wǎng)站對(duì)UGC內(nèi)容審查機(jī)制是否存在漏洞？大規(guī)模的問(wèn)題視頻是如何通過(guò)了審核的？
南都記者了解到，目前視頻網(wǎng)站審核UGC內(nèi)容主要依靠關(guān)鍵字排查、視頻抽幀、人工審核等手段。有知情人士向南都記者表示，視頻審核一部分依靠機(jī)器篩查，主要借助視頻中的關(guān)鍵字+圖像識(shí)別。機(jī)器審核視頻是基于深度學(xué)習(xí)圖像識(shí)別云，實(shí)際也是將視頻截圖，由機(jī)器審核每一張截圖的安全性。不過(guò)具體是3秒截一張還是5秒截一張，松緊度由視頻網(wǎng)站自己控制。機(jī)器審核視頻原理是先建模，然后導(dǎo)入海量的數(shù)據(jù)建庫(kù)，讓多個(gè)機(jī)器同時(shí)進(jìn)行深度樣本學(xué)習(xí)，再標(biāo)注無(wú)法通過(guò)的圖像種類，進(jìn)而把這些樣本揉碎、旋轉(zhuǎn)、添加“噪音”，提高機(jī)器識(shí)別能力。對(duì)于不能通過(guò)的視頻，機(jī)器審核會(huì)給出兩類結(jié)果：確定不能通過(guò)的，這類準(zhǔn)確率幾乎99.5%以上：僅作參考的，準(zhǔn)確率在95%到97%，這就意味著，該視頻需要再次進(jìn)行人工審核。機(jī)器基本能篩過(guò)99%的視頻，只有1%需要再次動(dòng)用人工。
“在實(shí)際操作中，上面所提到的流程是理想狀態(tài)，更多的上傳視頻其實(shí)還是主要依靠人工審核，機(jī)器只是輔助?！币患乙曨l網(wǎng)站的相關(guān)負(fù)責(zé)人向南都透露，比如機(jī)器檢測(cè)到流量的異動(dòng)，點(diǎn)擊、評(píng)論等數(shù)據(jù)短期內(nèi)暴漲，借助這個(gè)輔助手段，審核人員會(huì)對(duì)視頻二次審核，如果涉黃涉暴就會(huì)處理；如果視頻即便涉黃涉暴，但數(shù)據(jù)沒(méi)有飆升，也很難發(fā)現(xiàn)?！耙曨l總量太大，人工只能抽檢，沒(méi)辦法普查，發(fā)現(xiàn)問(wèn)題其實(shí)都是概率事件。”
KPI考核的壓力？
這是否意味著，針對(duì)上傳視頻的監(jiān)管，目前并沒(méi)有什么好辦法，主要大量依賴人力審核？對(duì)于上述疑問(wèn)，目前，愛奇藝、優(yōu)酷土豆、搜狐等都不愿意對(duì)審核和監(jiān)管的細(xì)節(jié)詳細(xì)解讀。
不過(guò)，很多網(wǎng)友都曾抱怨過(guò)，上傳視頻網(wǎng)上審核時(shí)間偏長(zhǎng)。南都記者此前試驗(yàn)也發(fā)現(xiàn)，在白天上班時(shí)間，上傳一個(gè)5分鐘的視頻，大約半個(gè)小時(shí)到一個(gè)小時(shí)就能審核通過(guò)。但在深夜，同樣上傳一段5分鐘的視頻，等待審核通過(guò)的時(shí)間需要3個(gè)小時(shí)或者更長(zhǎng)。對(duì)此，業(yè)內(nèi)人士表示，晚上審核的人少，相對(duì)會(huì)慢一些。
在上述視頻問(wèn)題出現(xiàn)后，有網(wǎng)友建議，視頻網(wǎng)站應(yīng)加強(qiáng)算法等，采用更好的技術(shù)手段來(lái)解決這一問(wèn)題。但有網(wǎng)友指出，有的上傳視頻其實(shí)反映的價(jià)值觀非常隱晦，目前的AI技術(shù)根本不能夠篩查出來(lái)。比如，表面上是一個(gè)教小孩子DIY橡皮泥的視頻，中間有一小段出現(xiàn)了明顯類似內(nèi)臟的東西，橡皮泥的顏色也類似器官。昨日中午，南都記者在優(yōu)酷還看到了比這位網(wǎng)友描述的更加隱晦的包含暴力暗示的視頻內(nèi)容。一段表面來(lái)看是視頻制作者帶著芭比娃娃和小豬佩奇一家玩過(guò)家家游戲，但中間會(huì)出現(xiàn)小豬的頭被“不經(jīng)意”扭斷的畫面。
一位曾在某內(nèi)容平臺(tái)負(fù)責(zé)視頻內(nèi)容審核的業(yè)內(nèi)人士向南都記者透露，“如果平臺(tái)這類視頻上線量不夠，用戶留存率不高的，人工審核時(shí)就會(huì)有意識(shí)地去增多這些問(wèn)題視頻?！北热?，今天上線的視頻總量有5000個(gè)，按照KPI的考核情況，為了炒熱度和點(diǎn)擊量，就可能會(huì)選擇尺度比較大、有沖擊性的視頻上線。這個(gè)比例每天都在調(diào)整，至于有沖擊性的內(nèi)容的尺度把握，“要看負(fù)責(zé)審核的人，很多人都不會(huì)看具體內(nèi)容，只是看視頻的欄標(biāo)簽，這些欄目標(biāo)簽都是人添加的。色情、惡搞的點(diǎn)擊率明顯比優(yōu)質(zhì)視頻的高多了?！痹撊耸勘硎荆m然審核人員不與視頻熱度KPI考核直接掛鉤，但KPI考核還是會(huì)影響選擇上線視頻的傾向性。
至于機(jī)器審核的截圖和動(dòng)圖，“這些都是可以人工操作的，根據(jù)需求規(guī)避?！鄙鲜鋈耸勘硎荆@其實(shí)都是行業(yè)的潛規(guī)則。
用實(shí)名制認(rèn)證防范？
針對(duì)這一次采取“封停賬號(hào)、屏蔽搜索關(guān)鍵詞、下架視頻等方式”凈化問(wèn)題視頻之后，視頻網(wǎng)站如何預(yù)防此類內(nèi)容和事件的再次出現(xiàn)？目前視頻網(wǎng)站的審查和監(jiān)管還存在哪些短板，未來(lái)將如何提高把關(guān)水平？
相對(duì)于目前的審查手段，業(yè)內(nèi)認(rèn)為，實(shí)名制的推進(jìn)才能減少用戶權(quán)益受損。2017年6月1日正式施行的《網(wǎng)絡(luò)安全法》要求，“網(wǎng)絡(luò)運(yùn)營(yíng)者為用戶提供信息發(fā)布、即時(shí)通訊等服務(wù)，在與用戶簽訂協(xié)議或者確認(rèn)提供服務(wù)時(shí)，應(yīng)當(dāng)要求用戶提供真實(shí)的身份信息。用戶不提供真實(shí)身份信息的，網(wǎng)絡(luò)運(yùn)營(yíng)者不得為其提供相關(guān)服務(wù)。”去年7月，bilibili(B站)已公告開始采用實(shí)名制，UP主(視頻創(chuàng)作者或上傳者)上傳視頻內(nèi)容(包括新增、編輯、換源等)需通過(guò)實(shí)名驗(yàn)證。昨日，優(yōu)酷土豆方面向南都表示，目前還沒(méi)有接到消息要實(shí)名制。搜狐、愛奇藝對(duì)此沒(méi)有回應(yīng)。
采寫：南都記者 莫柳 實(shí)習(xí)生 陳琳玫
視頻網(wǎng)站這樣應(yīng)對(duì)
1
優(yōu)酷在聲明中稱，將對(duì)視頻上傳環(huán)節(jié)更加嚴(yán)格地把關(guān)。
2
騰訊視頻發(fā)布的聲明中也指出，處理過(guò)程中，經(jīng)過(guò)技術(shù)偵查，發(fā)現(xiàn)存在大規(guī)模惡意有組織上傳行為。對(duì)此，“我們正在全力進(jìn)行技術(shù)反制，將向有關(guān)部門報(bào)案，追究其法律責(zé)任?！?/p>
3
搜狐視頻回應(yīng)稱，嚴(yán)格篩查的同時(shí)，將嚴(yán)密監(jiān)控相關(guān)內(nèi)容和上傳的賬號(hào)，及時(shí)嚴(yán)格對(duì)上傳賬號(hào)進(jìn)行處理。
4
“為避免相關(guān)違規(guī)動(dòng)漫關(guān)鍵詞及視頻內(nèi)容變種過(guò)多不易篩查，搜狐視頻寧可整部劇集全面下線清查，也絕不放過(guò)。搜狐視頻后續(xù)將持續(xù)重點(diǎn)關(guān)注此類動(dòng)漫內(nèi)容，隨時(shí)接受用戶監(jiān)督，對(duì)于此類不良內(nèi)容堅(jiān)決抵制并處理?！?/p>
