亚洲网站免费_国产一区二区三区在线看麻豆 _国产精品毛片一区二区三区 _麻豆精品网站

網(wǎng)易云安全:短視頻、直播內(nèi)容安全運(yùn)營(yíng)的實(shí)戰(zhàn)策略

2017-06-16 09:11:36 來(lái)源:donews 熱度:
如今,直播+電商的模式不僅給互聯(lián)網(wǎng)產(chǎn)品運(yùn)營(yíng)帶來(lái)了新思路,也讓直播之火燃燒得更加旺盛。但與之同時(shí),直播產(chǎn)品本身也產(chǎn)生的一系列問(wèn)題,甚至極大地?fù)p害了用戶體驗(yàn),比如直播中的色情、廣告、謠言等。
 
在最近的網(wǎng)易運(yùn)營(yíng)開(kāi)放日上,來(lái)自網(wǎng)易云安全(易盾)的產(chǎn)品總監(jiān)饒曉艷做了有關(guān)于短視頻、直播內(nèi)容安全運(yùn)營(yíng)實(shí)戰(zhàn)分享。在她看來(lái),互聯(lián)網(wǎng)從業(yè)人員在產(chǎn)品日常運(yùn)營(yíng)中,除了要做到引導(dǎo)核心用戶貢獻(xiàn)優(yōu)質(zhì)的內(nèi)容,同時(shí)也要做到處理掉那些低質(zhì)量甚至是垃圾的內(nèi)容,整個(gè)處理的過(guò)程其實(shí)是在跟黑灰產(chǎn)團(tuán)伙做持久攻防斗爭(zhēng)。
 
互聯(lián)網(wǎng)內(nèi)容建設(shè)現(xiàn)狀堪憂,黑產(chǎn)也會(huì)“追熱點(diǎn)”
 
 
據(jù)饒曉艷介紹,制造淫穢色情、詐騙信息、垃圾廣告等有害信息的團(tuán)伙有一個(gè)很明顯的特征:追熱點(diǎn)。哪里有人氣、哪里有流量他們就在哪里扎推,不分晝夜,尤其會(huì)選擇夜間這一防守相對(duì)薄弱的時(shí)間段來(lái)發(fā)布垃圾惡意信息。
 
更為可怕的是,內(nèi)容制造商團(tuán)伙基本上是通過(guò)網(wǎng)上協(xié)作的形式進(jìn)行不良信息發(fā)布,他們有的是需求方,有的是接單方,而在接單方中又會(huì)細(xì)分為自動(dòng)發(fā)帖機(jī)提供方、批量賬號(hào)提供方、垃圾內(nèi)容制造方。
 
以上“高效”的有害信息生產(chǎn)方式,足以讓互聯(lián)網(wǎng)產(chǎn)品的用戶體驗(yàn)大打折扣。據(jù)中國(guó)互聯(lián)網(wǎng)違法和不良信息舉報(bào)中心數(shù)據(jù)顯示,平均每月全國(guó)各地網(wǎng)信辦受理網(wǎng)民舉報(bào)304.6萬(wàn)件;淫穢色情、詐騙信息、垃圾廣告等有害信息源源不斷。其中,淫穢色情類有害信息仍較為突出,舉報(bào)達(dá)121.5萬(wàn)件,占比67.2%;網(wǎng)絡(luò)社交工具的使用過(guò)程中碰到的侵權(quán)現(xiàn)象,廣告信息多占比最高70.8% 。
 
面對(duì)政策法規(guī)、用戶體驗(yàn),直播內(nèi)容安全危機(jī)重重
 
饒曉艷認(rèn)為,包括直播在內(nèi)的所有互聯(lián)網(wǎng)UGC產(chǎn)品的內(nèi)容運(yùn)營(yíng)風(fēng)險(xiǎn)主要來(lái)自于兩方面:一是政策法規(guī),目前很多國(guó)家法規(guī)里面已經(jīng)明確了對(duì)互聯(lián)網(wǎng)產(chǎn)品中相關(guān)內(nèi)容的要求——彈幕必須是要做到先審后發(fā);直播間必須有水印標(biāo)識(shí);直播內(nèi)容必須要有二十四小時(shí)的審核監(jiān)管;表演者必須實(shí)名注冊(cè)等。
 
二是涉及到用戶體驗(yàn),“現(xiàn)在大家實(shí)際看到的云音樂(lè)評(píng)論是特別有故事性,或者經(jīng)常特別耐看,其實(shí)我們每天從云音樂(lè)的原創(chuàng)歌單或者評(píng)論區(qū)刪掉的內(nèi)容也非常多”,饒曉艷說(shuō),“不同的粉絲群經(jīng)常也會(huì)出現(xiàn)掐架或者撕逼的狀態(tài),分分鐘人身攻擊到比較嚴(yán)重的程度,這些情況都需要過(guò)濾和處理”。
 
 
從直播類產(chǎn)品痛點(diǎn)案例來(lái)看,目前直播類碰到的內(nèi)容監(jiān)管有四個(gè)比較明顯的難點(diǎn):首先是彈幕聊天室的實(shí)時(shí)審核;然后是色情審核,現(xiàn)在仍然有秀場(chǎng)類的主播通過(guò)衣服脫下去再馬上穿上的秒錄行為打“擦邊球”,如果監(jiān)管不及時(shí),很難抓到;再次是用戶突發(fā)通過(guò)平臺(tái)直播一個(gè)群體事件或者不良事件,平臺(tái)需要擔(dān)責(zé);最后則是成本和技術(shù)方面的持續(xù)積累和投入負(fù)擔(dān)過(guò)重。
 
網(wǎng)易云安全(易盾)如何在實(shí)戰(zhàn)中解決內(nèi)容安全問(wèn)題?
 
面對(duì)專業(yè)黑產(chǎn)、政策法規(guī)規(guī)范、用戶體驗(yàn)差等風(fēng)險(xiǎn),饒曉艷解釋說(shuō),網(wǎng)易云安全(易盾)在給內(nèi)部產(chǎn)品或者外部產(chǎn)品提供內(nèi)容安全服務(wù)時(shí),首先會(huì)從文本、圖片、視頻和語(yǔ)音等方面入手,來(lái)一次全面的檢測(cè);在為做直播類產(chǎn)品提供服務(wù)時(shí),網(wǎng)易云安全(易盾)還會(huì)從彈幕實(shí)時(shí)過(guò)濾、用戶頭像/昵稱過(guò)濾、聊天區(qū)文本/圖片過(guò)濾、直播間電視墻監(jiān)控等方面來(lái)做內(nèi)容安全解決方案。
 
 
“現(xiàn)在法規(guī)要求實(shí)名認(rèn)證,我們的聯(lián)動(dòng)行為式驗(yàn)證碼和聯(lián)動(dòng)身份認(rèn)證都是在發(fā)垃圾之前提高相應(yīng)的門(mén)檻,然后擋掉一部分的垃圾用戶”,饒曉艷說(shuō),“直播中掛機(jī)或者黑屏的行為,我們也會(huì)去做檢測(cè)”。
 
據(jù)介紹,在外部客戶口碑中,網(wǎng)易云安全(易盾)得到了全聚星、一起秀等負(fù)責(zé)人的高度評(píng)價(jià)。一起秀CTO黃景素就曾表示:“隨著一起秀產(chǎn)品的不斷發(fā)展,用戶量急劇上升,彈幕區(qū)留言區(qū)的參與活躍度都非常高,運(yùn)營(yíng)審核人員已不堪重負(fù),網(wǎng)易易盾幫助我們解決了燃眉之急,切實(shí)幫助我們有效過(guò)濾了不良信息,減少了運(yùn)營(yíng)風(fēng)險(xiǎn)”。
 
饒曉燕總結(jié)說(shuō),做內(nèi)容安全必須注意以下重要環(huán)節(jié)——注冊(cè)、登錄、帳號(hào)各個(gè)環(huán)節(jié)做預(yù)先的處理;做一些相應(yīng)地法律法規(guī)學(xué)習(xí);重點(diǎn)關(guān)注的產(chǎn)品熱門(mén)板塊等。網(wǎng)易云安全(易盾)團(tuán)隊(duì)在內(nèi)部做了將近二十年的內(nèi)容安全工作,內(nèi)容的審核方式也正在從人工到人工智能的演進(jìn),在未來(lái),網(wǎng)易云安全(易盾)希望能為廣大政企客戶、開(kāi)發(fā)者們提供更為完善高效的內(nèi)容安全解決方案。
 

責(zé)任編輯:王良地

相關(guān)推薦

失落的魔獸世界

《魔獸世界》再起風(fēng)波。從九城到網(wǎng)易,剛剛恢復(fù)運(yùn)營(yíng)的《魔獸世界》又讓玩家捏一把汗,前景難料。10月29日,新聞出版總署發(fā)出通知,終止網(wǎng)易《魔獸世界》(以下簡(jiǎn)稱《魔獸》)審批,退回關(guān)于引進(jìn)出版《魔獸》的申請(qǐng)。通知非常嚴(yán)厲地要求網(wǎng)易立即停止違規(guī)行為,停止收費(fèi)和新賬號(hào)注冊(cè),并向公司所在地的上海市新聞出版局遞交書(shū)面檢查報(bào)告。通知中還稱,將視情況依法對(duì)其作出正式的行政處罰,包括停止其互聯(lián)網(wǎng)接入服務(wù)。然而,就在11月3日下午的文化部查處第七批違法游戲產(chǎn)品及經(jīng)營(yíng)活動(dòng)新聞通氣會(huì)上,文化部文化市場(chǎng)司司長(zhǎng)李雄表示:文化部認(rèn)為,新聞出版總署的通知屬于越權(quán)行為。對(duì)于與新聞出版總署

第一財(cái)經(jīng)周刊:網(wǎng)易難“遠(yuǎn)征”

新聞出版總署宣布停止《魔獸世界—燃燒的遠(yuǎn)征》審批,這可能將對(duì)這款游戲甚至網(wǎng)易的未來(lái)產(chǎn)生重大影響。要想挑戰(zhàn)新版本《魔獸世界》中最華麗的BOSS—戰(zhàn)斗場(chǎng)景遠(yuǎn)在外太空、每周只存在一個(gè)小時(shí)的“阿加隆”,中國(guó)的玩家們恐怕還需要等待很長(zhǎng)一段時(shí)間,也可能永遠(yuǎn)沒(méi)有機(jī)會(huì)了。國(guó)家新聞出版總署11月2日下午在其網(wǎng)站上宣布停止《魔獸世界—燃燒的遠(yuǎn)征》的審批,網(wǎng)易關(guān)于引進(jìn)出版《魔獸世界》的申請(qǐng)也被退回。這則正式的通知說(shuō),網(wǎng)易于9月19日開(kāi)始的收費(fèi)運(yùn)營(yíng),違反了關(guān)于網(wǎng)絡(luò)游戲“前置審批權(quán)”的規(guī)定;自接手運(yùn)營(yíng)《魔獸世界》以來(lái),網(wǎng)易并沒(méi)有獲得相關(guān)的“版號(hào)”。自今年4月發(fā)生運(yùn)營(yíng)權(quán)易手以來(lái),這款廣受歡迎的游戲在中國(guó)市場(chǎng)的前途一直云遮

網(wǎng)易已收到版署終止魔獸世界審批通知

有消息人士披露,在近日答復(fù)上海新聞出版局的問(wèn)詢時(shí),網(wǎng)易方面承認(rèn)已經(jīng)收到了版署終止審批的通知。根據(jù)慣例,網(wǎng)易應(yīng)當(dāng)在收到通知之后作出回應(yīng)。11月2日,新聞出版總署發(fā)出通知,終止《魔獸世界》(燃燒的遠(yuǎn)征)審批,退回關(guān)于引進(jìn)出版《魔獸世界》的申請(qǐng)。通知要求,網(wǎng)之易公司立即停止違規(guī)行為,糾正錯(cuò)誤,停止收費(fèi)和新賬號(hào)注冊(cè)。新聞出版總署將視情依法對(duì)其作出相應(yīng)的行政處罰,包括停止其互聯(lián)網(wǎng)接入服務(wù)。11月4日,網(wǎng)易發(fā)言人李佳表示,網(wǎng)易運(yùn)營(yíng)魔獸世界已獲得中國(guó)文化部批準(zhǔn),當(dāng)時(shí),李佳也表示網(wǎng)易尚未收到版署的正式通知。業(yè)內(nèi)人士稱,從版署發(fā)出到網(wǎng)易接到通知確實(shí)需要一定的時(shí)間,但在版署發(fā)出新聞公告一周后,根據(jù)常理,網(wǎng)易現(xiàn)在應(yīng)

樂(lè)視網(wǎng)牽手土豆網(wǎng)后再聯(lián)姻網(wǎng)易共建視頻網(wǎng)站

作為唯一一家A股上市的視頻網(wǎng)站樂(lè)視網(wǎng),其一上市就吸引了眾人的目光和關(guān)注。在上市后一直動(dòng)作頻頻,高調(diào)爭(zhēng)奪版權(quán)、進(jìn)行股權(quán)激勵(lì),券商分析師也接連出具研報(bào)推薦,看好其成長(zhǎng)性。在與土豆網(wǎng)、央視國(guó)際合作后,今日公司又宣布將聯(lián)姻國(guó)內(nèi)知名互聯(lián)網(wǎng)公司網(wǎng)易,共同打造視頻服務(wù)平臺(tái),進(jìn)行優(yōu)勢(shì)互補(bǔ)。樂(lè)視網(wǎng)今日公告的這份重大合同顯示,公司與網(wǎng)易簽訂合作協(xié)議,雙方共同打造域名為“http:/163.letv.com”的視頻服務(wù)項(xiàng)目,樂(lè)視網(wǎng)負(fù)責(zé)為該平臺(tái)提供CDN分發(fā)、視頻相關(guān)信息、視頻內(nèi)容及視頻播放技術(shù)支持,網(wǎng)易在合作平臺(tái)上優(yōu)先選用樂(lè)視網(wǎng)提供的獨(dú)家視頻內(nèi)容并在優(yōu)勢(shì)位置推薦。同時(shí),網(wǎng)易負(fù)責(zé)合作平臺(tái)、合作項(xiàng)目播放頁(yè)面所有視頻廣告

主站蜘蛛池模板: 东方市| 泽普县| 无为县| 肥东县| 岐山县| 康平县| 白水县| 张家口市| 安康市| 皋兰县| 江阴市| 湟源县| 昌平区| 寻乌县| 阳曲县| 庆阳市| 桦南县| 乌恰县| 安庆市| 微博| 清镇市| 陆良县| 岳池县| 凤山市| 汉源县| 精河县| 湖南省| 娄烦县| 上高县| 灵武市| 明水县| 吉安市| 青岛市| 津市市| 亚东县| 义马市| 巴彦淖尔市| 清水县| 贵定县| 南华县| 宣汉县|