近年來，隨著Z世代社交習(xí)慣的線上化遷移，選擇移動社交的用戶越來越多，據(jù)艾媒咨詢數(shù)據(jù)顯示，2022年移動社交的用戶規(guī)模將會突破10億，音視頻社交軟件，如陌陌、探探、soul等已經(jīng)成為了年輕人生活中必不可少的部分。

閑暇時間，打開軟件刷一刷是當(dāng)代年輕人解決情感交流和傾訴需求的一種方式，簡短的對話和親切的聲音，讓他們將信任交給了手機(jī)背后的那個人。但是隱藏在手機(jī)背后的除了真實的用戶，還有伺機(jī)而動圖謀不軌的灰色產(chǎn)業(yè)。

據(jù)統(tǒng)計，全網(wǎng)活躍的音視頻社交類應(yīng)用超2500余款，主流應(yīng)用市場在架超1200余款，而這些應(yīng)用中存在色情推廣、廣告代刷、外部引流和虛假詐騙等違規(guī)行為的比例達(dá)15.7%。

正是因為有了這樣的不良動機(jī)，才導(dǎo)致音視頻社交類的企業(yè)頻頻背上相關(guān)的負(fù)面新聞。也正是由于對不良違法內(nèi)容洞察力不足，內(nèi)容治理能力不足，才無法徹底鏟除行業(yè)中的黑灰產(chǎn)內(nèi)容。

而輝禹科技就在不斷助力社交類APP打擊黑灰產(chǎn)業(yè)鏈，從行業(yè)角度來看，合規(guī)是所有深耕音視頻社交的企業(yè)必須踐行的部分，唯有加強(qiáng)自身監(jiān)管，堅決打擊不規(guī)范內(nèi)容，才能為用戶提供良性，安全的社交環(huán)境，讓用戶不再避諱使用這些平臺，真正成為能夠滿足用戶需求的一劑解藥。

智能反黑產(chǎn)模型，人機(jī)雙審質(zhì)檢調(diào)優(yōu)

針對社交產(chǎn)品的4類黑產(chǎn)類型，輝禹科技通過全棧式的智能內(nèi)容識別引擎和實施智能風(fēng)控引擎加上人工復(fù)查相結(jié)合來共同治理平臺問題。

在我們的技術(shù)下，APP板塊下的內(nèi)容和數(shù)據(jù)將首先通過全棧式智能內(nèi)容識別引擎和實時智能風(fēng)控引擎，篩選出有疑問的內(nèi)容后再通過人工審核，從而提升對不良內(nèi)容的洞察力。

透過輝禹的自研動態(tài)學(xué)習(xí)系統(tǒng)，不斷優(yōu)化機(jī)審模型，可以高效過濾復(fù)雜、變種信息，全面分析文本情感，結(jié)合上下文對各種內(nèi)容進(jìn)行批量迅速判定，而集成式多媒體處理系統(tǒng)，可以處理多種格式文件。

智能反欺詐系統(tǒng)，精準(zhǔn)打擊“害群之馬”

針對用戶的行為，例如“經(jīng)常發(fā)布聯(lián)系方式引流至非法平臺”、“以交換聯(lián)系方式、見面為由，頻繁要求贈送禮物”、“以網(wǎng)絡(luò)障礙等環(huán)境因素轉(zhuǎn)移交流環(huán)境，進(jìn)而引導(dǎo)違規(guī)操作”、“虛構(gòu)平臺規(guī)則文字或平臺圖片，騙取禮物”、“索要對方賬號，用對方賬號進(jìn)線違規(guī)操作”….我們建立了一套風(fēng)險評分模型，針對其用戶特征進(jìn)行打分，進(jìn)行精準(zhǔn)識別。

在提取風(fēng)險賬號的行為數(shù)據(jù)后，例如：登陸設(shè)備、賬號行為、生命周期等構(gòu)建風(fēng)險關(guān)系網(wǎng)，進(jìn)一步校準(zhǔn)核對問題，并不斷的反饋調(diào)優(yōu)模型，對此類用戶進(jìn)行高度關(guān)注，從根源上進(jìn)行前置處理。

該模型日均內(nèi)容及處理可達(dá)10W+，賬號及處理可達(dá)600+，并針對不同風(fēng)險等級的群體執(zhí)行定制化的內(nèi)容安全分層管控策略。

真人治理團(tuán)隊，用戶安全的二道防線

人工治理分析團(tuán)隊，會對黑產(chǎn)形式、類型、內(nèi)容進(jìn)行分析，進(jìn)而彌補(bǔ)系統(tǒng)漏洞進(jìn)行相互補(bǔ)位;而質(zhì)檢團(tuán)隊會對黑產(chǎn)內(nèi)容進(jìn)行攔截、前端數(shù)據(jù)進(jìn)行質(zhì)檢巡查，通過質(zhì)檢及巡查結(jié)果，不斷完善系統(tǒng)能力。

針對反黑產(chǎn)的內(nèi)容審核，不單單是音視頻社交行業(yè)所獨有的需求，現(xiàn)在越來越多的行業(yè)需要去維護(hù)和處理一些不良內(nèi)容，有效地區(qū)分高風(fēng)險訪問者并持續(xù)跟蹤各類風(fēng)險內(nèi)容，更有利于及時湮滅苗頭，將其扼殺在搖籃中，避免更大的損失。

輝禹科技也在加強(qiáng)自有業(yè)務(wù)團(tuán)隊技術(shù)及團(tuán)隊實力的同時，積極參與北京網(wǎng)絡(luò)行業(yè)協(xié)會、上海信息安全行業(yè)協(xié)會、信息服務(wù)業(yè)行業(yè)協(xié)會等行業(yè)組織，不斷地拓展行業(yè)合作資源和服務(wù)場景，爭取為反黑灰產(chǎn)貢獻(xiàn)一份微薄的力量。

免責(zé)聲明：市場有風(fēng)險，選擇需謹(jǐn)慎!此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：