注冊登錄

頭條出品靈犬反低俗助手小程序來反低俗內(nèi)容

2018-03-29
導(dǎo)讀:Hishop最新消息,今日頭條本周正式上線了小程序“靈犬”,這是國內(nèi)首款反低俗信息小程序。...

  頭條出品靈犬反低俗助手小程序來反低俗內(nèi)容

  Hishop最新消息,今日頭條本周正式上線了小程序“靈犬”,這是國內(nèi)首款反低俗信息小程序。

  這款小程序脫胎于今日頭條反低俗算法模型,用于鑒定低俗信息。用戶可以將文字或者文章鏈接放置到搜索框內(nèi),即可查詢該條信息的健康程度。

  不過,在文字檢測上,“靈犬”團隊規(guī)定,用戶輸入的字數(shù)必須超過10個字,才能進行檢測。

  為此,“靈犬”團隊給出了解釋:用戶給的上下文、語境等信息越充分,機器判斷的準(zhǔn)確度就會越高。

  那么,在算法機制機制背后,“靈犬”是如何判斷一段文字或網(wǎng)址鏈接為低俗呢?

  “靈犬”團隊給出的解釋是,算法模型處理低俗內(nèi)容,有一條最常見的路徑:“收集數(shù)據(jù)-標(biāo)注樣本-訓(xùn)練模型”。

  對于用戶輸入的文字或鏈接,“靈犬”會先進行提取、分詞和語義識別,然后根據(jù)設(shè)定的規(guī)則,輸出對應(yīng)的分數(shù)、評級和結(jié)論。

  不過,測試員將帶圖片和視頻的鏈接進行測試時,檢測效果并不太好。

  “靈犬”團隊給出的解釋是:因為圖片、視頻提取需要較長的時間,返回結(jié)果較慢,考慮到工具的即時性,暫時還不支持檢測。

  “靈犬”的誕生,將被納入到今日頭條內(nèi)容審核體系中,它與今日頭條內(nèi)容審核機制是一條“犬”和一支“工作犬部隊”的關(guān)系??梢岳斫鉃?,“靈犬”是頭條審核機制中反低俗部分的一個簡化版本。

  據(jù)了解,在內(nèi)容審核方面,今日頭條目前投入了4000多人專業(yè)審核團隊。

  “靈犬”團隊對外稱,這是國內(nèi)最大的審核團隊,并搭建色情、低俗、標(biāo)題黨、虛假信息、低質(zhì)模型180多個,結(jié)合人工、技術(shù)手段,有效提升了內(nèi)容審核的效率和準(zhǔn)確度。

  其實,今日頭條在去年就謀劃這件事情了,在今年1月底,“靈犬”團隊曾面向全社會招募反低俗測試員,最終從超過5000位報名用戶,選出了30位代表,包括政府部門工作人員,媒體記者、編輯,大學(xué)教授、學(xué)生,互聯(lián)網(wǎng)公司產(chǎn)品經(jīng)理和技術(shù)人員,自媒體人等。

  在內(nèi)測階段,“靈犬”團隊根據(jù)測試員的意見反饋,增加了大量人工策略,幫助完善“靈犬”小程序。增加的策略包括:對于權(quán)威媒體報道和詩詞類內(nèi)容,予以算法推薦傾斜;對于時政等機器難以直接處理的內(nèi)容,必須交由人工審核判斷。

  今日頭條方面表示,“靈犬”反低俗助手還將持續(xù)升級、迭代,除了“靈犬”,今日頭條還計劃逐步開放更多算法模型,如辟謠、標(biāo)題黨等。目前,在微信內(nèi)搜索“靈犬反低俗助手”,就可以找到并使用這款小程序。

HiShop小程序工具提供多類型商城/門店小程序制作,可視化編輯 1秒生成5步上線。通過拖拽、拼接模塊布局小程序商城頁面,所看即所得,只需要美工就能做出精美商城。

更多小程序熱點,盡在:http://zytcm.com.cn/xiaocx/

重磅推薦:小程序開店目錄

第一部分:小商店是什么

第二部分:如何開通一個小商店

第三部分:如何登錄小商店

第四部分:開店任務(wù)常見問題

第五部分:小商店可以賣什么

第六部分:HiShop小程序特色功能

第七部分:小程序直播

第八部分:小程序收貨/物流

第九部分:小程序怎么結(jié)算

第十部分:小程序客服

第十一部分:電商創(chuàng)業(yè)

第十二部分:小程序游戲開發(fā)

電話咨詢 微信咨詢 預(yù)約演示 0元開店