多媒體內(nèi)容識別

1、目錄 TOC o 1-5 h z HYPERLINK l bookmark8 o Current Document 第1章需求分析2 HYPERLINK l bookmark11 o Current Document 背景2 HYPERLINK l bookmark14 o Current Document ICP面對的挑戰(zhàn)2 HYPERLINK l bookmark29 o Current Document 第2章不良圖片分析系統(tǒng)解決方案4 HYPERLINK l bookmark34 o Current Document 技術(shù)原理4 HYPERLINK l bookmark49 o Cur

2、rent Document 技術(shù)指標(biāo)6 HYPERLINK l bookmark52 o Current Document 部署方案7第3章投資及回報(bào)8系統(tǒng)投資8 HYPERLINK l bookmark61 o Current Document 投資回報(bào)8 HYPERLINK l bookmark64 o Current Document 第4章附錄：新浪應(yīng)用案例9 HYPERLINK l bookmark67 o Current Document 第5章I附錄：公司簡介10第1章需求分析1.1背景截至2009年6月底，我國網(wǎng)民數(shù)量已達(dá)3.38億人，網(wǎng)站數(shù)達(dá)306.1萬個(gè)， 博客用戶數(shù)也達(dá)1

3、.81億人。（來源：CNNIC。）互聯(lián)網(wǎng)內(nèi)容的迅猛增長，給內(nèi)容 監(jiān)管提出了嚴(yán)峻的挑戰(zhàn)?；ヂ?lián)網(wǎng)有別于傳統(tǒng)媒體，互動(dòng)性、實(shí)時(shí)性強(qiáng)，傳播速度 快，覆蓋性廣，數(shù)據(jù)類型多種多樣，其中滋生了大量的色情低俗內(nèi)容，嚴(yán)重危害 了青少年的身心健康。前一段時(shí)間，谷歌網(wǎng)絡(luò)搜索含有低俗信息的爭議一直是網(wǎng)絡(luò)上熱議的話題， 然而谷歌“消毒”并非一件容易的事情，盡管谷歌工程師做了 “機(jī)器學(xué)習(xí)”系統(tǒng) 作輔助，但也只是對低俗文字網(wǎng)頁有用，而對那些社會(huì)影響更惡劣的色情圖片仍 顯得無能為力，只能通過網(wǎng)民舉報(bào)等非技術(shù)手段在事發(fā)之后做出響應(yīng)，非常被動(dòng)。 國際網(wǎng)絡(luò)搜索巨擎尚且不能很好解決的問題，對于其他網(wǎng)絡(luò)內(nèi)容、服務(wù)提供商來 說其難度不言

4、而喻。自2009年1月全國開展整治互聯(lián)網(wǎng)低俗之風(fēng)專項(xiàng)行動(dòng)以來，一批批違規(guī)網(wǎng) 站被曝光、整治和關(guān)閉，網(wǎng)上淫穢色情和低俗內(nèi)容明顯減少，行動(dòng)取得了巨大的 成果，網(wǎng)絡(luò)文化環(huán)境明顯改善。然而，近期新公布的一批違規(guī)網(wǎng)站名單中，我們 仍能發(fā)現(xiàn)一些知名ICP內(nèi)容提供商上榜，有識之士頻頻呼吁全社會(huì)參與，長期堅(jiān) 持，與網(wǎng)絡(luò)色情低俗內(nèi)容打一場持久戰(zhàn)。網(wǎng)絡(luò)色情低俗問題，受到廣大社會(huì)以及媒體的廣泛關(guān)注，CCTV焦點(diǎn)訪談也 頻頻進(jìn)行跟蹤及討論。1.2 ICP面對的挑戰(zhàn)網(wǎng)絡(luò)色情低俗問題，涉及的范圍很廣，涉及到網(wǎng)絡(luò)及網(wǎng)絡(luò)傳輸?shù)母鱾€(gè)環(huán)節(jié)， 包括：運(yùn)營商、內(nèi)容提供商、各類網(wǎng)站、以及手機(jī)業(yè)務(wù)。第2頁共14頁北京雄智偉業(yè)科技有限公司

5、 HYPERLINK ICP,具有自己的特點(diǎn)：集中運(yùn)營，有固定的運(yùn)營地點(diǎn)，具有大規(guī)模的業(yè)務(wù)及大規(guī)模的設(shè)備，設(shè)備集 中、內(nèi)容集中存放、內(nèi)容更新一般采用用戶上傳的方式。icp內(nèi)容控制，最大的挑戰(zhàn)是：數(shù)據(jù)量極大，采用人工的方式，不可能做到 全面檢查與控制，并且相應(yīng)開銷巨大。用戶上傳人工審核整治屏蔽用戶舉報(bào)審視目前的監(jiān)管和防治體系，我們能發(fā)現(xiàn)一個(gè)發(fā)布-審核-舉報(bào)-整治的基本鏈 條。以博客應(yīng)用為例，用戶注冊后發(fā)表文章、上傳圖像或視頻文件，服務(wù)提供商 采用各種事前事后的內(nèi)容審核手段防堵可能的色情低俗內(nèi)容，對于大中型網(wǎng)站而 言，即便配備了人數(shù)眾多的內(nèi)容審核人員，在海量信息的上傳和發(fā)布面前，也常 常是有心無力

6、，做不到全面、實(shí)時(shí)和準(zhǔn)確的內(nèi)容監(jiān)管，以致于主要依賴于最終用 戶的舉報(bào)和事后查處。前谷歌中國負(fù)責(zé)人李開復(fù)在接受記者采訪時(shí)坦承沒有好的 技術(shù)手段進(jìn)行自動(dòng)化檢測，只能推出用戶舉報(bào)機(jī)制來發(fā)現(xiàn)不良內(nèi)容。具有諷刺意 味的是，在這種模式下，是潛在的受害者來舉報(bào)侵犯自己的內(nèi)容，在被人工封殺 之前，可能還會(huì)有更多人受到不良的傷害。究其原因，還是內(nèi)容和應(yīng)用提供商沒 有好的技術(shù)手段來防患于未然，御敵于城門之外?？v觀全世界，針對色情圖像和視頻的自動(dòng)化檢測，是一個(gè)相當(dāng)前沿的技術(shù)領(lǐng) 域。在規(guī)定范式的圖像模式識別領(lǐng)域，如針對文字的OCR，針對指紋、視網(wǎng)膜、 第3頁共14頁北京雄智偉業(yè)科技有限公司 HYPERLINK IPM

7、GTGR號牌、工業(yè)零件等特定物件的識別已經(jīng)相當(dāng)成熟。但色情內(nèi)容千差萬別，難以提 取統(tǒng)一和規(guī)范化的特征，所以成為一個(gè)具有高度挑戰(zhàn)性的研究課題。第2章 不良圖片分析系統(tǒng)解決方案雄智偉業(yè)的研發(fā)團(tuán)隊(duì)潛心耕耘于內(nèi)容監(jiān)控領(lǐng)域，早在2007年就意識到了色 情圖像檢測的技術(shù)挑戰(zhàn)，開始進(jìn)行這方面的研究，經(jīng)過近2年的反復(fù)摸索，終于 研制成功了集準(zhǔn)確度、智能化和高性能于一身的“網(wǎng)清”色情圖像自動(dòng)化檢測技 術(shù)，在多家電信運(yùn)營商和信息提供商用戶成功運(yùn)用，取得了巨大的社會(huì)和經(jīng)濟(jì)效.rw.o針對ICP的業(yè)務(wù)特點(diǎn)，推出：不良圖片分析系統(tǒng)不良圖片分析系統(tǒng)具有兩項(xiàng)重要功能：不良圖片分析：用來分析淫穢色情圖片相似圖片分析：用來進(jìn)行

8、圖片比對，分析敏感圖片特點(diǎn)：部署簡便快捷。產(chǎn)品具有自主知識產(chǎn)權(quán)，提供標(biāo)準(zhǔn)TCP接口（提供API和命令行）。面向ICP，系統(tǒng)非常適合ICP對圖片文件進(jìn)行檢查（ICP文件及圖片存儲(chǔ)非 常集中，并且有統(tǒng)一的上傳接口，這就為不良圖片分析系統(tǒng)的部署提供了方便）。2.1技術(shù)原理色情圖像檢測色情圖像的識別，有別于傳統(tǒng)特定范式的圖像識別，具有模糊性、特征點(diǎn)數(shù) 量多而且樣式多樣的特點(diǎn)。因此，網(wǎng)清采用了二級分離器的識別體系，在通過海 量樣本采樣分析的基礎(chǔ)上，形成了一個(gè)高度智能化的檢測架構(gòu)，如下圖所示：第4頁共14頁北京雄智偉業(yè)科技有限公司 HYPERLINK 預(yù)處理mi 無效一級神經(jīng)網(wǎng)絡(luò)分離器5二級向量機(jī)分離器

9、口口 I 色情通過一級神經(jīng)網(wǎng)絡(luò)分離器，首先分離出正常圖像，其他圖像進(jìn)入二級向量機(jī) 分離器，再分出色情、疑似色情和正常圖像（可以調(diào)整評分機(jī)制）。采用二級分 離器的優(yōu)勢是既可以提高分離速度，又能給出多層級結(jié)果，符合人類模糊判斷的 特點(diǎn)。神經(jīng)網(wǎng)絡(luò)分離器的特點(diǎn)是分類較粗，但速度快，在這一步就可以將大部分 明顯是正常的圖像排除在外，減低了第二級算法密集型的向量機(jī)分離器的負(fù)擔(dān)， 在這一級，我們在海量色情圖像樣本采樣、建模和綜合分析的基礎(chǔ)上，進(jìn)一步將 圖像分類成色情、疑似色情和正常內(nèi)容。針對在不同應(yīng)用場景下對精確度要求的不同，第二級分離器不但給出了圖像 分級，而且給出了具體判據(jù)分值，用戶能夠根據(jù)判據(jù)分值排序

10、，甚至調(diào)整圖像分 級的上下限分值，達(dá)到精確與模糊的完美結(jié)合。針對色情圖像樣式多變的特點(diǎn)，該算法還能通過樣本訓(xùn)練，智能化提升對新 種類的色情圖像的識別能力，真正做到魔高一尺、道高一丈。敏感圖像檢測在ICP內(nèi)容提供商的應(yīng)用實(shí)踐中，除了要防治淫穢色情內(nèi)容，還要對一些敏 感圖像，如暴力、政治敏感、侵權(quán)、突發(fā)事件等特殊圖像進(jìn)行檢測和判斷。為此，網(wǎng)清解決方案中還具備圖像相似度（相似度可調(diào)整）判斷功能，能夠 有效應(yīng)對水印、截取、縮放、色變等多種圖像變形，檢出與樣本圖像相似的圖像， 在對敏感圖片的處理方面我們采用了另一套分析系統(tǒng)，我們在系統(tǒng)中加入了樣本第5頁共14頁北京雄智偉業(yè)科技有限公司 HYPERLINK

11、 庫，通過與樣本庫圖片進(jìn)行dna檢索來完成敏感圖片的分析，這樣不管是經(jīng)過拉 伸等任何處理都可以進(jìn)行判別。2.2技術(shù)指標(biāo)網(wǎng)清色情圖像檢測達(dá)到了業(yè)界領(lǐng)先水平，色情圖像識別準(zhǔn)確率大于90%，正 常圖像誤判率小于2%。針對圖像相似度的準(zhǔn)確率更高達(dá)95%以上。對于ICP內(nèi)容提供商，每天新增的數(shù)以萬計(jì)的圖像內(nèi)容，數(shù)據(jù)量上T非常普 遍。因此，檢測算法的效率也非常重要，網(wǎng)清獨(dú)特的二級分離體系在性能上比單 級分離更高。在較低服務(wù)器配置下，色情圖像檢測的速率至少不低于1Mbyte/s， 按通常圖片大小，每秒檢測圖像數(shù)量可達(dá)50-500張；圖像相似度檢測速率不低 于6Mbyte/s，每秒檢測圖像數(shù)量可達(dá)300-20

12、00張。2.3部署方案由于色情內(nèi)容判斷仍具有模糊的特點(diǎn)，不同的圖像在不同的判斷標(biāo)準(zhǔn)下，仍 可能判斷為不同的結(jié)果。因此，最佳實(shí)踐是將機(jī)器判斷和人工判斷有效結(jié)合，形 成綜合防治方案。首先，通過機(jī)器判斷，排除正常和明顯色情的內(nèi)容，將疑似色 情的內(nèi)容交由人工分揀。這種多層級的解決方案，能有效權(quán)衡防范和用戶易用度 的平衡。機(jī)器判斷可將人工分揀的工作量降低10到20倍，從而大量節(jié)省監(jiān)管成 本。在更嚴(yán)格的應(yīng)用場景下，也可完全采用機(jī)器自動(dòng)化判斷的機(jī)制，將色情和疑 似色情全部自動(dòng)屏蔽。網(wǎng)清開發(fā)的解決方案提供了一個(gè)實(shí)時(shí)圖像檢測引擎服務(wù)，可運(yùn)行于Linux或 Windows平臺(tái)，提供API和命令行，ICP可將這套系

13、統(tǒng)集成到現(xiàn)有的內(nèi)容發(fā)布審 核平臺(tái)中，根據(jù)自身的情況，靈活定義內(nèi)容通過和阻攔策略，根據(jù)實(shí)際情況，自 行調(diào)整檢測敏感度，自行管理敏感圖像樣本庫，從而完美解決低俗內(nèi)容監(jiān)管的難 題。第3章投資及回報(bào)3.1系統(tǒng)投資圖片分析系統(tǒng)建設(shè)，相關(guān)費(fèi)用（包括兩部分）：圖片分析服務(wù)器：根據(jù)數(shù)據(jù)量（圖片量）采用不同配置的服務(wù)器、圖片分析系統(tǒng)軟件：軟件費(fèi)用，按照CPU數(shù)量計(jì)算服務(wù)器配置參考數(shù)據(jù)：軟件環(huán)境后臺(tái)：操作系統(tǒng)centos5硬件環(huán)境后臺(tái)：硬盤：800G CPU:1.83HZ（2）內(nèi)存：2G下面數(shù)據(jù)代表了一臺(tái)該配置服務(wù)器可以處理的新增圖片能力：160GB/天/每CPU測試時(shí)間文件總數(shù)量總大?。↘B）用時(shí)（秒）返回結(jié)果

14、數(shù)2010-1-49,397.00299,400.00264.009,397.002010-1-418,465.00512,708.00300.0018,465.002010-1-492,225.002,899,968.001,036.0092,225.002010-1-5112,736.003,616,712.001,507.00112,736.00每秒掃描文件數(shù)系統(tǒng)負(fù)載線程數(shù)帶寬mbps帶寬mBps36118.8600852271.107510653612.26213.351770831.6689713548912.61021.868725872.7335907347416.21318.7

15、4954382.3436929743.2投資回報(bào)為了應(yīng)對低俗內(nèi)容監(jiān)管，icp內(nèi)容提供商往往配置了人數(shù)眾多的內(nèi)容審核隊(duì) 伍，投入了高昂的人力、管理成本，并且還有很多相關(guān)開銷（比如：工作環(huán)境成 本、辦公設(shè)備等）。采用網(wǎng)清色情低俗內(nèi)容監(jiān)管解決方案后，可將需人工審核內(nèi) 容降至原來的1/10、1/20甚至更高，從而可以大大降低成本，將有效和寶貴的物 質(zhì)資源及人力資源投入到更需要的領(lǐng)域。更重要的是，有了網(wǎng)清解決方案，在這 場對低俗內(nèi)容的持久戰(zhàn)中，運(yùn)營商掌握了堅(jiān)實(shí)有效的武器，真正在戰(zhàn)斗中處于不 敗之地。我們堅(jiān)信，一個(gè)和諧、文明、健康的網(wǎng)絡(luò)環(huán)境必將早日成為現(xiàn)實(shí)！第4章 附錄：新浪應(yīng)用案例典型案例一新浪互動(dòng)內(nèi)容

16、監(jiān)測上圖，為不良圖片分析系統(tǒng)在新浪互動(dòng)部門（相冊+博客）的應(yīng)用，圖片監(jiān) 測已經(jīng)于2009年12月16日上線。新浪是中國最著名的ICP之一，新浪的相冊、博客具有廣泛的客戶群，極大 的影響力，也具有極其龐大的數(shù)據(jù)量和訪問量，在用戶上傳照片或者圖片的時(shí)候， 采用人工審核，工作量繁重，并且對時(shí)間的需求也非常突出，占用了大量的人力， 并且相應(yīng)增加了很多辦公開銷。在應(yīng)用不良圖片分析系統(tǒng)之后，大量圖片進(jìn)行了自動(dòng)的排查，人工分揀只需 對圖片分析系統(tǒng)提交的那一部分，這樣大大降低了工作量及相應(yīng)開銷。第5章附錄：公司簡介北京雄智偉業(yè)科技公司成立于1998年，是專業(yè)的網(wǎng)絡(luò)平臺(tái)開發(fā)廠商，多年來 從事網(wǎng)絡(luò)服務(wù)器系統(tǒng)平臺(tái)的

17、研究開發(fā)、產(chǎn)品銷售服務(wù)，公司本部地處北京中關(guān)村 高科技園區(qū)，在上海、西安、鄭州、等地均設(shè)有辦事處及技術(shù)支持中心。北京雄智偉業(yè)科技公司吸引了國內(nèi)一批最早涉足IP網(wǎng)絡(luò)技術(shù)的優(yōu)秀人才，公 司匯集了大批來自清華、北大、中科院的IT精英。早在2000年起就在國內(nèi)不同領(lǐng) 域開始進(jìn)行IP網(wǎng)絡(luò)的技術(shù)開發(fā)和商業(yè)運(yùn)作。公司主營業(yè)務(wù)為計(jì)算機(jī)網(wǎng)絡(luò)軟件產(chǎn)品的開發(fā)與銷售，兼營計(jì)算機(jī)軟、硬件產(chǎn) 品的銷售、代理。公司主要的軟件產(chǎn)品包括：不良圖片分析系統(tǒng)、網(wǎng)清內(nèi)容監(jiān)控 系統(tǒng)、電子郵件服務(wù)器、電子郵件安全網(wǎng)關(guān)、電子郵件歸檔系統(tǒng)、郵件訂閱分發(fā) 系統(tǒng)、短信應(yīng)用平臺(tái)、網(wǎng)絡(luò)負(fù)載均衡系統(tǒng)等等。同時(shí)與眾多國內(nèi)外的IT廠商建立 了良好的合作伙

18、伴關(guān)系，與美國的NSS、Radtec、LSI、EuroLogic,韓國的安博 士公司建立了合作代理關(guān)系；在國內(nèi)與神州數(shù)碼、中國聯(lián)想、TRS、東軟集團(tuán)、 北大青鳥、太極集團(tuán)、榕基企業(yè)、天時(shí)數(shù)碼等業(yè)內(nèi)知名公司也建立了良好的代理 合作關(guān)系。公司客戶遍及全國各個(gè)省市、地區(qū)，在電信、網(wǎng)絡(luò)運(yùn)營商、軍隊(duì)、政府、金 融、企業(yè)、教育等各個(gè)行業(yè)都有大量的用戶案例，在國內(nèi)的軟件行業(yè)建立了良好 的聲譽(yù)。我們真誠希望與您攜手合作，共同走向成功。之前寫過兩篇科普文章，使用gdb調(diào)試程序入門篇和中級篇，今天打算把最后的一部分寫完，就是 所謂的高級篇。其實(shí)很簡單，也沒有多復(fù)雜。只是個(gè)人認(rèn)為gdb的使用，掌握到這個(gè)地方，對于常

19、規(guī)的 調(diào)試需求就已經(jīng)足夠了。至于更高級的應(yīng)用，肯定是多多益善。但是學(xué)習(xí)工具的目的就在于提高工作效率， 沒有必要為了技術(shù)而技術(shù)，技術(shù)永遠(yuǎn)都只是一種工具。不知道這個(gè)觀點(diǎn)是否會(huì)被技術(shù)迷所鄙視，呵呵。不 多廢話了，言歸正傳。查看運(yùn)行時(shí)數(shù)據(jù)在你調(diào)試程序時(shí)，當(dāng)程序被停住時(shí)，你可以使用print命令(簡寫命令為p),或是同義命令inspect 來查看當(dāng)前程序的運(yùn)行數(shù)據(jù)。print命令的格式是：print print / 是表達(dá)式，是你所調(diào)試的程序的語言的表達(dá)式(GDB可以調(diào)試多種編程語言)，是 輸出的格式，比如，如果要把表達(dá)式按16進(jìn)制的格式輸出，那么就是/x。有時(shí)候，你需要查看一段連續(xù)的內(nèi)存空間的值。比如

20、數(shù)組的一段，或是動(dòng)態(tài)分配的數(shù)據(jù)的大小。你可 以使用GDB的、臊作符，、的左邊是第一個(gè)內(nèi)存的地址的值，、”的右邊則你你想查看內(nèi)存的長度。 例如，你的程序中有這樣的語句：int *array = (int *) malloc (len * sizeof (int);于是，在GDB調(diào)試過程中，你可以以如下命令顯示出這個(gè)動(dòng)態(tài)數(shù)組的取值：p *arraylen的左邊是數(shù)組的首地址的值，也就是變量array所指向的內(nèi)容，右邊則是數(shù)據(jù)的長度，其保存在變 量len中，其輸出結(jié)果，大約是下面這個(gè)樣子的：(gdb) p *arraylen$1 = 2, 4, 6, 8, 10, 12, 14, 16, 18, 2

21、0, 22, 24, 26, 28, 30, 32, 34, 36, 38, 40輸出格式一般來說，GDB會(huì)根據(jù)變量的類型輸出變量的值。但你也可以自定義GDB的輸出的格式。例如，你 想輸出一個(gè)整數(shù)的十六進(jìn)制，或是二進(jìn)制來查看這個(gè)整型變量的中的位的情況。要做到這樣，你可以使用 GDB的數(shù)據(jù)顯示格式：x按十六進(jìn)制格式顯示變量。d按十進(jìn)制格式顯示變量。u按十六進(jìn)制格式顯示無符號整型。o按八進(jìn)制格式顯示變量。t按二進(jìn)制格式顯示變量。a按十六進(jìn)制格式顯示變量。c按字符格式顯示變量。f按浮點(diǎn)數(shù)格式顯示變量。(gdb) p i$21 = 101(gdb) p/a i$22 = 0 x65(gdb) p/c

22、i$23 = 101 e(gdb) p/f i$24 = 1.41531145e-43(gdb) p/x i$25 = 0 x65(gdb) p/t i$26 = 1100101查看內(nèi)存你可以使用examine命令(簡寫是x)來查看內(nèi)存地址中的值。x命令的語法如下所示：x/ n、f、u是可選的參數(shù)。n是一個(gè)正整數(shù)，表示顯示內(nèi)存的長度，也就是說從當(dāng)前地址向后顯示幾個(gè)地址的內(nèi)容。f表示顯示的格式，參見上面。如果地址所指的是字符串，那么格式可以是s，如果地十是指令地 址，那么格式可以是i。u表示從當(dāng)前地址往后請求的字節(jié)數(shù)，如果不指定的話，GDB默認(rèn)是4個(gè)bytes。u參數(shù)可以用下 面的字符來代替，b表示單字節(jié)，h表示雙字節(jié)，w表示四字節(jié)，g表示八字節(jié)。當(dāng)我們指定了字節(jié)長度 后，GDB會(huì)從指內(nèi)存定的內(nèi)