MIT CSAIL最新研究：Network Dissection可全自動內窺神經網路活動過程

雷鋒網AI科技評論按：據外媒TechCrunch最新報導，MIT CSAIL（麻省理工學院電腦科學與人工智慧實驗室）發明了一種可以全自動內窺神經網路活動的系統Network Dissection。相關的論文會在今年的CVPR（電腦視覺與模式識別大會）發表，雷鋒網AI科技評論屆時也會對大會進行全程報導，敬請關注。

MIT電腦科學與人工智慧實驗室之前發明過一種內窺神經網路揭示它們是如何做決策的方法。據外媒報導，該方法最近又有了新改進，相比研究團隊兩年前提出的方案，這次升級為全自動版本系統，效果可以和之前雇傭人工觀察得到的相媲美。

通過全自動內窺神經網路做決策的過程可以説明人們理解為什麼神經網路能表現和人工觀察一樣的效果。目前深度學習技術圍繞“系統是如何做到他們想要的結果”還有很多問題，比如，對於網路利用連續信號處理層對目標分類，文本翻譯，或其他的一些功能，幾乎沒有辦法深入瞭解網路的每一層是如何進行實際決策的。

MIT利用了醫學神經網路的原理，通過每一個單獨的節點對給定的一個輸入圖像的力度回饋報告，將回饋力度大的圖片挑選出來再進行分析。這項分析之前是工作人員來做的，他們根據圖像中的特殊視覺概念來歸類。但是現在這項工作已經自動化了，分類也是機器完成的。

這項研究正在提供一些神經網路是如何運作的有趣見解，例如展示了訓練一個神經網路對黑白圖片填充顏色的過程，會發現它會集中大部分節點在識別圖像紋理上。訓練神經網路對視頻中的物體識別，它會把很多節點集中在場景識別上。訓練神經網路對場景識別則正好相反，它將很多節點集中在物體的身份證明上。

文中最後表明：因為目前還不能完全理解人類是如何思考，如何分類和識別資訊，神經網路只是基於假設的人類思考模型提出來的。 MIT CSAIL的這項研究最終也可能會揭示神經科學的一些問題。相關論文將會發表在今年的CVPR，應該會引起人工智慧研究界的極大興趣。

via

TechCrunch

；雷鋒網編譯