在過去的幾十年中，無論在硬體組織還是軟體架構上，電腦行業已經發生了翻天覆地的變化，各種軟硬體產品的性能和使用者體驗均得到了顯著提升。
但對程式師而言，軟體編碼的本質似乎並沒有什麼本質的改變：無論哪種程式設計語言，仍然需要程式師根據演算法邏輯和實現步驟一步一步地手動敲入代碼。雖然近幾年隨著編碼工具的改進和程式設計語言的版本更新，對於程式師而言，這一過程已經相當方便了，但學習如何程式設計仍然是諸多電腦使用者不得不面對的一道難題。
雷鋒網消息，近日，微軟在論文中公佈了一項最新的代碼合成系統：RobustFill。
它基於深度學習技術，
可以根據使用者指定的輸入輸出樣例進行特徵提取，然後自動合成能夠實現相應功能的軟體代碼
，大大縮減了程式師的編碼工作量。
舉例來說，假設使用者需要編碼實現如下功能：將輸入的人名資訊進行規範化縮寫後輸出。具體如下圖所示，當輸入人名為 “jacob daniel devlin” 時，系統應該輸出 “Declin,J” 。基於 RobustFill，用戶只需要提供一些簡單的輸入輸出樣例（圖中前三行黑色字體），系統就能自動合成實現這一功能的軟體代碼，並輸出正確結果（圖中後三行灰色字體）。如果使用者需要處理的人名有成千上萬個，這就能節約大量的處理時間。
RobustFill 系統生成的代碼基於 DSL（Domain Specific Language），即領域特定語言。雷鋒網獲知，使用者並不需要理解 DSL 的程式設計細節，實際上，用戶根本看不到 DSL 代碼，而只需要關注具體的功能實現就行了。對應上述人名縮寫樣例，RobustFill 生成的 DSL 代碼如下所示：
Concat(
ToCase(
GetToken(
input,
Type=Word,
Index=-1),
Type=Proper),
Const(", "),
ToCase(
SubString(
GetToken(
input,
Type=Word,
Index=1),
Start=0,
End=1),
Type=Proper),
Const("."))
自動代碼合成的難點主要有兩個：
一是系統可以自動合成萬億級的不同的 DSL 代碼組合，如何判斷哪一種是正確結果；
二是用戶提供的輸入輸出樣例一般都是人工輸入，
難免會出現一些筆誤（例如上面人名縮寫的例子中，表格第二行，使用者把“Useato”寫成了“uesato”），系統如何避免這些筆誤的不良影響。
針對這兩個問題，此前的解決方案是微軟 Excel 軟體中的 FlashFill 系統。該系統憑藉開發人員手動設置規則和啟發式搜索（Heuristic Search）的方式，為使用者輸出特定功能的代碼。但 FlashFill 系統嚴重弱化了 DSL 語言的擴展能力，並且需要開發者大量的人工輸入，同時對人工輸入的筆誤也非常敏感，因此並不是最優的解決方案。
與 FlashFill 不同，在深度學習技術的支援下，RobustFill 可以利用資料驅動的方式進行代碼合成，而無需開發者手動設置規則。此外，RobustFill 還使用了此前用於自然語言翻譯的一種名為“attentional sequence-to-sequence neural network”（注意力序列到序列神經網路）的技術，因此才能基於用戶給定的輸入輸出樣例，自動合成代碼。RobustFill 的大體結構流程如下圖所示。
微軟用數百萬隨機生成輸入/輸出和對應的編碼來訓練該系統。由於 RobustFill 能學會 DSL 的語法，微軟認為它在真實資料上會有良好表現。雷鋒網瞭解到，總的來說，微軟 RobustFill 在真實測試中達到了 92% 的精確度。最讓人感到鼓舞的是，即便輸入/輸出樣例包含大量噪音，RobustFill 仍能夠保持高水準的精確度。
意義
在 FlashFill DSL 這樣的強大函數語言上，成功地訓練神經架構學習程式設計，是神經代碼合成的一項了不起的成就。微軟表示，這同時也是邁向通用 AI 的一小步。RobustFill 解決了加入可編譯性（ interpretability）的核心難題，並探索了用知識的符號表示連接分散式表達（ connecting distributed representations with symbolic representations of knowledge）這一課題。
微軟最後在官方博客宣佈：
“我們正在開發這些架構的擴展，用變數和控制流來學習 DSL 中的代碼，以生成更豐富的代碼類。我們相信，照這個方向走下去需要我們研究、解決代碼合成和歸納問題中的關鍵技術難關。”
via
microsoft