授權 AI 移除 App 的 bug，結果 AI 將整個鏈接庫刪了，這件聽起來很荒謬的事情，真實在美國 Yelp 發生了。Yelp 是美國著名商店評論網站，創立於 2004 年，囊括各地餐廳、購物中心、飯店、旅遊等領域商店，用戶可在 Yelp 網站幫商店評分、提交評論、交流購物體驗等，由 Paypal 前工程師傑里米‧史託普曼（Jeremy Stoppelman）和羅素·西蒙斯（Russel Simmons）共同建立。近日，Yelp App 的更新說明把大家樂壞了：
我們要向本週使用 App 時遇到問題的用戶道歉。我們訓練了一個神經網絡來消除 App 的 bug，沒想到它把所有東西都刪除了。現在只好試試回覆數據。目前暫時達成 100 % 沒有 bug 的狀態……。
從過去兩個月的更新說明來看，Yelp 基本上可說將「除蟲」當成首要工作，從萬聖節到聖誕節再到跨年，Yelp 的工程師幾乎每天都沉溺在「消蟲樂」的歡樂氣氛裏。
大概是在除 bug 這條路上除出公式，纔會讓 Yelp 的工程師萌生透過訓練神經網絡達成自動除 bug 的想法，只是他們沒想到竟然如此出師不利。由於 Yelp 至今尚未公佈詳細的網絡訓練和刪鏈接庫細節，因此我們只能用猜的來判斷導致刪掉鏈接庫的原因。然而令人絕望的是，即便 Yelp 工程師想找出「刪鏈接庫」事件的原由，神經網絡的「黑箱」性質也導致沒辦法做到。
難道人類一點辦法也沒有了嗎？
雖然 Yelp 以血淋淋的例子告訴我們，自動 debug有風險，然而我們無法因此否定許多機構在這方面的努力，畢竟 debug 工具一旦開發出來，工程師就可把更多精力放在寫程序上。其中，最具代表性的是社羣的 SapFix。
這是一款去年 9 月發表的程序代碼除錯工具，配合 社羣 的自動化發現漏洞工具 Sapienz，可針對 bug 生成修補程序。
具體的執行流程，是 SapFix 會先給每個 bug 生成多個潛在修補程序，然後從三方面評定修補程序的質量（是否有編譯錯誤、程序是否還會崩潰、修補程序是否引入新衝突），評定結束後，SapFix 會在修復版本測試，結果出來後第一時間發給人工評審員審查。一旦獲得人工回饋，SapFix 就會執行批准的修補程序，並清除其他未被批准的修補程序。值得一提的是，面對較複雜的問題時，SapFix 會從過往的修復樣本集搜尋生成修補程序的參考。即使沒能找到合適的修復樣本，它也會嘗試基於突變來修復──簡單來說，就是對導致崩潰的敘述抽象語法樹（AST）執行小型程序代碼修復，調整修補程序，直到找到可行的解決方案。此工具被 社羣 視爲 AI 技術的里程碑，下一步計劃讓 SapFix 達成自動制止程序代碼崩潰機制，以及讓軟件反應更敏捷。Yelp「刪鏈接庫」事件是典型的 AI 過早落實商用的例子，技術尚未成熟的條件下，AI 輸出結果難免會耍笨。更多信息：×××愛公益 http://pctchp.org.tw/