Reddit大型求助現場：用機器學習去實現通用人工智能，白日夢！

　　來源：reddit
　　<strong><strong>【新智元導讀】</strong>通用人工智能（AGI）一直是人工智能學科的核心目標，但現在我們離真正的 AGI 還很遠。今天的 Reddit 最熱帖是一個關於 AGI 的討論，發帖人的夢想是創建 AGI，但卻被派去處理 NLP 領域的 ML 問題。他發現自己非常厭倦機器學習，於是熱心的網友紛紛爲他支招。戳右邊鏈接上 <a data-miniprogram-app="" data-miniprogram-path="pages/group-detail/index" data-miniprogram-nickname="新智元" data-miniprogram-type="text" data-miniprogram-servicetype="">新智元小程序</a> 瞭解更多！</strong>
　　人工智能學科的核心目標是，有朝一日我們能夠建造像人類一樣聰明的機器。這樣的系統通常被稱爲通用人工智能系統（AGI）。
　　到目前爲止，我們已經建立了無數 AI 系統，在特定任務中的表現可以超過人類，但是當涉及到一般的腦力活動時，目前還沒有一個 AI 系統能夠比得上老鼠，更別說超過人類了。
　　今天的 Reddit 最熱帖就是一個關於 AGI 的討論。一位名叫“u/bguerra91”的發起者在大學裏研究，在過去的幾周裏，被派去處理一些屬於 NLP 領域的 ML 問題。通過閱讀所有關於 NLP 的文章，他意識到自己已經非常厭倦機器學習這一學科，完全忘記了最初促使他走上這條路的是努力解決創建 AGI 的工程挑戰。
　　現在，他開始重新考慮這個問題，他很好奇到底有多少人在解決這個問題？有很多數據科學家或業餘愛好者使用 ML 構建預測模型，但是誰將 ML 用作專門用於 AGI 工程設計的工具呢？對於這些人，發起者還問了 3 個問題：
　　<strong>一、6 年+深度學習算法工程師解答：用現代的 ML 方法實現 AGI 是一個白日夢</strong>
　　這個帖子引發了機器學習社區的大討論，其中，最高讚的回答來自一位做了 6 年以上尖端深度學習算法的工程師。在他看來：
　　我們比過去更接近 AGI。儘管媒體的報道和展示手法很花哨，但所有現代的深度學習工具都容易受到觀察偏差的影響（甚至是無監督的算法！）因爲在現實中，你無法獲取無限的數據，而且你的模型中可能有一些罕見的數據實例，你無法在訓練階段獲取這些實例，所以在許多實際應用中，不可能 100% 完整地描述你的數據空間。
　　人類有辦法繞開這一點，這就引出了我的下一點，即現代學習算法仍然完全無法解釋他們從未遇到過的罕見觀測，完全不同於人類或 AGI 系統。此外，人類大腦完全理解一個事物並用極少的例子對其屬性進行推斷的能力令人難以置信。
　　最後，我要指出強化算法的成功與失敗。有一段時間，算法在許多遊戲環境中擊敗了最好的人類專家。但不久之後，人類專家學會了算法所使用的策略，並操縱這個因素，使其能夠始終如一地擊敗算法。<strong>這是現代 ML 的另一個短期趨勢，即它無法根據長期反饋動態地改變自己的行爲</strong>（因爲專家知道如何打敗它，所以它將永遠輸給專家，但如果不重新訓練新的人類反饋，它將永遠無法改變自己的行爲，使其再次具有競爭力——人類可以學着打敗下一個模型）
　　我並不是說這很糟糕，也不是破壞 ML，因爲我絕對喜歡 ML 和 DL，而且我喜歡我所做的事情。但我認爲，認識到這一點非常重要，<strong>深度學習模型是重現大腦某些方面（例如人類視覺系統輸入（CNN））的一種好方法，但它們絕不能描述人類大腦內部信息的整個處理過程</strong>（在視覺刺激之前，大腦會對其進行許多高級處理）。
　　在我看來，<strong>需要將有關外部世界的完整感官輸入以及可能的情感迴路與當前的深度學習方法結合起來</strong>，以再現 GI，而我們離解決這個問題還差得很遠。它還需要能夠以一種通用的方式動態地調節其自身的內存和網絡，以與人類 GI 競爭。
　　綜上所述，如果你因爲必須研究 NLP 而感到厭煩，那麼，我認爲這是一個公平的迴應。我認爲 NLP 令人印象深刻，但仍遠沒有人類對現實世界中事物的推理方式。語言是我們所有感官，感覺和思想之間的基礎整合，幾乎你在大腦中所能想到的每一件事都可以用語言來表達。它是存在的最複雜的代碼之一，它捕獲了我們整個世界中的每個實體。
　　當前狀態下的 NLP 算法與我在上面概述的方法一樣，對環境感知是不可知的，儘管它們可能實現高性能，但它們永遠不會對未遇到的事情進行推理，生成不依賴於訓練輸入的邏輯思維過程，或以無可辯駁的方式通過圖靈測試。你有權感到厭倦，因爲<strong>如果計劃使用現代的 ML 方法來實現目標，AGI 是一個白日夢</strong>。
　　在我看來，有很多與 AGI 無關的 DL 應用是非常有趣的，DL 實際上在某些方面可以比人類做得更好。實際上，AGI 模型可能甚至不如深度學習模型那樣好。一個很好的例子是我正在從事的另一個項目：預測患病的患者病情惡化的可能性。這是醫生可能會想到的事情，但是世界上大多數醫生將無法給出準確的風險確切數字。但是，深度學習模型可以對患者的未來結果做出令人印象深刻的預測。這表明 DL 和 AGI 都有各自的優點，並且我認爲如果找到目標明確的 DL 應用，你會更高興。
　　在我看來，如今所有人都想研究 NLP，但我認爲在其他許多領域中也存在着巨大的機遇，只是還沒有被人注意到。NLP 已經非常成熟，我認爲你應該堅持下去，努力找到一個目標讓你覺得 intellectually rewarded。
　　<strong>二、AGI 儘管離成功還很遠，但我們或許正朝着成功的方向前進</strong>
　　還有不少網友分享了自己的見解。
　　<strong>MichaelMMeskhi 認爲：</strong>
　　AGI 是一個不錯的想法，但不幸的是，我們離甚至是基本的 AGI 系統還很遠。許多在 ML/AI/DS 中取得突破的工具正在進行優化和自動化（AutoML 等）。
　　我建議讀讀 Sebastian Thrun 的書《Learning to Learn》，它討論了人類和機器是如何學習的，以及什麼是學習。
　　<strong>下面是 NikeTheSword 對於 3 個問題的回答：</strong>
<strong>　　Simulation_Brain 的回答：</strong>
　　你聽到的回答幾乎都來自於你尋求答案的其他人。這裏的評論者說關於 AGI 的工作並不存在，或者離完成還差得很遠，但是他們沒有資格去猜測，因爲他們沒有認真地考慮過。
　　Deepmind、openAI 和大約 20 家規模較小的公司正在積極開發 AGI。這只是機器學習行業的一小部分，但它是非常真實的。至於他們離成功是近還是遠，這是一個懸而未決的問題，很多人對此進行了深入的思考並存在許多爭論。
　　以此類推，有很多人爭辯說，比空氣重的飛機是遙遠的，直到萊特兄弟實現了這一目標。當然，確實距今一百年前有人說過同樣的話。在真正實現之前，很難猜測什麼是可能的，更不用說需要花多長時間才能實現。
　　所以你需要相當深入的專業知識才能得出自己的最佳猜測。
　　<strong>papajan18 也分享了自己的觀點：</strong>
　　1. 我在本科學習了 4 年的計算機科學和機器學習，並用機器學習對神經科學數據進行了數據分析。現在我開始攻讀博士學位，研究人類/齧齒動物的元學習、強化學習以及深度學習模型。
　　2. 我真的很關心 AGI，希望有一天人類能夠實現。我認爲從計算的角度來看待人類/動物是如何形成智力的及其基本原理，這非常重要。並不是說我們必須複製自然，但是動物/人類是我們唯一真正的智力實例，因此關注他們是如何完成我們希望人工智能來完成的這些任務的，這很重要。
　　我真的建議你研究心理學/認知科學/神經科學。這樣做的好處是，你能夠思考類似 AGI 的問題，因爲你正在做機器學習還不能做到的事情。缺點是涉及的工程學較少，因爲它更多的是一門科學，所以人們試圖讓事情更簡單，這樣就更容易解決問題。
　　使用機器學習的好處是，你可以真正深入研究複雜的工程模型。一些人的工作與這二者都有關係（比如 Deepmind，他們在研究機器學習的同時也做一些心理學/神經科學方面的工作），這真的很酷，因爲你在建立和理解智能方面都能做到最好。我希望自己在研究生期間能夠同時涉足這二者。
　　3. AGI 離我們還很遠，但我確實覺得我們在朝着這個目標邁進。我認爲深度學習真的很重要，但它不是全部。我認爲這對錶徵學習非常有用（從我們的世界中獲取輸入，學習它的良好表徵，促進智能行爲）。因此，AGI 可能會在其他方面使用深度學習。深度強化學習是一個很好的例子（不是說它是 AGI。這是一個步驟，但它有其自身的問題），因爲你基本上只是在添加一個神經網絡，去學習良好的狀態表徵形式，並將其輸入到強化學習框架中。我在注意的另一件事是概率編程和貝葉斯模型。
　　<strong>三、23 位頂尖 AI 專家預測：通用人工智能可能在 2099 年實現</strong>
　　儘管關於 AGI 的話題在人工智能領域一直被廣泛討論，但研究人員對於這一宏偉目標何時實現的問題上，幾乎從未達成一致意見。
　　2018 年出版的《智能架構》一書中，該書的作者、未來學家馬丁·福特採訪了 AI 領域的 23 位最傑出的人物，其中<strong>包括 DeepMind 首席執行官 Demis Hassabis，谷歌 AI 首席執行官 Jeff Dean 和斯坦福 AI 負責人李飛飛等。</strong>
　　其中一個話題要求受訪對象做出預測，我們在哪一年能夠有 50% 的機會成功實現通用人工智能？
　　在 23 位受訪者中，有 18 人回答了這個問題，但只有兩人願意具名回答。
　　有趣的是，這兩個人給出的答案是最極端的：谷歌的未來學家和工程總監 Ray Kurzweil 認爲，這個時間爲 2029 年。而 iRobot 聯合創始人 Rodney Brooks 的回答則是 2200 年。其餘人給出的答案在這兩個時間點之間，平均算下來，這個時間點爲 2099 年。
　　福特說，這個調查顯示出專家們對這個問題的有趣的分歧，不是關於何時實現 AGI，而是使用現有方法是否可能實現 AGI。
　　一些研究人員表示，現在大部分基本工具和條件都已經具備了，實現 AGI 只需要時間和精力了。還有人則表示，我們目前仍然缺少實現這一目標所需的重大技術突破。
　　目前 AI 研究人員的大量成果都基於深度學習，這部分人傾向於認爲未來的進步離不開神經網絡，即當代 AI 的核心。而具有其他 AI 背景的人認爲，實現 AGI 需要通過其他方法，比如符號邏輯。無論哪種方式，對這個問題都存在相當大的分歧。
　　福特說：“深度學習陣營中的一些人非常看不起在 AI 中直接設計常識之類的東西。他們認爲這種想法很愚蠢。有人說，這就像是要把一些信息直接粘貼到大腦中一樣。”
　　許多專家認爲，我們目前還缺少實現 AGI 的一些必要技術基礎。
　　所有受訪專家都提到當前 AI 系統的侷限性，並提到了目前尚未掌握的關鍵技術。包括遷移學習、無監督學習等。（目前絕大多數機器學習方法都要依賴人工標記數據，這是 AI 技術發展的嚴重瓶頸。）
　　對於如何研究 AGI、AGI 何時能夠實現，你有什麼高見？