機器學習會被人工智能主流範式拋棄嗎？

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","marks":[{"type":"italic"},{"type":"size","attrs":{"size":10}},{"type":"strong"}],"text":"本文最初發佈於Medium網站，經原作者授權由InfoQ中文站翻譯並分享。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"blockquote","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"這一天遲早會到來，符號AI的結局又會重現"}]}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"機器學習和深度學習的地位將日漸衰退，一直退回到它們的本來面目：花哨的統計技術。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"至少二十年來，人工智能領域一直被連接主義人工智能——也就是基於神經網絡的人工智能所主導。從識別手寫數字到掌握人類語言，人工智能行業每天都有新的突破。人工智能技術發展如此之快，世界甚至都跟不上它的節奏。儘管這個領域大受歡迎，但神經網絡革命的主要先驅之一、人工智能教父Geoffrey Hinton認爲我們應該從頭開始重新思考一切：“我的觀點是扔掉一切，重新開始。”"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"機器學習（ML）和深度學習（DL）是當前領先的AI範式，迄今爲止取得了非常可觀的成就。最近基於變換器的語言模型（比如GPT-3）的大熱就是一個很好的例子。但今天我們面臨的很多障礙似乎是當下方法無法跨越的。有一些新興的框架將在未來幾年主導AI產業。以下是我們將不再把連接主義人工智能作爲推動該領域前進的主導力量的兩個原因。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"heading","attrs":{"align":null,"level":3},"content":[{"type":"text","text":"我們無法用當前的範式達成人工智能的目標"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"我們可以從兩個截然不同的角度來看待人工智能。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"第一個角度是人工智能的實用性和適用性。我們正在使用幾年前還被認爲不可能實現的深度學習方法來解決各種問題，實現媲美人類水平的對象\/語音檢測和識別、創意系統、對話機器人或語言大師。從這個角度來看，AI看起來發展得還不錯。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"但還有另一個角度：看看我們前方的道路。可是它看起來並不那麼樂觀。這個領域正在進行一場辯論。沒有人知道哪一條道路是實現通用人工智能（AGI）的正確途徑。基於深度學習的解決方案還不錯，但最終目標——應該可以解決所有問題的方案——一直都是AGI。專家們對前沿技術的態度是一致的，但對下一步的方向則分歧嚴重。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"有人說，我們正朝着更大、更強大的語言模型前進，這是正確的方向——鑑於GPT-3及其後繼者的成就，這種說法大概挺合理的。還有人說我們肯定會在各種地方躊躇不前——想想完全自監督模型、強化學習、混合模型，都是這樣的例子。而其他人則認爲我們必須引入一些尚不存在的新事物——例如“系統2”推理、因果關係或直覺物理學。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"人類是我們所知的唯一高智商實例。我們可以合理假設AI將具備某些讓人類具備智慧的特徵，至少在某種程度上是這樣。這就是爲什麼越來越多的研究人員站在了涉身AI（embodied ai）的想法這邊：沒有與世界互動的身體就無法獲得智能。阿爾瓦·諾埃在他的《知覺行動》一書中指出，“知覺不是大腦中的一個過程，而是整個身體發起的一種有技巧的活動。”我們的智慧源於我們在世界上成長、生活和互動的方式。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"機器人發展學這個子領域旨在以物理機器人的形式構建人工智能機器，這些機器人可以像人類孩子一樣成長。但這並不是一個新想法。圖靈本人辯稱，“與其試圖製作一個程序來模擬成年人的思維，[我們可以]寧願嘗試製作一個模擬兒童思維的程序。”然後我們可以將問題分解爲兩個更好定義的部分：構建一個孩子的大腦（在圖靈的假設中這是很容易編程的），然後教育它。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"這個解決方案對於今天的ML\/DL來說是完全無法實現的。虛擬AI可以解決一些問題，但不是全部。因爲基於ML和DL的AI並不生活在現實世界中，所以它們無法像我們那樣與世界交互。正因如此，它們永遠不會像我們一樣聰明。"}]},{"type":"heading","attrs":{"align":null,"level":3},"content":[{"type":"text","text":"我們當前追尋AGI的道路就像是在黑暗中拍照"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"退一步說，我們先認可ML和DL，假設我們可以通過這條道路來構建AGI。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"自2012年行業對DL的興趣猛增以來，我們一直在構建更大的模型，並在更大的計算機上使用更多數據進行訓練。這種“越大越好”的理念在自然語言處理和計算機視覺等子領域取得了重要的突破。只要我們能夠開發更大的模型，這種方法就可能繼續爲我們提供更好的結果。我們希望在未來的某個時候，其中某個模型變得足夠聰明，足以達到AGI的狀態——我們現在差的太遠了。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"GPT-3就是這種理念的一個很好的例子。它成爲了有史以來創建的最大的神經網絡，參數高達1750億——比其前身GPT-2大100倍。它成就斐然，在許多語言任務中都表現出色，甚至解決了很多長久以來的難題，例如寫詩或音樂、將英語轉化爲代碼，或思考人生的意義。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"GPT-3比其他模型強大得多，以至於我們很快發現自己無法評估其侷限性：人們發現的許多用例是作者還沒有考慮過的。人們不斷尋找它的弱點，一次又一次地撞上他們自己的侷限之牆。GPT-3的能力超出了我們測量工具的極限。無論它的智能水平如何，我們都還沒法完全測出來。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"另一個例子是一個月前發佈的悟道2.0——它現在保持着有史以來最大的神經網絡紀錄，當然很快就會被刷新的。這個擁有1.75萬億參數的怪物比GPT-3大10倍。我們無法充分衡量GPT-3的智能水平——儘管人們普遍認爲它不是AGI級別的——與此同時我們一直在構建越來越大的模型。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"爲什麼我們要以這種方式接近AGI？這會把我們引向何方？"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"我們是在黑暗中拍攝照片。經濟利益是一個誘人的目標，而經濟利益正是這些模式背後的大多數公司和機構所追求的。如果我們繼續構建更大的模型，卻無法評估它們的智慧水平，最後會怎樣呢？"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"根據我在本節開頭提到的假設，我們可以得出結論，我們最終將使用當前技術構建一個AGI級別的系統。我們會向它前進，最終到達目的地。但我們不會知道自己已經達成了目標，因爲我們用來定義現實的工具只會告訴我們另一個故事。而且，因爲我們是在黑暗中大步前進，我們甚至不會停下來懷疑這個目標是否已經實現。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"這樣的場景會有多危險？我們正在努力建立有史以來最強大的實體。這件事是在黑暗中推進的。我們往前走的時候根本不管不顧。我們這樣做是爲了金錢和權力。如果ML和DL到最後真的能創建出AGI，我們最好找到一種方法來避免這種情況。我們應該轉變自己的心態和範式——改爲更容易解釋、更負責任的理念。"}]},{"type":"heading","attrs":{"align":null,"level":3},"content":[{"type":"text","text":"最後的想法"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"今天，ML和DL是AI的同義詞。在過去的15-20年裏，這一領域的每一次重大突破都是由於這些方法不合常理的效果才能達成的。它們在一些問題上創造了奇蹟，但它們並不是萬能靈藥；它們不會解決人工智能的終極問題。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"我們可以將這些範式替換爲其他更合適的範式，替換成確實能夠繼續推動這一領域超越連接主義人工智能面對的那些障礙的範式。或者我們最好將它們從主力軍中除名，除非我們想在不知情的情況下闖入AGI的世界，發現自己處於AI可能崛起和推翻我們地位的極度令人恐懼的局面。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","text":"我們應該剔除機器學習和深度學習領域的那些浪漫觀念。我們儘量不要指望它們能做到太多東西。它們是非常有用的範式，但歷史一次又一次地告訴我們，即使看起來很像最終解決方案的東西往往也會讓人失望。"}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"text","marks":[{"type":"strong"}],"text":"原文鏈接："}]},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"type":"link","attrs":{"href":"https:\/\/towardsdatascience.com\/unpopular-opinion-well-abandon-machine-learning-as-main-ai-paradigm-7d11e6773d46","title":"","type":null},"content":[{"type":"text","text":"https:\/\/towardsdatascience.com\/unpopular-opinion-well-abandon-machine-learning-as-main-ai-paradigm-7d11e6773d46"}]}]}]}