出品 | AI科技大 本營（ID：rgznai100）
四年前，紐約大學教授Marcus為反駁深度學習三巨頭之一Bengio的“有意識先驗”和“解糾纏觀念”理論，發表了一篇名為《Deep Learning: A Critical Appraisal》的論文，長達27頁。
https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf
概括來說，就是針對Bengio和Lecun所認為的“深度學習是通向未來AI無可替代路徑”的深度批判。
然而，就在Marcus筆跡未干之際，深度學習三巨頭的另一位——Lecun就在推特上回懟：
“Thoughtful, perhaps. But mostly wrong nevertheless.（有想法，可能吧。但大部分都錯了）。”在Yann Lecun看來，Gary混淆了“深度學習”和“監督學習”的概念，所以“mostly wrong”。
正因為這段話，有了他們的最新battle。針對近日LeCun在ZDNet的采訪中的自我否定：“已放棄使用生成網絡從這一幀預測視頻下一幀的研究，這是一次徹底的失敗”。看到昔日對手的自證失敗，Marcus自然不能錯過“自證清白”的機會，在他看來，LeCun現在說的都是他之前說過的，大部分內容都在上述論文中，但LeCun當時還嘲笑“mostly wrong”。
而在他發出此言論之前，Lecun已經在采訪中對這位老對手發起了新一輪“攻擊”:“Gary Marcus不是做AI的，而是一個心理學家，從未對人工智能做出任何貢獻。”
Marcus當然也不能讓他：“LeCun不想讓別人發現他響應過我曾經的觀點，也不對這些觀點分享任何credit，這違反學術禮儀。另外，為了讓別人不信任我，他在采訪中對我進行了無端的、完全不實的抨擊……”
大佬們吵得熱鬧，但他們究竟在吵什么？能夠這樣十年如一日地吵來吵去，究竟因為哪些原則問題必須如此當仁不讓？
在四年前的爭論中，Marcus認為：“深度學習必須通過一些借鑒自經典符號系統的操作得到增強，也就是說需要充分利用經典人工智能技術（允許顯式地表示層次結構和抽象規則）的混合模型，并將其同深度學習的優勢相結合。”
事實上，符號學派的歷史頗為悠久，如果說蒸汽機和發動機開啟了第一次產業革命，內燃機和電動機發動了第二次產業革命。人工智能掀起的新一輪從模擬化到數字化的革命就是自符號學派開始的。從機器定理證明，到跳棋程序，再到LSP處理語言和通用問題S求解程序……繼承了圖靈測試的衣缽，符號學派最初認為人工智能的本質是對符號的邏輯運算——邏輯思維通過計算機中邏輯門的運算模擬出來，進而實現機械化的人類認知，形成人工智能。
在人工智能概念提出者McCarthy闡明其數理邏輯思維模式之后，Newell和Simon將他的觀點進一步推演為“物理符號系統假說”，該假說進一步將數理邏輯的模式推導至物理模式也可能產生智能行為。和數理邏輯通過運算模擬不同，因為物理符號聚焦在人類思考的高級行為上，所以認為推理、規劃、知識等都可以通過符號轉化。
從符號學派的底層認知邏輯不難看出，Lecun為什么會認為Marcus是心理學家，所以大佬們的撕逼也是從認知的本體論出發的。既然斷定通過人類思考的符號轉化無法達成真正的人工智能，那又有哪路神仙可以點化呢？
時間回到1943年，神經科學家McCulloch和數學家Pitts合著論文《神經活動中內在思想的邏輯演算》，最早開啟通過大腦神經元解釋思維過程，并通過大量非線性并行處理器模擬人類神經元的實現方法。這一后來發展為連接學派的理論，從更為科學的人腦神經出發解釋人類行為產生的動力機制。但理念誕生雖早，真正實現落地實踐卻是后話，這里只是埋下了伏筆。
上世紀60年代，隨著機器翻譯的宣告失敗，符號學派在產業界逐漸式微。取而代之的是行為學派。這一派的早期代表人物是控制論創始人Wiener，在二戰期間，他接受了一項與火力控制相關的研究工作。那時候他的研究主要基于如何讓只有1/3000擊中飛機概率的火炮提升精準度，在沒有控制論概念的時代，機械思維的結果只能是無窮盡的提升零件的精度，思考維度大大限制了可達成的目標。
Wiener通過汽車的制動原理聯想：我們在駕駛汽車的時候并不是瞄準一個方向就一頭扎過去，那為什么發射出的炮彈不能通過微調一點點的到達指定目標呢？根據這樣的想法，他和其他科學家一起設計了一系列的自動控制裝置和系統，從而極大提高了火炮命中的精度。基于在二戰中的嘗試，控制論在1948年正式提出。
控制論的核心在于除了自身因素外，基于外界環境不斷對各類輸入信息進行反饋，從而達成系統控制的目的。這一理論的誕生，讓我們現在所熟知的傳感器開始應用，基于傳感器的第一臺智能機器人也在這個時候誕生。但因為感知性能過于簡單，并沒有開啟AI的大規模應用。
到了80年代，神經網絡開始登上AI的歷史舞臺，這時據早期通過處理器模擬人類神經元的設想已經過去了三十多年。而它得以重現江湖的重要原因在于，隨著理論的不斷完善，科學家們突然在某天發現神經網絡居然具備自主的學習能力。
這一發現的標志性事件之一發生在1986年，美國心理學家Rumelhart和深度學習之父Hinton發展了由心理學家Werbos在十二年前提出的BP算法，發表一篇反向傳播算法的論文。
此后20年，Hinton將神經網絡由一層改進為多層，深度學習進入實證。再后來，吳恩達通過機器學習訓練識別貓，DeepMind的AlphaGo戰勝世界圍棋冠軍，波士頓動力的Atlas和Spot……都是通過不斷的深度學習實現視覺、認知、NLP和自主行動的一次次智能化突破。
而量子計算未來能夠為人工智能帶來多大能量，我們仍需拭目以待。
不得不說，因為神經網絡近二十年來在產業界所做出的杰出貢獻，讓這一領域的各路AI大佬大放異彩。但通過對人工智能各流派底層邏輯的梳理，我們或許不應該對哪個流派過度迷信，畢竟無論是符號、行為，還是連接學派，本質上都是對人的認知方式和行為方式，或基于器質，或基于意識的思考和實踐。
其實吧，此次爭論中被Lecun Cue到的遞歸神經網絡之父Jürgen Schmidhuber也是AI界的懟懟紅人了。上面我們提到Rumelhart和Hinton發展了BP算法這事，還有后續。2019年，Hinton因為在人工智能深度學習方法基礎的反向傳播算法上的貢獻獲得了本田獎。Schmidhuber便發文對究竟是誰原創反向傳播提出了質疑，在他看來，“應該是Werbos在1982年明確提出了上述反向傳播算法的首個面向神經網絡的應用”。
與此同時，Schmidhuber還申訴：“他（Hinton）的深度前饋神經網絡是我1991年類似工作的翻版；1993年我的方法已經能夠解決先前一些無法解決的‘非常深度學習’任務。”
但Lecun顯然是不認的，而且不僅現在說他是“插旗的”，還曾認為“Jürgen對眾人的認可過于癡迷，總是說自己沒有得到應得的很多東西。幾乎是慣性地，總是在別人每次講話結束時都要站起來，說剛剛提出的成果有他的功勞，大體上看，這種行為并不合理。”
“I really have not changed my basic view of the way forward in Al.It's still based on DL, predictive world models, and self-supervised learning.”
“我真的沒有改變對Al發展方向的基本看法。它仍然是基于DL（Deeplearning，深度學習），預測世界模型和自監督學習。”
實際上，無論是哪個時代，科學大佬們的撕扯都無處不在。遙想三百多年前，牛頓、胡克、萊布尼茲也因為引力、微積分的見解和知識產權歸屬問題爭得不可開交，而科學也在他們的爭論中不斷拆解、重塑和進步。
所以，無論是四年前，還是四年后，大佬們的battle永遠喋喋不休……
參考鏈接：
-
https://www.zdnet.com/article/metas-ai-guru-lecun-most-of-todays-ai-approaches-will-never-lead-to-true-intelligence/
-
https://garymarcus.substack.com/p/how-new-are-yann-lecuns-new-ideas?sd=pf
-
得到App 吳軍 · 科技史綱60講 47| 信息時代的科學基礎和方法論
