在人工智能研究如火如荼的今天，似乎也是時候回過頭來思考一下模擬計算在未來所具有的意義。當人類已經(jīng)習慣于通過數(shù)字化編程控制機器，也許以神經(jīng)網(wǎng)絡為代表的模擬計算會把對于世界的控制權從人類手中奪走。這是一個值得探究的技術問題，同時也是一個不容忽視的倫理問題！
以電子數(shù)字計算機誕生，以及它們生成的代碼遍布全球的時間前后劃分，計算的歷史可以分為新舊兩個時期。舊時期的先知有托馬斯·霍布斯和萊布尼茨，他們帶來的是計算的邏輯基礎。新時期的先知則包括艾倫·圖靈、約翰·馮·諾伊曼、克勞德·香農(nóng)和諾伯特·維納，他們帶來了機器。
艾倫·圖靈對如何讓機器變得智能很感興趣。馮·諾伊曼的興趣是如何讓機器能自我復制?？藙诘?middot;香農(nóng)想了解如何排除噪聲的干擾，讓機器可靠地通信。而諾伯特·維納想知道的是機器需要多長時間能掌握控制權。
1949年維納發(fā)出警告，提出控制系統(tǒng)將脫離人類控制，當時正值第一代存儲程序電子數(shù)字計算機問世。因為這些系統(tǒng)需要人類程序員的直接監(jiān)督，所以世人并未把他的這番顧慮放在心上。只要程序員們還控制著這些系統(tǒng)，又能有什么問題呢？自此，關于自主控制的風險的爭論便一直與對數(shù)字編碼機器的威力和局限性的爭論有關。雖然這些機器擁有驚人的能力，但幾乎沒有真正的自治。這是一個危險的假設。如果數(shù)字計算被其他東西取代了，會怎樣呢？
電子工業(yè)在過去的幾百年中經(jīng)歷了兩個根本轉變：從模擬到數(shù)字，從真空管到固態(tài)器件。這些轉變一起發(fā)生，但并不意味著它們有著密不可分的聯(lián)系。正如使用真空管可以實現(xiàn)數(shù)字計算一樣，模擬計算也可以在固態(tài)器件中實現(xiàn)。即使真空管在商業(yè)上已經(jīng)消失，但模擬計算仍舊十分活躍。
模擬計算和數(shù)字計算之間沒有精確的區(qū)別。一般而言，數(shù)字計算涉及整數(shù)、二進制序列、確定性邏輯和被理想化為離散增量的時間。而模擬計算涉及實數(shù)、非確定性邏輯和連續(xù)函數(shù)，以及存在于現(xiàn)實世界中的連續(xù)時間。
想象一下，你需要找到一條路的中間點。你可以使用任何可用的增量來測量它的寬度，然后用數(shù)字方法計算出距離中間點最近的增量?；蛘?，你可以使用一根帶子作為模擬計算機，量出道路的寬度然后對折直接找到中間點。這種方法不受增量的局限。
許多系統(tǒng)在模擬和數(shù)字之間轉換運行。一棵樹將各種各樣的輸入整合成連續(xù)函數(shù)，但是如果你砍倒那棵樹，你就會發(fā)現(xiàn)它一直在用數(shù)字方法計年。
在模擬計算中，復雜性存在于網(wǎng)絡拓撲結構而不是代碼里。信息被處理為諸如電壓和相對脈沖頻率之類的值的連續(xù)函數(shù)，而不是對離散的位串的邏輯運算。因為不能容忍錯誤或模糊，數(shù)字計算需要隨時糾正錯誤。而模擬計算可以容忍錯誤，允許錯誤的出現(xiàn)。
自然界使用數(shù)字編碼來存儲、復制和重組核苷酸序列，但依賴模擬計算運行神經(jīng)系統(tǒng)，獲得智能和控制。每個活細胞中的遺傳系統(tǒng)都是一個具有存儲程序的計算機。但大腦不是。
數(shù)字計算機在兩種比特之間進行轉換：表示空間差異的比特和表示時間差異的比特。這兩種形式的信息、序列和結構之間的轉換是由計算機編程控制的，只要計算機需要人類程序員，我們就可以掌握控制權。
模擬計算機也在兩種信息形式之間進行轉換：空間結構和時間行為。沒有代碼，沒有編程。我們還無法完全理解自然界是如何進化出模擬計算機的，這種模擬計算機就是神經(jīng)系統(tǒng)，它們體現(xiàn)了所有我們從世界吸收的信息。它們學習。它們學習的內(nèi)容之一就是控制。它們學習控制自己的行為，學習盡可能地控制自己的環(huán)境。
甚至可以追溯到計算機科學誕生之前，計算機科學就已經(jīng)開始實現(xiàn)神經(jīng)網(wǎng)絡了，但在大多數(shù)情況下，這些都是通過數(shù)字計算機模擬的神經(jīng)網(wǎng)絡，而不是自然界中自然進化的神經(jīng)網(wǎng)絡。現(xiàn)在這一切開始改變：自下而上的，是無人戰(zhàn)斗機、自動駕駛汽車和手機這三駕馬車推動了神經(jīng)形態(tài)微處理器的發(fā)展，這種微處理器將真正的神經(jīng)網(wǎng)絡而不是模擬的神經(jīng)網(wǎng)絡直接實施在硅片或其他基片上。自上而下的，則是我們最大、最成功的企業(yè)在滲透和控制世界時越來越多地轉向模擬計算。
當我們爭論數(shù)字計算機的智能時，模擬計算已悄然超越了數(shù)字計算，就像在第二次世界大戰(zhàn)之后，像真空管這樣的模擬組件被用來建造數(shù)字計算機一樣?？梢赃\行有限代碼的、單獨確定的有限狀態(tài)處理器，正在創(chuàng)造大規(guī)模具有不確定性、非有限狀態(tài)的多細胞生物，它們在現(xiàn)實世界中恣意橫行著。所產(chǎn)生的模擬、數(shù)字混合系統(tǒng)共同地處理比特流，就像在真空管中處理電子流一樣，而不是像產(chǎn)生流動的離散狀態(tài)裝置那樣一個個地處理比特。比特是新的電子。模擬再次回歸，其本質(zhì)是控制。
從物流到車流再到意識流，所有這些系統(tǒng)都按照統(tǒng)計運行，就像脈沖頻率編碼信息在神經(jīng)元或大腦中處理一樣。智能的出現(xiàn)引起了智人的注意，但我們應該擔心的是控制的出現(xiàn)。
想象一下，在1958年，你正試圖保衛(wèi)美國大陸免受空襲。為了區(qū)分敵機，你需要的除了計算機網(wǎng)絡和預警雷達站點之外，還需要一個完備的、實時更新的商業(yè)空中交通地圖。美國建立了一個這樣的系統(tǒng)，命名為SAGE（半自動地面防空系統(tǒng)）。SAGE又催生了Sabre，這是第一個實時預訂航空旅行的綜合預訂系統(tǒng)。Sabre及其衍生品很快就不僅能提供可預訂座位圖，還能根據(jù)分散的情報，控制客機將飛往的目的地和起飛時間。
但是在某個地方有沒有一個控制室，有人在操控呢？也許沒有。比如說，你建立一個公路交通實時顯示系統(tǒng)，當汽車進入這個區(qū)域時，你就可以得知汽車當時的速度和行駛地點。這是一個完全分散的控制系統(tǒng)。除了系統(tǒng)本身之外，沒有任何系統(tǒng)控制模型。
想象一下，現(xiàn)在是21世紀的第一個10年，你想實時追蹤人際關系的復雜性。欲了解一個小學院的社交生活，你可以構建一個中央數(shù)據(jù)庫，時刻更新，但在更大范圍內(nèi)，這個數(shù)據(jù)庫的維護會非常困難。最好是發(fā)出一個簡單的半自治代碼的免費拷貝，本地托管，讓社交網(wǎng)絡自己更新。這個代碼由數(shù)字計算機執(zhí)行，但是由系統(tǒng)整體執(zhí)行的模擬計算，其復雜性遠遠超過底層代碼。由此得到的社交圖的脈沖頻率編碼模型便成為社交圖本身。它自校園蔓延開來，直至蔓延到整個世界。
如果你想制造一臺機器，讓它明白人類所了解的一切到底是什么意思，該怎么辦？有了摩爾定律，很快世界上所有的信息都將數(shù)字化。你可以掃描印刷過的每一本書，收集人們寫過的每一封電子郵件，每天整理最近49年的視頻，同時實時追蹤人們的位置以及他們做的事情。但是你如何理解其中的含義呢？即使在數(shù)字時代，你也無法用嚴格的邏輯概念來定義這一切，因為對于人類而言，含義并不是合乎邏輯的。當你收集了所有可能的答案后，你最多能做的就是提出明確的問題，然后編譯一個脈沖頻率加權圖，來說明所有事物是如何關聯(lián)的。還沒等你意識到，你的系統(tǒng)就已經(jīng)不僅能觀察和繪制事物的意義圖，甚至能開始構建意義了。一段時間后，它便會控制意義，就像交通圖開始控制交通流量一樣，即使似乎沒有人在控制這一切。
關于人工智能，我們有三條定律。
第一定律是阿什比定律，這一定律以控制論專家、《大腦設計》（Design for a Brain）一書的作者W.羅斯·阿什比（W.Ross Ashby）的名字命名。該定律認為任何有效的控制系統(tǒng)必須與它控制的系統(tǒng)一樣復雜。
第二定律由馮·諾伊曼提出。該定律指出，一個復雜系統(tǒng)的定義特征一定包含對其行為的最簡單的描述。生物體最簡單的完整模型是生物體本身。試圖減少系統(tǒng)行為，達到任何形式化描述的程度，只會使得事情變得更復雜，而不是變得更簡單。
第三定律指出，任何一個簡單到可以理解的系統(tǒng)都不會復雜到可以智能化行事，而任何一個復雜到足以智能化行事的系統(tǒng)都會太過于復雜而無法理解。
第三定律給那些相信在理解智能之前，我們不用擔心機器會產(chǎn)生超人類智能的人帶來安慰。但第三定律存在漏洞。我們完全有可能在不理解時構建某個東西。構建一個能運作的大腦，你不需要完全理解它是如何運作的。無論程序員及其倫理顧問如何監(jiān)控計算程序，他們都永遠無法解決這個漏洞?？梢宰C明的是，“好的”人工智能是個神話。我們與真正的人工智能之間的關系將永遠是一個信仰問題，而不是證據(jù)問題。
我們過于擔心機器智能，卻不太擔心機器的自我復制、通信和控制。計算的下一個革命將以模擬系統(tǒng)興起、數(shù)字程序對模擬系統(tǒng)不再有控制權為標志。對那些相信他們能制造機器來控制一切的人，大自然對此的反應將是允許他們建造一臺機器，來控制他們。
