不久前，美國國防部高級研究計劃局（DARPA）的ACE計劃資助的一項名為“阿爾法狗斗”（AlphaDogfight Trials）的VR模擬人機(jī)對抗賽中，一個AI系統(tǒng)駕駛的F-16戰(zhàn)斗機(jī)，以5比0的大比分狂虐人類王牌飛行員，顯示出AI戰(zhàn)斗機(jī)在投入實戰(zhàn)對抗上面的巨大潛力。
這讓很多軍迷們紛紛驚呼，可能以后第六代戰(zhàn)斗機(jī)根本不需要什么人類飛行員了。當(dāng)然這也讓我們不禁擔(dān)憂，如果人工智能在戰(zhàn)場上失控，那么人類豈不是很難對付他們了？
無論是期待，還是恐懼，反正人工智能在戰(zhàn)爭武器上的應(yīng)用已經(jīng)悄然開啟。
據(jù)美媒體報道，借助對老式退役戰(zhàn)機(jī)F-16的無人駕駛能力的改造，美國空軍正在加速人工智能戰(zhàn)機(jī)的研制。與此同時，美國海軍也提出基于人工智能的第六代戰(zhàn)斗機(jī)設(shè)計，目前已經(jīng)結(jié)束概念設(shè)計的階段，開始探索相關(guān)基于人工智能的傳感器、新型武器和發(fā)動機(jī)技術(shù)的開發(fā)。
很顯然，DARPA推動的這場AI空戰(zhàn)挑戰(zhàn)賽，正是在為今后戰(zhàn)斗機(jī)的自動化作戰(zhàn)做技術(shù)預(yù)演。如果僅僅從技術(shù)角度觀察，我們可以說AI又拓展了一個新的應(yīng)用領(lǐng)域，而且表現(xiàn)確實相當(dāng)出色，但如果站在一個更宏觀的背景下，我們其實在見證一場不得了的事情，那就是AI技術(shù)可能帶來的一場新一輪的AI技術(shù)軍備競賽。
我們該如何來看待這一次AI戰(zhàn)斗機(jī)的牛刀初試，又該如何看待AI所可能開啟的新一輪軍備競賽？雖然現(xiàn)在可能不會有什么明確的答案，但仍然值得我們做一番“未雨綢繆”式的思考。
AI戰(zhàn)斗機(jī)表現(xiàn)如何？
在這一次“阿爾法狗斗”空戰(zhàn)對抗賽中勝出的AI系統(tǒng)名為“Heron”，是由美國的一家國防承包商蒼鷺系統(tǒng)公司（Heron Systems）研發(fā)。在和人類王牌飛行員Banger進(jìn)行決戰(zhàn)之前，“Heron”AI系統(tǒng)已經(jīng)在模擬空戰(zhàn)中擊敗了另外7家公司的AI，包括美國最大軍火商洛克希德馬丁公司的AI系統(tǒng)。
要知道蒼鷺公司也只是一家30多人的新興的技術(shù)公司，可見并不是實力越強(qiáng)勁的公司就越容易拿到AI的領(lǐng)先優(yōu)勢，同時也能看到只要能夠抓住人工智能的核心算法能力，即使是小團(tuán)隊也能取得一定的創(chuàng)新優(yōu)勢。
由于受到疫情影響，這場“阿爾法狗斗”對抗賽改成了線上直播。從直播的對抗賽來看，Heron的表現(xiàn)相當(dāng)完美，不僅始終在攻擊上占據(jù)上風(fēng)，而且射擊相當(dāng)精準(zhǔn)，而人類飛行員盡管在模擬對抗中可以突破人體極限，但仍然未能在模擬空戰(zhàn)中占得絲毫優(yōu)勢。
根據(jù)專家分析，Heron一直能夠憑借態(tài)勢感知能力優(yōu)勢率先占位，并通過精確判斷能力對人類飛行員形成碾壓。在預(yù)判的反應(yīng)速度上，人類飛行員需要0.3秒才能對敵機(jī)的行動做出反應(yīng)，而AI飛行員在幾毫秒內(nèi)就可以做出反應(yīng)，就算模擬F-16戰(zhàn)機(jī)從高速俯沖到低空盤旋，AI仍然具有超高的瞄準(zhǔn)能力，而這一點(diǎn)是人類飛行員難以做到的。
除了極具領(lǐng)先優(yōu)勢的操作技能，AI本身沒有任何人類的身體承壓極限，更不會有心理上面的任何波動，可以說飛機(jī)的承壓極限就是AI的行動限制極限，因此，AI系統(tǒng)可以讓戰(zhàn)斗機(jī)做出人類難以完成的極限動作和反應(yīng)速度。
有人分析認(rèn)為，5比0的結(jié)果其實沒有真正顯示出AI的實力，而那些被Heron打敗還沒來得及跟人類飛行員較量的AI飛行員算法系統(tǒng)，其實也都可能戰(zhàn)勝頂尖的人類飛行員。
一方面所有參賽隊伍所使用的人工智能算法和工具并無本質(zhì)差距，都只是采用不同的思路和方法來解決仿真模擬環(huán)境中視距內(nèi)空戰(zhàn)問題；另一方面，這些AI飛行員系統(tǒng)都經(jīng)歷了快速的迭代訓(xùn)練，進(jìn)步神速。以奪冠的Heron為例，從去年底參賽到今年8月，Heron在經(jīng)過至少40億次仿真訓(xùn)練后，已經(jīng)相當(dāng)于擁有30年的F-16駕駛經(jīng)驗，雖然之前一直是模擬的是F-15戰(zhàn)機(jī)，但在比賽前很短時間就能駕馭F-16戰(zhàn)機(jī)，輕松擊敗F-16的王牌飛行員。
不過也有專家指出，這一次人機(jī)大戰(zhàn)是在有限場景下的模擬對抗，其場景只是簡單的一對一視距內(nèi)項目，相比真實的空戰(zhàn)場景來說復(fù)雜度要低出幾個數(shù)量級。此外，相比AlphaGo圍棋、星際爭霸、Dota2等人機(jī)對戰(zhàn)相比，“阿爾法狗斗”在游戲復(fù)雜度、信息可觀測性和反應(yīng)速度等方面所展現(xiàn)出的難度和特殊性還并不算突出。因此，在真實的人機(jī)對抗場景中，AI還不一定能夠完勝人類。
不過，AI戰(zhàn)斗機(jī)的技術(shù)方向和戰(zhàn)略意義已經(jīng)凸顯。我們需要進(jìn)一步看下美國國防部是如何看待這一技術(shù)方向的。
美國國防部的AI藍(lán)圖
對于美國已經(jīng)納入時間表的第六代戰(zhàn)斗機(jī)，雖然沒有詳細(xì)的技術(shù)標(biāo)準(zhǔn)透露出來，但是人工智能的駕駛技術(shù)在新一代戰(zhàn)機(jī)上的應(yīng)用已經(jīng)是不爭的事實。
根據(jù)美國國防部DARPA的ACE計劃，這次的空戰(zhàn)對抗推進(jìn)空戰(zhàn)自主化的最佳切入點(diǎn)，這一項目可以逐步提高飛行員團(tuán)體對人工智能的信任程度，并完成飛行員角色從單純飛行器操縱者到戰(zhàn)場指揮官的轉(zhuǎn)變，使得AI控制的無人機(jī)可以和人類駕駛的戰(zhàn)機(jī)一起編隊飛行，為人類戰(zhàn)機(jī)提供自主化協(xié)同和戰(zhàn)斗輔助。
ACE更進(jìn)一步的計劃是，AI戰(zhàn)機(jī)也將完成空戰(zhàn)算法從仿真模擬到全尺寸實戰(zhàn)，從布局到全局行為的躍遷，推動其最終“馬賽克戰(zhàn)”的實現(xiàn)提供有力支撐。
據(jù)預(yù)測，第六代戰(zhàn)斗機(jī)仍然會設(shè)置飛行員駕駛艙，也就是還是會由人類飛行員為主導(dǎo)，人工智能駕駛技術(shù)進(jìn)行輔助。但預(yù)計屆時人工智能駕駛系統(tǒng)能夠全程接管空戰(zhàn)操作，人類只需擔(dān)當(dāng)最終攻擊命令的下達(dá)即可。
當(dāng)然，這一界限很可能輕易突破，由于人工智能有更好的判斷標(biāo)準(zhǔn)和反應(yīng)速度，那么大概率飛行員也會授權(quán)人工智能自行攻擊。而進(jìn)一步的情況是，如果戰(zhàn)斗機(jī)想要發(fā)揮全部戰(zhàn)斗性能，那就可能不再需要飛行員出現(xiàn)在駕駛艙中，最多只需要遠(yuǎn)程監(jiān)控而已。最后的底線是，人類飛行員或者指揮官能夠有比人工智能戰(zhàn)機(jī)更高的權(quán)限來決定停止攻擊。
而這些技術(shù)推進(jìn)都要看美國軍方對于人工智能戰(zhàn)機(jī)或者其他武器的界定。由于AI武器系統(tǒng)存在著根本性的倫理道德挑戰(zhàn)，美國國防部一直聲稱不會“賦予人工智能執(zhí)行殺人命令的能力”，而是更愿意推進(jìn)其在情報分析方面的應(yīng)用開發(fā)。但是就如剛剛我們所討論的，戳破這一層窗戶紙只需要輕輕地往前一小步。
根據(jù)美國國防部近幾年推出的一系列政策文件來看，美國早已在倡導(dǎo)通過投資自主性、人工智能和機(jī)器學(xué)習(xí)等技術(shù)以獲得具有競爭力的軍事優(yōu)勢，并且國防部一直在把這些政策轉(zhuǎn)化為具體的行動，從觀念、組織和技術(shù)上破除發(fā)展人工智能的阻礙。
上個月26日，美國國會研究服務(wù)處發(fā)布的《人工智能與國家安全》報告顯示，美國國防部正在考慮人工智能在包括情報、監(jiān)視與偵察（ISR）、后勤、網(wǎng)絡(luò)空間作戰(zhàn)、信息戰(zhàn)、指揮與控制、半自主和自主載具，以及殺傷性自主武器系統(tǒng)上面的多種不同應(yīng)用。
從這一信息來看，美國已經(jīng)在致力于將“人工智能技術(shù)帶上戰(zhàn)場”。而這一報告連同ACE計劃在AI戰(zhàn)機(jī)上面的進(jìn)程，無疑不在傳遞明確的信號，那就是AI技術(shù)為主導(dǎo)的軍備競賽的潘多拉盒子終究會被打開。
AI軍備競賽的囚徒困境
在多年前，AI領(lǐng)域的學(xué)術(shù)界和企業(yè)界已經(jīng)意識到AI技術(shù)既能造福于人類，又可能會給人類帶來巨大的威脅，其中最主要的一大威脅就是AI可以用于致命戰(zhàn)爭武器的研發(fā)上面。
2018年，在瑞典舉行的2018國際人工智能聯(lián)合會議上，包括埃隆•馬斯克（Elon Musk）和Alphabet旗下人工智能子公司DeepMind的三位聯(lián)合創(chuàng)始人在內(nèi)的科技大佬簽署了一份協(xié)議，承諾不會發(fā)展致命的人工智能武器系統(tǒng)。這一協(xié)議是由一個名為“生命未來研究所”的研究機(jī)構(gòu)起草，當(dāng)時據(jù)稱已經(jīng)有超過2400人、160家公司和組織簽署了這份協(xié)議，承諾他們將既不參與也不支持開發(fā)、制造、交易或使用致命自主武器，簽署方還呼吁各國政府通過法律禁止此類武器。
顯然，這一愿景太過理想化。首先是人工智能技術(shù)實在“太香”，可以用于圍棋對弈、游戲?qū)?zhàn)的深度強(qiáng)化學(xué)習(xí)難道不能用于任務(wù)更簡單的軍事對戰(zhàn)嗎？從實際表現(xiàn)看堪稱完美。其次是對于那些追求國家利益至上和軍事領(lǐng)先的政府來說，放著如此誘人的技術(shù)哪有不搶先占領(lǐng)制高點(diǎn)的道理呢？
盡管一些科技公司在參與政府的軍事項目的時候會受到一些員工或者外界的批評和抵制，但是誰又能真正舍得如此豐厚的巨額訂單呢？另外，即使這些大公司不做，也有很多的創(chuàng)業(yè)公司和軍火制造商背景的企業(yè)也會參與其中。
我們都知道人類所面臨的“黑暗森林”體系以及由于相互猜忌而導(dǎo)致的“囚徒困境”，使得無論是一個國家還是一家企業(yè)都會很自然地把對手當(dāng)做假想敵，把發(fā)展更先進(jìn)武器當(dāng)做壓制對手的終極辦法，直到上個世紀(jì)全球陷入到美蘇爭霸的核戰(zhàn)爭危機(jī)當(dāng)中，而如今則可能是人工智能技術(shù)所帶來的大規(guī)模自動化武器和戰(zhàn)爭當(dāng)中。
對于未來的人工智能戰(zhàn)爭，未來可能有兩種極端的設(shè)想。一種是極為樂觀的猜想。由于人工智能武器的自動化程度，人類不必親自參與到現(xiàn)實的戰(zhàn)場沖突當(dāng)中。所有的戰(zhàn)爭可能都是在無人參與的條件下進(jìn)行。這一場景類似于春秋時墨子入楚，與公輸班現(xiàn)場演示攻防戰(zhàn)一樣，不用真正經(jīng)歷戰(zhàn)爭的殘酷，在“虛擬戰(zhàn)場”或者無人煙的海洋、荒漠就把戰(zhàn)爭勝負(fù)決出。當(dāng)然，這種結(jié)果說說就好。另一種就是悲觀的猜想。人工智能武器不僅被這些經(jīng)濟(jì)軍事大國掌握，也成為眾多動亂國家、非法武裝掌握的武器，一些非常規(guī)性殺傷性武器和自動化武器被濫用，整個世界將陷入到更加危險的沖突和戰(zhàn)爭境地。而這很可能由于地緣政治的惡化而出現(xiàn)。
正如歷史一再重演的一樣，戰(zhàn)爭是人類代價最大的集體行為，又是最容易應(yīng)用先進(jìn)科技的領(lǐng)域。盡管大多數(shù)人已經(jīng)從歷史經(jīng)驗中吸取過教訓(xùn)，也能預(yù)見到人工智能武器的危險后果，但這一次人工智能技術(shù)浪潮將不可避免地應(yīng)用在未來軍事的方方面面。
作為生于和平年代的我們，即便對這一場加速到來的AI的軍備競賽沒有非常直觀的或好或壞的認(rèn)知，但我們?nèi)匀恍枰獙@一趨勢保持警惕，并能希望看到對世界和平發(fā)展富有責(zé)任的大國們能在AI的軍備競賽上保持理性，并能對AI武器的邊界和范圍達(dá)成共識。
從《三體》的啟示來看，也許只有出現(xiàn)威脅整個人類的敵人出現(xiàn)，我們才可能團(tuán)結(jié)起來一致對外。那么，未來我們“努力”尋找外星人，讓AI去征服太空，這個目標(biāo)它不香嗎？
