本文來(lái)自網(wǎng)絡(luò)研究院。
想象一下人工智能自動(dòng)解釋并執(zhí)行法律的未來(lái)。
每一天，您都會(huì)不斷收到由政府和執(zhí)法部門(mén)直接發(fā)送的高度個(gè)性化的如何遵守法律的指示。我們會(huì)告訴您如何過(guò)馬路、上班路上開(kāi)車(chē)的速度以及您可以在網(wǎng)上說(shuō)什么或做什么——如果您遇到任何可能產(chǎn)生法律影響的情況，我們會(huì)實(shí)時(shí)準(zhǔn)確地告訴您該做什么。
想象一下，大規(guī)模制定這些個(gè)人法律指令的計(jì)算機(jī)系統(tǒng)是如此復(fù)雜，以至于沒(méi)有人能夠解釋它是如何推理或工作的。但是，如果您忽略指令，系統(tǒng)就會(huì)知道，并且它將被用作肯定會(huì)發(fā)生的起訴中的證據(jù)。
這個(gè)未來(lái)可能并不遙遠(yuǎn)——自動(dòng)檢測(cè)違法行為并不是什么新鮮事。超速攝像頭和交通信號(hào)燈攝像頭已經(jīng)存在多年。這些系統(tǒng)根據(jù)車(chē)牌自動(dòng)向車(chē)主發(fā)出罰單。在這種情況下，被告被推定有罪，除非他們通過(guò)點(diǎn)名并通知司機(jī)來(lái)證明其他情況。
在紐約，企業(yè)正在使用配備面部識(shí)別技術(shù)的人工智能系統(tǒng)來(lái)識(shí)別商店扒手。澳大利亞和英國(guó)的零售商正在使用類(lèi)似的人工智能系統(tǒng)來(lái)識(shí)別商店扒手，并向員工或保安人員提供實(shí)時(shí)定制的警報(bào)。正在嘗試更強(qiáng)大的自動(dòng)執(zhí)法和有針對(duì)性的監(jiān)視形式。
呼吸分析儀是自動(dòng)檢測(cè)的另一個(gè)例子。他們通過(guò)電化學(xué)反應(yīng)或紅外分析（基本上是帶有燃料電池或光譜儀的計(jì)算機(jī)）計(jì)算呼吸中的酒精分子數(shù)量來(lái)估計(jì)血液中的酒精含量。而且它們并非沒(méi)有爭(zhēng)議：全國(guó)各地的法院都發(fā)現(xiàn)呼吸分析儀設(shè)備及其驅(qū)動(dòng)軟件存在嚴(yán)重缺陷和技術(shù)缺陷。
盡管如此，刑事被告仍難以獲得設(shè)備或其軟件源代碼的訪問(wèn)權(quán)限，呼吸分析儀公司和法院經(jīng)常拒絕授予此類(lèi)訪問(wèn)權(quán)限。在少數(shù)情況下，法院確實(shí)下令此類(lèi)披露通常是在持續(xù)多年、代價(jià)高昂的法律斗爭(zhēng)之后發(fā)生的。
人工智能將使這個(gè)問(wèn)題變得更加復(fù)雜，并可能大大擴(kuò)展可以以這種方式執(zhí)行的法律類(lèi)型。一些法律學(xué)者預(yù)測(cè)，計(jì)算個(gè)性化法律及其自動(dòng)執(zhí)行是法律的未來(lái)。這些將由安東尼·凱西和安東尼·尼布利特所說(shuō)的“微指令”進(jìn)行管理，它為特定情況下的法律合規(guī)性提供個(gè)性化的指令。
由于監(jiān)控、通信技術(shù)和大數(shù)據(jù)分析的進(jìn)步，微指令將成為一種主要由機(jī)器塑造的新的主要法律形式。它們是“微觀的”，因?yàn)樗鼈儾皇强陀^的一般規(guī)則或標(biāo)準(zhǔn)，而是針對(duì)一種特定情況量身定制的。它們是“指令”，因?yàn)樗鼈円?guī)定了法律要求的行動(dòng)或不行動(dòng)。
數(shù)字千年版權(quán)法刪除通知是當(dāng)今微指令的一個(gè)例子。DMCA的執(zhí)行幾乎是完全自動(dòng)化的，版權(quán)“機(jī)器人”不斷掃描互聯(lián)網(wǎng)以查找侵犯版權(quán)的材料，并每天自動(dòng)向平臺(tái)和用戶發(fā)送數(shù)億條DMCA刪除通知。
DMCA刪除通知是根據(jù)收件人的具體法律情況量身定制的。它還根據(jù)法律指導(dǎo)采取行動(dòng)——刪除目標(biāo)內(nèi)容或證明其不侵權(quán)。
很容易看出零售商部署的用于識(shí)別商店扒手的人工智能系統(tǒng)可以如何重新設(shè)計(jì)以使用微指令。除了向企業(yè)主發(fā)出警報(bào)外，系統(tǒng)還可以向已識(shí)別的人員本身發(fā)送警報(bào)，并附有定制的法律指示或通知。
未來(lái)，人工智能在社會(huì)范圍內(nèi)解釋、應(yīng)用和執(zhí)行大多數(shù)法律，這將成倍放大公平、透明度和自由方面的問(wèn)題。忘掉軟件透明度吧，資源豐富的人工智能公司，比如今天的呼吸分析儀公司，毫無(wú)疑問(wèn)會(huì)出于競(jìng)爭(zhēng)原因而猛烈地保護(hù)他們的系統(tǒng)。
這些系統(tǒng)可能非常復(fù)雜，甚至連它們的設(shè)計(jì)者也無(wú)法解釋人工智能如何解釋和應(yīng)用法律——我們已經(jīng)在當(dāng)今的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)系統(tǒng)中看到了這一點(diǎn)，這些系統(tǒng)無(wú)法解釋它們的推理。
甚至法律本身也可能變得極其龐大和不透明。針對(duì)無(wú)數(shù)場(chǎng)景集體發(fā)送的法律微觀指令，每一個(gè)都代表了由不透明的計(jì)算過(guò)程制定的權(quán)威法律結(jié)論，可以創(chuàng)建一個(gè)廣泛且日益復(fù)雜的法律體系，并無(wú)限增長(zhǎng)。
這將我們帶到了問(wèn)題的核心：如果您被計(jì)算機(jī)指控，您是否有權(quán)審查該計(jì)算機(jī)的內(nèi)部運(yùn)作并可能在法庭上質(zhì)疑其準(zhǔn)確性？當(dāng)檢察官的證人是電腦時(shí)，交叉詢問(wèn)會(huì)是什么樣子？您如何訪問(wèn)、分析和理解與您的案件相關(guān)的所有微觀指令，以挑戰(zhàn)人工智能的法律解釋?zhuān)?/p>
法院如何能確保法律的平等適用？就像《審判》中弗朗茨·卡夫卡寓言中的鄉(xiāng)下人一樣，你會(huì)在等待法律的過(guò)程中死去，因?yàn)榉墒菬o(wú)限的且難以理解的。
這一制度將對(duì)自由構(gòu)成前所未有的威脅。要實(shí)現(xiàn)這種自動(dòng)化執(zhí)法，社會(huì)中無(wú)處不在的人工智能監(jiān)控是必要的。
最重要的是，研究包括我們之一進(jìn)行的實(shí)證研究表明，來(lái)自權(quán)威來(lái)源（國(guó)家或企業(yè)）的個(gè)性化法律威脅或命令可能會(huì)對(duì)人們自由言論或行動(dòng)的意愿產(chǎn)生強(qiáng)大的寒蟬效應(yīng)。
想象一下，從執(zhí)法部門(mén)收到關(guān)于在某種情況下該說(shuō)什么或該做什么的非常具體的法律指示：您是否覺(jué)得自己可以選擇自由行動(dòng)？
這是人工智能對(duì)未來(lái)的侵入性和拜占庭法則的愿景，令人不寒而栗。這將不同于我們?cè)谌祟?lèi)歷史上見(jiàn)過(guò)的任何其他法律體系，并且對(duì)我們的自由來(lái)說(shuō)更加危險(xiǎn)。
事實(shí)上，一些法律學(xué)者認(rèn)為，這個(gè)未來(lái)實(shí)際上將是法律的死亡。
但這并不是我們必須忍受的未來(lái)。對(duì)面部識(shí)別系統(tǒng)等監(jiān)控技術(shù)的擬議禁令可以擴(kuò)大到那些能夠?qū)崿F(xiàn)侵入性自動(dòng)化執(zhí)法的技術(shù)。法律可以強(qiáng)制人工智能系統(tǒng)具有可解釋性和可解釋性，以確保每個(gè)人都能理解和解釋系統(tǒng)如何運(yùn)行。
如果一個(gè)系統(tǒng)太復(fù)雜，也許不應(yīng)該在法律環(huán)境中部署它。個(gè)性化法律程序的執(zhí)行需要受到嚴(yán)格監(jiān)管，以確保監(jiān)督，并且只應(yīng)在不太可能產(chǎn)生寒蟬效應(yīng)的情況下使用，例如在基本權(quán)利和自由不會(huì)受到威脅的良性政府管理或監(jiān)管環(huán)境中。
人工智能將不可避免地改變法律進(jìn)程。已經(jīng)有了。但我們不必接受它最極端和最大的實(shí)例，無(wú)論是今天還是將來(lái)明天。
