隨著科技的發(fā)展，人工智能技術(shù)，開(kāi)始深入人們的生活。它雖然沒(méi)有像科幻電影里一樣，出現(xiàn)在人們的面前。但是現(xiàn)實(shí)中，的確存在著。而在這些技術(shù)發(fā)展過(guò)程之中，也存在著一些需要提前解決的問(wèn)題。例如臉譜網(wǎng)在發(fā)放廣告的時(shí)候，就會(huì)對(duì)用戶進(jìn)行解釋?zhuān)瑸槭裁磿?huì)遇到這樣的廣告。而正式因?yàn)橛幸恍?，?duì)人工智能算法有所疑慮才會(huì)如此。
01
一、謹(jǐn)慎對(duì)待決策研究
沒(méi)有公司愿意被視為，是在延續(xù)陳舊思想，或根深蒂固的社會(huì)不公。因此公司可能不愿分享，其決策算法的具體工作原理。以避免被指責(zé)為，不公正的歧視。公司也可能不愿為，所做的決定提供解釋。因?yàn)檫@些信息，會(huì)使外部人員更容易，對(duì)他們的專(zhuān)有系統(tǒng)進(jìn)行逆向工程。
在北卡羅來(lái)納州達(dá)勒姆的杜克大學(xué)，研究可解讀機(jī)器學(xué)習(xí)的，計(jì)算機(jī)科學(xué)家辛西婭魯丁（Cynthia Rudin）。曾經(jīng)表示過(guò)：“有關(guān)信用評(píng)分的解釋令人極其不滿意。”。她認(rèn)為信用評(píng)級(jí)機(jī)構(gòu)，故意掩蓋其基本原理。他們不會(huì)告訴你，他們是怎么計(jì)算的。那是他們的‘秘訣’，對(duì)吧？從這里我們也可以感受到，一些人的警覺(jué)心理。
之所以要謹(jǐn)慎，還有另一個(gè)原因。一旦人們對(duì)某個(gè)決策系，統(tǒng)進(jìn)行了逆向工程。就會(huì)更容易，開(kāi)始選擇玩弄它。事實(shí)上圍繞這一點(diǎn)，已經(jīng)有了一個(gè)名為“搜索引擎優(yōu)化”的龐大行業(yè)。該行業(yè)會(huì)對(duì)網(wǎng)頁(yè)，進(jìn)行表面上的修改。使其在搜索排名中，可以變得名列前茅。那么，為什么一些使用決策人工智能的公司，如此熱衷于提供解釋呢？
為了找出答案，劍橋大學(xué)的計(jì)算機(jī)科學(xué)家烏曼。及其合作者采訪了30家機(jī)構(gòu)，50名科學(xué)家、工程師和高管。他們了解到，一些高管要求其數(shù)據(jù)科學(xué)家，加入可解釋性工具。這樣公司就可以，宣稱(chēng)自己使用了透明的人工智能。數(shù)據(jù)科學(xué)家們并不知道，這是針對(duì)誰(shuí)的。需要什么樣的解釋?zhuān)膊恢拦緸槭裁匆_(kāi)放。
“基本上，高層都喜歡，可解釋性的花言巧語(yǔ)。”巴特說(shuō)，“而數(shù)據(jù)科學(xué)家，則會(huì)爭(zhēng)先恐后地，想辦法實(shí)現(xiàn)它。”數(shù)據(jù)科學(xué)家們的解釋?zhuān)寤ò碎T(mén)，但大多分為兩類(lèi)。
一類(lèi)是對(duì)基于人工智能的系統(tǒng)，如何運(yùn)作的解釋。另一類(lèi)是對(duì)特定決策的解釋。它們分別稱(chēng)為，全局解釋和局部解釋?zhuān)瑑烧叨伎梢员徊倏v。
位于魁北克大學(xué)的烏爾里希阿沃吉（Ulrich Avodji），和他的同事演示了如何修改全局解釋使其看起來(lái)更好。他們使用了一種被稱(chēng)為，LaundryML的算法（該算法對(duì)這種公平清洗來(lái)說(shuō)已經(jīng)足夠合適）。來(lái)檢查因內(nèi)部運(yùn)作過(guò)于復(fù)雜，人們很難識(shí)別的機(jī)器學(xué)習(xí)系統(tǒng)。研究人員采用了LaundryML，來(lái)應(yīng)對(duì)XAI研究經(jīng)常遇到的兩項(xiàng)挑戰(zhàn)。
02
二、對(duì)挑戰(zhàn)的研究工作
第一項(xiàng)任務(wù)是根據(jù)，個(gè)人的各種屬性來(lái)預(yù)測(cè)，某人的收入是否超過(guò)5萬(wàn)美元。可能使此人成為一個(gè)，良好的貸款候選人。
第二項(xiàng)任務(wù)是根據(jù)一組不同的屬性，來(lái)預(yù)測(cè)罪犯在出獄后的兩年內(nèi)，是否會(huì)再次犯罪。與通常用于生成解釋的算法不同，LaundryML包含了某些公平性測(cè)試。以確保解釋?zhuān)ㄔ枷到y(tǒng)的簡(jiǎn)化版本），在預(yù)測(cè)收入和累犯時(shí)，不會(huì)優(yōu)先考慮性別或種族等因素。
借助LaundryML，研究人員，能夠得出簡(jiǎn)單的規(guī)則列表。這些規(guī)則列表，看起來(lái)比原來(lái)有偏見(jiàn)的，系統(tǒng)公平得多。但其給出的結(jié)果，基本相同。令人擔(dān)憂的是，企業(yè)可能會(huì)將這樣的，規(guī)則列表作為解釋。以證明自己的決策，體系是公平的。
機(jī)器學(xué)習(xí)系統(tǒng)整體操作的辦法是給出其決策抽樣。機(jī)器學(xué)習(xí)系統(tǒng)整體操作的辦法是給出其決策抽樣。
2020年2月，日本理化研究所高級(jí)情報(bào)項(xiàng)目中心研究員福地和人（Kazuto Fukuchi）及其兩位同事介紹了一種方法，該方法可以從以前的決策中選擇一部分，這樣一來(lái)，在判斷系統(tǒng)是否不公平的審計(jì)員看來(lái)，該樣本就具有代表性了。雖然精心挑選的樣本符合某些公平標(biāo)準(zhǔn)，但這不代表整個(gè)決策集都符合。
各組織機(jī)構(gòu)需要更頻繁地，為個(gè)別決策提供解釋。而不是解釋其系統(tǒng)是如何工作的。其中一種技術(shù)。依賴(lài)于XAI研究人員稱(chēng)為。“關(guān)注”（attention）的東西、它反映了決策系統(tǒng)的，輸入部分和輸出部分之間的關(guān)系。
他們認(rèn)為關(guān)注值表明了，最終判斷對(duì)某些屬性的依賴(lài)程度。但是卡內(nèi)基梅隆大學(xué)的扎卡里立普頓（Zachary Lipton），及其同事則對(duì)“關(guān)注”的整個(gè)概念表示懷疑。
這些研究人員訓(xùn)練了，各種神經(jīng)網(wǎng)絡(luò)閱讀醫(yī)生的簡(jiǎn)短檔案。并預(yù)測(cè)這些醫(yī)生中，誰(shuí)擅長(zhǎng)外科手術(shù)。他們會(huì)確保這些網(wǎng)絡(luò)，不會(huì)關(guān)注表示性別的詞語(yǔ)。一個(gè)只考慮關(guān)注因素的解釋?zhuān)瑫?huì)讓人覺(jué)得。這些網(wǎng)絡(luò)并沒(méi)有性別歧視。
但奇怪的是，如果在檔案中刪除，“女士”這樣的詞。預(yù)測(cè)準(zhǔn)確性就會(huì)受到影響。這表明該網(wǎng)絡(luò)，實(shí)際上仍在使用性別，來(lái)預(yù)測(cè)一個(gè)人的專(zhuān)長(zhǎng)。
結(jié)語(yǔ)：我們并不清楚“關(guān)注”指標(biāo)，實(shí)際上指的是什么，這就為欺騙打開(kāi)了空間。不過(guò)即使是，不完整或誤導(dǎo)性的解釋。它們對(duì)于調(diào)試和推動(dòng)，公平也是有價(jià)值的。借用一句有時(shí)用于描述，統(tǒng)計(jì)模型的格言：所有的解釋都是錯(cuò)誤的，（包括解釋人工智能黑匣子工作原理的簡(jiǎn)單解釋?zhuān)?，但有些是有用的。因此?duì)于人工智能市場(chǎng)來(lái)說(shuō)，未來(lái)發(fā)展的時(shí)間還很漫長(zhǎng)。
