本文來(lái)自微信公眾號(hào)“人工智能與物聯(lián)網(wǎng)”，作者/chris han。
算法對(duì)于物聯(lián)網(wǎng)至關(guān)重要。
聯(lián)網(wǎng)設(shè)備自動(dòng)駕駛我們的汽車;控制我們家的光、熱和安全;并為我們購(gòu)物?？纱┐髟O(shè)備監(jiān)測(cè)我們的心率和氧氣水平，告訴我們什么時(shí)候起床以及如何走動(dòng)，并詳細(xì)記錄我們的行蹤。智能城市由大量物聯(lián)網(wǎng)設(shè)備和應(yīng)用程序提供支持，通過(guò)指揮交通、衛(wèi)生、公共管理和安全來(lái)控制全球數(shù)百萬(wàn)人的生活。如果沒(méi)有算法，物聯(lián)網(wǎng)在我們?nèi)粘Ｉ钪械挠绊懥κ遣豢上胂蟮?，但我們?duì)算法功能、邏輯和安全性了解多少?
大多數(shù)算法的計(jì)算速度和復(fù)雜性都妨礙了有效的人工審查。他們?cè)谝粋€(gè)黑匣子里工作。最重要的是，大多數(shù)物聯(lián)網(wǎng)應(yīng)用算法都是專有的，并在雙黑匣子中運(yùn)行。如果結(jié)果是積極的，那么這種現(xiàn)狀可能是可以接受的，并且算法沒(méi)有危害。不幸的是，情況并非總是如此。
當(dāng)黑匣子算法出錯(cuò)并造成物質(zhì)、物理、社會(huì)或經(jīng)濟(jì)損害時(shí)，它們也會(huì)損害物聯(lián)網(wǎng)運(yùn)動(dòng)。這些錯(cuò)誤削弱了該行業(yè)確保更廣泛采用智能設(shè)備所需的社會(huì)和政治信任，這是推動(dòng)該領(lǐng)域向前發(fā)展的關(guān)鍵。
不透明的算法可能代價(jià)高昂，甚至是致命的
黑盒算法可能會(huì)導(dǎo)致重大的現(xiàn)實(shí)世界問(wèn)題。例如，加利福尼亞州優(yōu)勝美地山谷有一段不起眼的道路，一直讓自動(dòng)駕駛汽車感到困惑，目前，我們?nèi)匀粵](méi)有答案。開(kāi)闊的道路自然充滿了風(fēng)險(xiǎn)和危險(xiǎn)，但你自己的家呢?智能助手可以傾聽(tīng)您的聲音，并滿足您在購(gòu)物、供暖、安全以及幾乎任何其他適合自動(dòng)化的家庭功能方面的愿望和命令。然而，當(dāng)智能助手開(kāi)始裝傻，不聽(tīng)你，而是聽(tīng)電視時(shí)會(huì)發(fā)生什么?
網(wǎng)上流傳著一則關(guān)于許多智能家居助理發(fā)起不想要的網(wǎng)上購(gòu)物的軼事，因?yàn)槭サ貋喐鏑W6新聞的主持人吉姆·巴頓(Jim Patton)說(shuō)出了這句話：“Alexa給我訂了一個(gè)玩具屋。”這是否以如此大規(guī)模發(fā)生是無(wú)關(guān)緊要的。真正的問(wèn)題是玩具屋事件聽(tīng)起來(lái)很有道理，并且再次引發(fā)了人們對(duì)物聯(lián)網(wǎng)設(shè)備內(nèi)部運(yùn)作的懷疑，我們將日常生活、舒適性和安全性委托給了這些設(shè)備。
從物聯(lián)網(wǎng)的角度來(lái)看，此類事件的無(wú)形損害是相當(dāng)大的。當(dāng)一輛自動(dòng)駕駛汽車出現(xiàn)故障時(shí)，所有自動(dòng)駕駛汽車的聲譽(yù)都會(huì)受到影響。當(dāng)一位智能家居助理做出愚蠢的事情時(shí)，所有智能家居助理的智能都會(huì)受到質(zhì)疑。
房間里的數(shù)據(jù)大象
每次算法做出錯(cuò)誤決定時(shí)，其提供者都會(huì)承諾進(jìn)行徹底調(diào)查并迅速糾正。然而，由于所有這些算法的專有性、營(yíng)利性，當(dāng)局和公眾無(wú)法驗(yàn)證發(fā)生了哪些改進(jìn)。最后，我們必須相信公司的話。屢次犯錯(cuò)使這成為一個(gè)困難的問(wèn)題。
公司不披露其算法內(nèi)部運(yùn)作的一個(gè)主要原因——在他們可以理解的范圍內(nèi)——是他們不想展示他們使用我們的數(shù)據(jù)進(jìn)行的所有操作。自動(dòng)駕駛汽車會(huì)記錄每次旅行的詳細(xì)日志。家庭助理跟蹤房子周圍的活動(dòng);記錄溫度、光線和音量設(shè)置;并保持不斷更新的購(gòu)物清單。所有這些個(gè)人身份信息都是集中收集的，讓算法學(xué)習(xí)并將信息傳輸?shù)侥繕?biāo)廣告、詳細(xì)的消費(fèi)者檔案、行為推動(dòng)和徹頭徹尾的操縱中。
回想一下，劍橋分析公司(Cambridge Analytica)將8700萬(wàn)毫無(wú)戒心的用戶的社交媒體檔案信息有效地武裝起來(lái)，誤導(dǎo)選民，并有助于扭轉(zhuǎn)整個(gè)美國(guó)總統(tǒng)選舉的局面。如果你的朋友列表和一些在線討論小組足以讓一個(gè)算法確定影響你的信念和行為的最佳方式，那么你的心率、運(yùn)動(dòng)和睡眠模式的詳細(xì)記錄可以實(shí)現(xiàn)什么樣的更深層次和更強(qiáng)的操縱?
向“透明互聯(lián)網(wǎng)”的過(guò)渡。
最緊迫的重點(diǎn)應(yīng)該是讓算法做什么更容易理解和透明。為了最大化信任并消除算法不透明的不利影響，物聯(lián)網(wǎng)需要成為“透明的互聯(lián)網(wǎng)”。該行業(yè)可以通過(guò)將AI與集中式數(shù)據(jù)收集分離并盡可能多地開(kāi)源算法來(lái)創(chuàng)造透明度。蒙面聯(lián)邦學(xué)習(xí)和邊緣人工智能等技術(shù)使這些積極的步驟成為可能。我們需要有追求它們的意愿。這并不容易，一些大型科技公司不會(huì)不戰(zhàn)而降，但我們都會(huì)在另一邊過(guò)得更好。
