現(xiàn)在由AI驅(qū)動的購買系統(tǒng)能夠收集銷售和運送訂單,查看歷史趨勢,以及在有明顯的需求之前,預定和提前支付用于生產(chǎn)的大批貨物,而這些都不需要人類的監(jiān)督。但是你會信任AI系統(tǒng)嗎?
關(guān)于AI對社會和人類產(chǎn)生的影響,存在很多的疑慮,這意味著我們要理性地思考對于機器的信任度。Forbes撰稿人Lauren deLisa Coleman在一個名為《你相信這臺電腦嗎?》的文獻中探究了AI的黑暗一面。但是在很多方面都需要建立信任度。
信任一直都需要爭取,AI也仍然致力于獲取人們的信任,不僅僅從大眾認知方面,而且也存在于會為AI支付大筆的資金人們的內(nèi)心。這是德勤會計事務所近期一份報告的主題,分析了1100多家公司。“高管擔心有很多與AI技術(shù)相關(guān)的風險,”Jeff Louck、Tom Davenport 和David Schatsky三位聯(lián)合撰稿人發(fā)現(xiàn):“有些風險與信息技術(shù)尤為相關(guān),其它的則和AI技術(shù)一樣特殊。”
多年來,我們通常使用IT系統(tǒng)來進行軟件安裝,但是如果出現(xiàn)了偏差,系統(tǒng)會回滾到安裝前的狀態(tài),直到漏洞被修復。通常來說,人們傷害的最多的就是IT人員。然而,有了AI,問題就很難被發(fā)現(xiàn),因為人們會盲目地依賴機器做出的決策,而且人們也不會立即檢測機器做出的這些決策。
高管對于信任的需求出現(xiàn)在與AI相關(guān)的最高風險清單上,包括:
1.網(wǎng)絡安全漏洞
2.基于AI做出錯誤的戰(zhàn)略決策
3.AI做出決策的法律責任
4.AI無法用于預測“生或死”
由于AI在企業(yè)中的用途更加廣泛(從繪制配送路線到與客戶交流,再到做出管理決策所承擔的重要角色),因此對于信任的需求也變得愈加敏感。
如何來建立對于AI的信任?Loucks和Davenport通過觀察基于早期采用者的最佳實踐,給出了以下的建議:
追求卓越:”推動業(yè)務線的變化,公司應該專注于項目管理和變化管理,”Loucks和Davenport說道:“人們對推動企業(yè)變化的基礎(chǔ)認識會淹沒在對于試點、基礎(chǔ)實驗和供應商炒作的激動心情中。”
衡量和追蹤進程:“確保仔細對成本和影響進行了追蹤。這會幫助首席財務官在項目和預算變大時,做出必要的投資。”
解決網(wǎng)絡安全風險:“保持使用和開發(fā)最新的工具,解決AI環(huán)境和數(shù)據(jù)集的安全問題。“在網(wǎng)絡安全方面所做的任何努力都無法防御每一次攻擊,但是早期的采用在能夠通過在流程開始階段,通過集成安全性的方式來改善防御措施,并讓其擁有更高的優(yōu)先級。”
將AI應用到IT功能之外:“首先應用需要IT部門深度參與的復雜技術(shù),這是很有必要的。但是只有在AI滲透到整個公司并為眾多業(yè)務功能和部門帶來變化的時候,才有可能實現(xiàn)AI的改造潛力。”
利用云資源:“云為眾多用戶提供了相應的服務,能夠讓他們輕易地訪問基于AI的功能,云在實現(xiàn)這些目標方面也發(fā)揮著舉足輕重的作用。很多大型云提供商都在開發(fā)針對具體業(yè)務功能的訂閱式AI服務。這或許是將AI的好處帶到產(chǎn)品設(shè)計、銷售和營銷等功能中最便捷的方式。”
購買現(xiàn)有的技術(shù):“盡管認知技術(shù)仍在發(fā)展,但是發(fā)展速度也在加快?;谠魄矣姓J知能力的CRM和ERP軟件都在被廣泛使用,如聊天機器人。當然,公司在這‘四座大山’方面還需要專業(yè)知識,但是他們應該檢查它們能夠從企業(yè)軟件和基于云的平臺中獲得什么能力。這會帶來立竿見影的效果以及更低的初始投資。”
明智地招聘員工:“只專注于吸引和保留最兢兢業(yè)業(yè)的人才(如AI研究員、程序員和數(shù)據(jù)科學家),或許并不是最好的策略,尤其是對于剛剛起步的公司來說。在激烈的人才競賽中,過多地招聘科技巨頭正在挖掘的成本高且稀缺的人才會導致在招聘時產(chǎn)生挫敗感。公司也有可能需要能夠和數(shù)據(jù)科學家討論AI并理解數(shù)據(jù)分析工具的用法和局限性的業(yè)務主管。”
決定在哪些方面進行自動化,哪些領(lǐng)域需要加強:“一些使用案例能夠明顯地表明自動化只不過是優(yōu)于人類,并且比人類更加高效。在很多的情況下,機器都會接觸到信息、做出預測、并提供多種選擇。使用判斷力、通感和業(yè)務技巧的員工應該應用這一信息從而帶來最好的效果。這不僅僅是‘人機回圈’(Human-in-the-loop)的問題,而且還要建立加強人類決策的回圈。”
原文作者:Joe McKendrick