AI已經(jīng)成為我們?nèi)粘Ｉ畹囊徊糠?，這一點你無法否認。幾乎來自所有不同行業(yè)的財富1000強企業(yè)領(lǐng)導(dǎo)者，都在積極開展AI計劃。大中型全球企業(yè)都在加速創(chuàng)新，利用AI的誘人前景提高收入、增加利潤、并在產(chǎn)品和服務(wù)產(chǎn)品中發(fā)現(xiàn)新的價值。
盡管AI的發(fā)展迅速，但董事會和CEO們在AI語言素養(yǎng)和風(fēng)險管理實踐方面仍然遠遠落后。AI的崛起就像是一場暴風(fēng)雨，一場完美的風(fēng)暴可能正在醞釀之中，但很少有董事會和CEO能回答這個問題：你的AI算法和AI模型位于何處，AI算法或者模型是否存在風(fēng)險？
AI的發(fā)展是迅猛的：2020年7月初發(fā)布的最新全球研究報告指出，AI市場的復(fù)合年增長率超過42％，在美國AI市場規(guī)模超過7337億美元。根據(jù)麻省理工學(xué)院斯隆研究中心（MIT Sloan Research）的說法，超過90％的大型企業(yè)正在利用AI改善他們的客戶交互旅程。AI創(chuàng)業(yè)投資的增長讓人想起了互聯(lián)網(wǎng)時代的牛市，但你可能還記得，2002年3月牛市下跌了76％，這喚醒了人們對價值實現(xiàn)和盈利能力重要性的覺醒。
根據(jù)CBI Insights的數(shù)據(jù)，2019年AI初創(chuàng)公司總共募集了266億美金，涉及全球2200多筆交易，盡管遭遇了疫情，但醫(yī)療應(yīng)急和智能機器、醫(yī)療機器人等變革性技術(shù)，正在迅速興起成為幫助應(yīng)對疫情的AI解決方案。
平均而言，到2022年，高級分析方面的投資將超過整體市場預(yù)算的11％。隨著企業(yè)組織將AI和機器學(xué)習(xí)工具納入他們的業(yè)務(wù)流程，到2025年，AI軟件相關(guān)支出將達到1250億美元。
你可能會認為，董事會和CEO們可以輕松地了解他們所有的AI算法和AI模型位于何處，非常清楚各種風(fēng)險狀況，并且能夠通過清晰的KPI和ROI來證明價值的實現(xiàn)。
遺憾的是，很多企業(yè)被采用黑盒AI實踐的AI計劃吸引，這就意味著沒有清晰的問責(zé)制，是不透明的，更不用說審計風(fēng)險了。董事會董事和CEO們知道他們的員工身處何方（無論是遠程辦公還是在辦公室），知道應(yīng)該聯(lián)系誰來解決客戶服務(wù)或個人問題。
但是，恐怕沒有一家跨國企業(yè)的董事會或者CEO可以在不到五分鐘的時間內(nèi)，拿出一份該企業(yè)所有AI算法或者AI模型資產(chǎn)的完整列表，也不知道上一次修訂模型是在什么時候，給不出可靠的、經(jīng)過第三方驗證的風(fēng)險分類證據(jù)。
隨著數(shù)據(jù)的民主化逐漸成為實現(xiàn)AI的基礎(chǔ)，我們必須提高AI和機器學(xué)習(xí)的相關(guān)KPI，讓AI KPI比財務(wù)KPI更加重要，從而提高透明度，就像審計師受到損益表信托責(zé)任制的約束一樣。世界正在發(fā)生巨變，數(shù)據(jù)已經(jīng)成為我們最具戰(zhàn)略意義的資產(chǎn)，但是鮮有企業(yè)成為數(shù)據(jù)管理實踐的標(biāo)桿，他們不知道數(shù)據(jù)是在哪里設(shè)計、收集和存儲的以實現(xiàn)和跟蹤AI轉(zhuǎn)型所能帶來的價值。
盡管有不少企業(yè)已經(jīng)投資了機器學(xué)習(xí)運營（MLOps），但很少有企業(yè)擁有成熟的AI卓越中心，其中，MLOps是一項核心能力。New Relic最近一項研究發(fā)現(xiàn)，受訪的750位全球高級IT決策者中，有89％的人認為，AI和機器學(xué)習(xí)對于企業(yè)組織的IT運營至關(guān)重要。有近84％的受訪者認為，AI和機器學(xué)習(xí)將讓他們的職責(zé)變得更易于管理。這一樂觀的預(yù)測，將加速數(shù)據(jù)管理實踐的不斷完善，而這正是AI建模和風(fēng)險管理實踐的關(guān)鍵。
筆者在過去18個月中對超過500位全球大型B2B企業(yè)C級高管的交流中發(fā)現(xiàn)，沒有一家企業(yè)可以在5分鐘時間內(nèi)回答大多數(shù)以下問題。
要保持領(lǐng)先地位，就要恰當(dāng)?shù)靥岢龈鞣NAI相關(guān)的問題，每一個使用AI算法構(gòu)建定制化AI模型以解決特定問題或業(yè)務(wù)挑戰(zhàn)的項目，都應(yīng)能夠回答以下這些問題：
使用場景歷史
- AI模型/算法用于什么用途？
- AI模型/算法解決了哪些業(yè)務(wù)問題或者挑戰(zhàn)？
- 在設(shè)計、構(gòu)建和實施各種用例之前，企業(yè)最初估算的AI模型和AI方法ROI是多少？
AI模型所有權(quán)歷史
- 誰編寫了算法或者開發(fā)了AI模型？
- 流程負責(zé)人目前還在該企業(yè)嗎？
- 考慮到AI模型和算法方法的風(fēng)險，AI模型是否有二級流程負責(zé)人？
- 算法和模型結(jié)構(gòu)是否經(jīng)過了創(chuàng)建者之外其他人的審核？審核者是誰？
創(chuàng)建和修訂歷史
- AI模型或者AI算法是何時構(gòu)建的？
- 自第一次用于生產(chǎn)環(huán)境中以來，對AI模型或AI算法進行了多少次修訂？
- 正在使用哪種類型的AI算法？
- 該算法是開源的嗎？還是有人編寫了獨特的AI算法來解決獨有的業(yè)務(wù)挑戰(zhàn)？
AI算法或模型方法歷史
- AI算法的數(shù)學(xué)結(jié)構(gòu)或數(shù)學(xué)公式是什么？
- 這些是否經(jīng)過了第三方專家對準確性的驗證？
- 負責(zé)監(jiān)督正在使用中的AI算法模型的負責(zé)人？
- AI模型開發(fā)的數(shù)據(jù)類型（結(jié)構(gòu)化/非結(jié)構(gòu)化數(shù)據(jù)）和數(shù)據(jù)源（內(nèi)部、外部、兩者兼有）是什么？
- 數(shù)據(jù)集有多大？
- 在被分析之前，數(shù)據(jù)集是否經(jīng)過了清洗？如果是的話，是誰清洗的，使用了什么方法？
- AI模型中使用的數(shù)據(jù)源，質(zhì)量和準確性怎么樣？
- 與所有版本的歷史記錄相比，預(yù)測準確性的基準得分是多少？
- AI模型和AI算法是否有風(fēng)險分類，是否制定了風(fēng)險緩解計劃？
- 開發(fā)的AI模型是否經(jīng)過了數(shù)據(jù)偏差測試？
- 使用了哪些數(shù)據(jù)偏差方法？
- 進行了幾種數(shù)據(jù)偏差風(fēng)險評估？
- 上一次審查和優(yōu)化/重新訓(xùn)練AI模型是在什么時候？
AI算法或模型的價值實現(xiàn)
- 就投資回報率而言，AI模型能給企業(yè)組織帶來什么價值？
- 是否有效率或者效果值能夠清晰定義ROI？
- 第一個用例的ROI/價值結(jié)果預(yù)測，與實際AI產(chǎn)生的ROI結(jié)果相差多少？
- AI價值結(jié)果是否已經(jīng)經(jīng)過了財務(wù)或者第三方專家的驗證、審核或簽署？如果是的話，是否已經(jīng)提交了報告？
- 這種AI模型方法與其他行業(yè)最佳實踐相比如何？
- 是否有針對AI模型或文件的有效流程改進計劃？
盡管還有很多其他問題，但要監(jiān)督AI卓越中心來跟蹤AI模型的演進發(fā)展，董事會和CEO們可以從年度審計風(fēng)險評估和治理運營流程開始著手。
遺憾的是，多數(shù)情況下AI模型都是由數(shù)據(jù)科學(xué)家、計算機程序員或者專業(yè)服務(wù)公司（第三方供廠商）開發(fā)的，他們都致力于構(gòu)建一個特定的AI模型，不管是預(yù)測美國熱點區(qū)域第二波疫情情況，還是使用AI無人機預(yù)測害蟲給收獲季帶來的影響，還是預(yù)測收入，以及確保AI方法的潛在風(fēng)險管理實踐，在大多數(shù)情況下，設(shè)計和構(gòu)建AI模型的參與者都是用心良苦的。
董事會和CEO們必須意識到，AI素養(yǎng)是他們發(fā)展和培養(yǎng)人才所需的一種新能力。AI模型需要不斷優(yōu)化才能成功用于生產(chǎn)環(huán)境，而對數(shù)據(jù)管理基礎(chǔ)設(shè)施進行現(xiàn)代化投資，是確保數(shù)據(jù)和機器學(xué)習(xí)與時俱進的關(guān)鍵。如果管理層不監(jiān)控AI模型的生產(chǎn)環(huán)境，對模型進行再訓(xùn)練，并且隨著時間的推移增加其他數(shù)據(jù)源以加強模型洞察的話，他們就會犯錯。
AI就像是建造一座花園，施肥和除草是收獲美麗的一項長期投資。AI不是雕塑，你不能構(gòu)建一個模型然后未來幾年一直保持它的原始狀態(tài)不變。有人說AI是一種新型石油，而我更愿意說AI是一種新型氧氣，因為AI越來越普及，像氣候變化一樣，潮起潮落無處不在。你想要能夠洞悉花園中的一切生長狀態(tài)，就需要卓越的遠見才能做出明智的規(guī)劃。
對于董事會和CEO們來說，遺憾的是很多技術(shù)負責(zé)人或者CIO并不擅長AI和數(shù)據(jù)科學(xué)實踐，這進一步提高了實施AI的企業(yè)所面臨的風(fēng)險。首席數(shù)據(jù)官（CDO）和首席數(shù)據(jù)科學(xué)家官（CDSO）的興起，推動了AI進化、模型構(gòu)建、風(fēng)險管理實踐的發(fā)展，盡管大多數(shù)公司在數(shù)據(jù)支持系統(tǒng)方面的投資，不得不和保護算法和AI模型安全性方面的投資節(jié)奏保持一致。
董事會和CEO們有責(zé)任確保AI審核和風(fēng)險管理框架得到合理實施，推進AI治理的向前邁進。
