人工智能(AI)技術(shù)如今正在廣泛應(yīng)用。人工智能治理之所以重要，是因為人工智能可以獲得更大的回報，但面臨很高的風(fēng)險，如果做錯其后果會非常嚴(yán)重。
組織必須從風(fēng)險管理的角度進行治理。人工智能的主要風(fēng)險因素包括以下幾個方面：
可以防止人工智能侵犯人們的隱私嗎?
能否消除人工智能驅(qū)動的應(yīng)用程序中可能產(chǎn)生的社會和經(jīng)濟偏見?
能否確保人工智能驅(qū)動的過程對于人們完全透明、可解釋和可理解?
是否可以設(shè)計人工智能算法，以便始終清楚地表明人類對其算法結(jié)果的責(zé)任和義務(wù)?
是否可以將道德和道德原則納入人工智能算法中，以便它們將人類的全部考慮因素權(quán)衡可能會導(dǎo)致生死攸關(guān)的決定?
是否可以自動使人工智能應(yīng)用程序與利益相關(guān)者的價值觀保持一致，或者至少在特殊情況下獲得抵御的能力，從而防止惡意機器人在自主決策場景中出現(xiàn)?
在不確定性太大而無法證明自主行動正當(dāng)性的情況下，能否遏制人工智能驅(qū)動的決策?
是否可以制定故障保護程序，以便當(dāng)人工智能自動化應(yīng)用程序達到其能力極限時，人類可以收回控制權(quán)?
即使需要動態(tài)適應(yīng)不斷變化的環(huán)境，能否確保人工智能驅(qū)動的應(yīng)用程序以一致、可預(yù)測的方式運行，而沒有意外的副作用?
能否保護人工智能應(yīng)用程序免受旨在利用其底層統(tǒng)計算法漏洞的敵對攻擊?
當(dāng)環(huán)境數(shù)據(jù)與受過訓(xùn)練的環(huán)境有很大出入時，是否可以設(shè)計優(yōu)雅地而不是災(zāi)難性地失敗的人工智能算法?
基于軟件的流水線自動化的人工智能治理
如果在基于軟件的開發(fā)和運營(DevOps)流程中沒有適當(dāng)?shù)乜刂七m當(dāng)?shù)目丶?，那么人工智能治理將毫無用處。
人工智能應(yīng)用程序是由數(shù)據(jù)科學(xué)家、數(shù)據(jù)工程師、數(shù)據(jù)管理員和其他人組成的團隊在復(fù)雜的工作流程中構(gòu)建、培訓(xùn)、部署和管理的。為了滿足這一需求，許多組織正在將人工智能治理控制構(gòu)建到其MLOps過程中。本質(zhì)上，這需要策略驅(qū)動的流程自動化，這些流程管理數(shù)據(jù)、統(tǒng)計模型、元數(shù)據(jù)，以及用于構(gòu)建、培訓(xùn)和部署人工智能應(yīng)用程序的其他構(gòu)件。它還需要工具來監(jiān)視人工智能應(yīng)用程序在其生命周期中的使用、行為和結(jié)果。
任何人工智能驅(qū)動過程的典型風(fēng)險是不知道組織是否可以信任一個已部署的統(tǒng)計模型來準(zhǔn)確可靠地完成分配的任務(wù)。如果一個統(tǒng)計模型的預(yù)測適合度下降到無法完成其指定任務(wù)(如識別人臉、理解人類語言或預(yù)測客戶行為)的程度，那么對于構(gòu)建和部署它的組織來說，這基本上是無用的。
因此，人工智能治理的核心功能是模型保證。這是一種確定人工智能應(yīng)用程序的機器學(xué)習(xí)模型是否能夠預(yù)測適合其分配任務(wù)的能力，如果不適合，則將其重新放回原處。
然而，預(yù)測精度可能是一個難以保證的性能指標(biāo)。人工智能的統(tǒng)計模型通常以人工神經(jīng)網(wǎng)絡(luò)的形式實現(xiàn)，可能是如此的復(fù)雜和神秘，以至于它們掩蓋了它們實際上是如何驅(qū)動自動推理的。同樣令人擔(dān)憂的是，基于統(tǒng)計的應(yīng)用程序可能會無意中混淆其自動決策可能產(chǎn)生的任何偏見和其他不利后果的責(zé)任。此外，這些概率模型可能很少被評估和重新訓(xùn)練，導(dǎo)致曾經(jīng)適合特定目的的模型現(xiàn)在已經(jīng)失去了預(yù)測能力。
在MLOps平臺中嵌入人工智能模型保證
將業(yè)務(wù)押注在人工智能驅(qū)動流程上的組織必須考慮，是將模型保證作為其MLOps平臺的一項嵌入式功能，還是從專注于這一令人興奮的利基市場的初創(chuàng)供應(yīng)商那里獲得。
幸運的是，越來越多的數(shù)據(jù)科學(xué)DevOps環(huán)境提供了可靠的模型保證。這些工具的最新一代利用云原生基礎(chǔ)設(shè)施來部署和管理穩(wěn)定的人工智能模型流，并且代碼構(gòu)建一直到邊緣。商業(yè)產(chǎn)品中的主要產(chǎn)品是：
谷歌云人工智能平臺提供持續(xù)評估等模型質(zhì)量保證功能，讓數(shù)據(jù)科學(xué)家將模型預(yù)測與實際情況標(biāo)簽進行比較，以獲得持續(xù)反饋，并優(yōu)化模型精度。
H2O.ai無人駕駛?cè)斯ぶ悄芴峁┝素S富的模型質(zhì)量保證功能。它支持分析一個模型是否會對不同的人口群體產(chǎn)生不同的不利結(jié)果，即使它的設(shè)計并沒有考慮到這種結(jié)果。它可以自動監(jiān)控已部署模型的預(yù)測衰減;為A/B測試建立替代模型的基準(zhǔn);以及在需要重新校準(zhǔn)、重新培訓(xùn)和以其他方式維護模型以使其為生產(chǎn)做好準(zhǔn)備時向系統(tǒng)管理員發(fā)出警報。
Microsoft Azure機器學(xué)習(xí)MLOps可以通知機器學(xué)習(xí)生命周期中的事件并發(fā)送警報，例如實驗完成、模型注冊、模型部署和數(shù)據(jù)漂移檢測。它可以監(jiān)視機器學(xué)習(xí)應(yīng)用程序的模型特定指標(biāo)，并提供機器學(xué)習(xí)基礎(chǔ)設(shè)施的監(jiān)視和警報。它還可以根據(jù)新數(shù)據(jù)和其他操作和業(yè)務(wù)因素自動重新培訓(xùn)、更新和重新部署模型。
Amazon SageMaker Model Monitor持續(xù)監(jiān)視AWS Sagemaker云計算服務(wù)中的機器學(xué)習(xí)模型，檢測諸如數(shù)據(jù)漂移之類的偏差，這些偏差會隨著時間的推移降低模型性能，并警告用戶采取補救措施，例如審核或再培訓(xùn)模型?？梢园才疟O(jiān)視作業(yè)按常規(guī)節(jié)奏運行，可以將摘要指標(biāo)推送到Amazon CloudWatch以設(shè)置警報和觸發(fā)器以采取糾正措施，并支持Amazon SageMaker支持的多種實例類型。
Superwise的人工智能保證提供了一個實時平臺，用于監(jiān)控和維護已部署人工智能模型的準(zhǔn)確性。它使涉眾能夠在部署的人工智能模型產(chǎn)生負面業(yè)務(wù)影響之前發(fā)現(xiàn)模型衰退和其他問題。它標(biāo)記了模型的不精確性，這些誤差源于人工智能模型的數(shù)據(jù)變化。它還可以捕捉到與模型部署到的業(yè)務(wù)環(huán)境中的變化相關(guān)聯(lián)的不精確性。它為數(shù)據(jù)科學(xué)團隊提供了前瞻性的建議，以采取人工操作來保持模型的準(zhǔn)確性、公正性以及其他方面的適用性。它還可以自動執(zhí)行一些糾正措施，以防止模型漂移到潛在的次優(yōu)領(lǐng)域。
結(jié)論
雖然人工智能并不是公眾的威脅，但現(xiàn)實情況是，可能會看到更多的司法管轄區(qū)加強了這項技術(shù)的監(jiān)管規(guī)定。
隨著人們進入20世紀(jì)20年代，從最好的和最壞的意義上講，人工智能應(yīng)用將是最具顛覆性的技術(shù)。如果擴散不受監(jiān)控和控制，則錯誤的人工智能模型將給社會造成嚴(yán)重破壞。人工智能的某些風(fēng)險來自技術(shù)特定構(gòu)造中的設(shè)計限制。其他原因可能是由于對實時人工智能應(yīng)用程序的運行時管理不足。還有其他一些可能是該技術(shù)難以理解的機器學(xué)習(xí)、深度學(xué)習(xí)和人工智能依賴的其他統(tǒng)計模型的“黑盒”復(fù)雜性所固有的。
為了減輕這些風(fēng)險，組織將越來越多地要求在每個部署場景中對這些模型的性能進行自動化治理。
