AI化價格歧視、智能選擇偏見、生物數(shù)據(jù)泄露,人工智能還有多少個坑?

AI系統(tǒng)推送就是其中一類,電商平臺產(chǎn)品推薦、頭條新聞推薦、銀行資訊推薦都包含在其中。為什么APP總能推薦出你感興趣的新聞或資訊、最心儀的產(chǎn)品,那是因為你在每次操作時,APP后臺都在進(jìn)行成千上萬次的運(yùn)算,通過數(shù)據(jù)采集、存儲、模型訓(xùn)練、算法、協(xié)調(diào)過濾,找出你可能喜歡的放在最前面。

前段時間,馬斯克在參加《喬·羅根體驗》中曾說道,為了避免人類被人工智能超越,未來人類將通過人機(jī)接口成為人工智能共生體,通過非語言非物理的方式回傳信息、相互交流。

其實(shí),某種程度上我們已經(jīng)是半個機(jī)器人了,正常生活已經(jīng)離不開手機(jī)、電腦等等一系列電子設(shè)備。當(dāng)然,成為人工智能共生體還需要很長一段時間,但不可否認(rèn)的是人工智能正在改變現(xiàn)有世界的運(yùn)作方式。就目前我們在手機(jī)銀行使用的指紋識別、語音交互都是基于人工智能技術(shù)實(shí)現(xiàn)的,除了這些看的見得人工智能技術(shù),當(dāng)然還有許多看不見的AI應(yīng)用。

人工智能五大特點(diǎn)

人工智能是如何掏空你錢包的?

移動互聯(lián)網(wǎng)初期,曾經(jīng)掀起過一波由互聯(lián)網(wǎng)巨頭瓜分零售端市場所引發(fā)的價格歧視,主要是通過微信搶紅包等補(bǔ)貼式價格歧視策略搶占市場,“掌上專享”、“手機(jī)特惠”等非常常見。

而今時今日精明的商家推出的就是AI化價格歧視。AI化動態(tài)定價可以根據(jù)用戶數(shù)據(jù)、供求關(guān)系精準(zhǔn)推算出支付意愿,當(dāng)然這也會使那些不精明的消費(fèi)者支付更多。就比如說,晚上的面包買一送一會更劃算;深夜乘坐滴滴價格會翻倍。

曾經(jīng)線下零售商很難在價格上做出快速反應(yīng),但現(xiàn)在通過電子化顯示的“智能貨架”或者“智能價簽”可以讓超市在一天中不同的時段提供不同的價格,背后的一系列智能化算法,消費(fèi)者是無法察覺的。就比如說,盒馬鮮生已經(jīng)全面使用電子價簽。

零售系統(tǒng)研究公司(RSR)對美國用戶最近的一項調(diào)查發(fā)現(xiàn),71% 的消費(fèi)者并不關(guān)心動態(tài)定價策略,但14% 的年輕消費(fèi)者表示他們比較喜歡這一方式。也就是說,當(dāng)用戶了解了“游戲規(guī)則”后更容易接受動態(tài)定價。當(dāng)然,精明的消費(fèi)者也將受益于動態(tài)定價。

雖說銀行不會發(fā)生動態(tài)化定價,但是同樣會有差異化服務(wù)。舉個最簡單的例子就是手機(jī)銀行的千人千面,根據(jù)用戶常用功能進(jìn)行界面智能化排布;針對不同細(xì)分人群推出不同版本手機(jī)銀行(銀發(fā)族版本、私人銀行版本等)。

在智能化風(fēng)險定價方面,由于利率市場化推進(jìn),擠壓銀行利潤,這就使得銀行不得不根據(jù)客戶利率敏感程度、金額、周期、信用風(fēng)險預(yù)測等因素,通過智能化手段建立差異化的定價模型,對不同人群推出不同信貸利率,從而獲得更高的收益。

人工智能為什么最懂你?

當(dāng)然,有些智能服務(wù)的主要目的并不是要掏空我們的錢包,而是要建立用戶關(guān)系,提升消費(fèi)者的體驗感,增強(qiáng)客戶對企業(yè)的粘性。

AI系統(tǒng)推送就是其中一類,電商平臺產(chǎn)品推薦、頭條新聞推薦、銀行資訊推薦都包含在其中。為什么APP總能推薦出你感興趣的新聞或資訊、最心儀的產(chǎn)品,那是因為你在每次操作時,APP后臺都在進(jìn)行成千上萬次的運(yùn)算,通過數(shù)據(jù)采集、存儲、模型訓(xùn)練、算法、協(xié)調(diào)過濾,找出你可能喜歡的放在最前面。

影響用戶感知的因素

圖片來源:羅婷予,Miguel Baptista Nunes.從用戶視角理解智能推薦系統(tǒng).數(shù)字圖書館論壇,2019,(10):30~36

與此同時,這也衍生出另一個問題,AI推薦讓用戶關(guān)注內(nèi)容更集中,也更狹窄。AI推薦可以作為彌補(bǔ)用戶偏好不完整的修復(fù)行為,推薦那些我們平時沒關(guān)注到的電影或產(chǎn)品,開闊我們的視野,但現(xiàn)實(shí)卻不是這樣的。

主要是因為用戶對推薦內(nèi)容的多樣性以及新穎度多數(shù)情況下是負(fù)向感知,而AI推薦系統(tǒng)會根據(jù)用戶的反饋對推薦內(nèi)容進(jìn)行誤差修正,所以最終呈現(xiàn)的內(nèi)容就是推薦內(nèi)容集中度高。換言之,也就是AI很容易產(chǎn)生選擇偏見。

另一方面,人工智能技術(shù)也有兩個非常明顯的優(yōu)勢,不會犯低級錯誤、不會受情緒影響?,F(xiàn)在金融工作的發(fā)展目標(biāo)是流程自動化,透明化,確保工作流程的一致性。本質(zhì)上,其實(shí)是提高效率,減少人為操作的風(fēng)險,避免人為決策的不一致。而人工智能恰好能有效改善這一狀況。

在資管領(lǐng)域,智能投顧的優(yōu)勢更為明顯。除了費(fèi)率低、操作便捷、適用人群較廣以外,最重要的就是降低主觀因素對投資的影響。據(jù)興業(yè)證券預(yù)測,到2022年,中國的智能投顧管理資產(chǎn)總額將超6600億美元,用戶數(shù)超過1億。

但智能理財、智能投顧平臺依舊存在獲客難,流失率高等問題。某平臺負(fù)責(zé)人稱,一旦智能投顧表現(xiàn)不穩(wěn)定后,客戶馬上流失,并且是長久性流失。這主要是由于智能投顧擅長的是長期投資而非短期投機(jī)。智能理財?shù)亩唐谑找鏌o法滿足激進(jìn)用戶,同樣也無法滿足 “保本”用戶。另外,由于我們的市場有效性不足,缺少成熟的投資品種,難以做到智能化的高效配置和調(diào)整。這恐怕在短期內(nèi)也無法解決。

人工智能是要便利還是要隱私?

另外,由于應(yīng)用場景較多,人機(jī)交互時使用的生物識別認(rèn)證也比較常見。在金融領(lǐng)域,柜面開戶、自助銀行、移動支付等等都會用到。據(jù)CFCA發(fā)布的2019中國電子銀行調(diào)查報告顯示,指紋登錄是操作最快的,也是用戶滿意度最高的輔助身份認(rèn)證方式。除了指紋、聲紋、人臉識別,現(xiàn)在虹膜識別和靜脈識別也在快速發(fā)展。預(yù)計到2023年,中國生物識別行業(yè)的市場規(guī)模將達(dá)到379億元。

盡管人臉識別存在風(fēng)險,但便利性卻超過了用戶顧慮。憑借人臉識別功能的便捷性,即使不是全部,目前大多數(shù)應(yīng)用程序App也會提供類似的功能。而且,越來越多的網(wǎng)站和應(yīng)用程序App正在轉(zhuǎn)向基于面部識別的驗證,許多在線開戶正從過時控件轉(zhuǎn)向更現(xiàn)代的控件(例如拍照文檔匹配)這對生物數(shù)據(jù)以及文檔儲存提了極高的要求,部分用戶還沒意識到其中的巨大的風(fēng)險。

其實(shí),個性化生物識別數(shù)據(jù)已經(jīng)存在活躍的暗網(wǎng)交易,并且在2020年將繼續(xù)增長。一部分信息的獲取是來自開放源和社交媒體;另一部分是通過網(wǎng)絡(luò)釣魚,不僅竊取靜態(tài)憑據(jù),而且還竊取用戶面部自拍和視頻。另一個威脅是,先進(jìn)的惡意軟件可以闖入移動設(shè)備身份驗證。2019年5月,中國消費(fèi)者協(xié)會對29款主流智能門鎖進(jìn)行試驗,發(fā)現(xiàn)85.7%的商品信息識別卡開啟存在安全風(fēng)險。

除了生物識別,其他領(lǐng)域也涉及到隱私與便捷的問題。比如,智能推薦只有犧牲掉部分隱私數(shù)據(jù)(行為數(shù)據(jù))才能獲取便捷性功能。用戶是否愿意用隱私換便捷就又是另一個問題了。

去年年末,央行等相關(guān)部門對個人金融信息采集劃定了監(jiān)管紅線,但部分銀行仍有“超采”問題,自動讀取照片、文件、電池信息、手機(jī)系統(tǒng)設(shè)置等。

人工智能在帶來便利的同時,也同時存在安全隱患,但這也不是一時半會兒能解決的,希望未來能出現(xiàn)更為先進(jìn)的優(yōu)化技術(shù)或替代方式。

THEEND

最新評論(評論僅代表用戶觀點(diǎn))

更多
暫無評論