今年2月，《紐約時報》英文網(wǎng)站發(fā)表了一篇文章，指出如今非常熱門的人工智能（AI）應(yīng)用人臉識別，針對不同種族的準(zhǔn)確率差異巨大。其中，針對黑人女性的錯誤率高達21%~35%，而針對白人男性的錯誤率則低于1%。
文章引用了麻省理工學(xué)院媒體實驗室研究員Joy Buolamwini與來自微軟的科學(xué)家Timnit Gebru合作的一篇研究論文《性別圖譜：商用性別分類技術(shù)中的種族準(zhǔn)確率差異》中的數(shù)據(jù)，而其來源是微軟、IBM和曠視三家公司的人臉識別API（應(yīng)用程序編程接口）。
“人工智能系統(tǒng)確實可能存在偏見。”5月21日，在由北京大學(xué)法學(xué)院和北京大學(xué)出版社共同舉行的“人工智能及社會角色”主題論壇上，微軟全球執(zhí)行副總裁、微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人、美國工程院院士沈向洋對此回應(yīng)道。他表示，導(dǎo)致偏見的原因是系統(tǒng)使用的訓(xùn)練數(shù)據(jù)集主要源自白人，而黑人很少。
實際上，論壇當(dāng)天的主題“人工智能及社會角色”是沈向洋與微軟總裁及首席法務(wù)官施博德共同主持撰寫、已在美國出版的《未來計算：人工智能及社會角色》一書的副標(biāo)題。雖然人工智能已經(jīng)成為微軟目前發(fā)力的主要方向之一，但沈向洋坦言，AI近年來的迅猛發(fā)展，確實帶來了一些困惑，例如偏見、透明和責(zé)任等等，我們需要對它所帶來的正面和負(fù)面影響作深入的思考，并及時作好應(yīng)對的準(zhǔn)備。
而在《未來計算》這本即將由北京大學(xué)出版社正式出版發(fā)行的書中，沈向洋和他的同事分別從人工智能的未來，負(fù)責(zé)任地使用人工智能的原則、政策和法律，以及人工智能與職業(yè)和工作的未來等三個方面進行了深入剖析，并分享了微軟對于人工智能技術(shù)發(fā)展，以及如何讓人工智能等科學(xué)技術(shù)為社會創(chuàng)造更多福祉等問題的思考。
總結(jié)公眾目前對人工智能興起的態(tài)度，北京大學(xué)法學(xué)院副教授、北京大學(xué)法律人工智能實驗室/研究中心副主任江溯將之歸納為兩種觀點，一種是“熱情擁抱論”，另一種是“AI威脅論”。對此，北京大學(xué)哲學(xué)系教授何懷宏認(rèn)為，如今人類把體力和智能都已經(jīng)外包了，還僅剩下智慧。如果把智慧也外包出去，那么未來人類就很容易受擺布，因此應(yīng)當(dāng)保留獨特性。特別是一旦可以媲美，甚至超越人類智慧的強人工智能出現(xiàn)的話，如果人類沒有保留自身的獨特性，就很容易滑入深淵，“舒服至死”。
談及AI發(fā)展可能會對當(dāng)下社會帶來怎樣嚴(yán)重的現(xiàn)實問題，北京大學(xué)計算機系主任黃鐵軍表示，“對此并不擔(dān)心”。他認(rèn)為，AI是人類與未來對接的唯一手段。其脫胎于人類，與人類存在連續(xù)性，“如果人類要向前演化，人工智能的出現(xiàn)將是‘早晚的事’”。
