卡內(nèi)基梅隆大學(xué)(Carnegie Mellon University)的研究人員正在應(yīng)對(duì)機(jī)器學(xué)習(xí)研究中的一個(gè)挑戰(zhàn),即在使用機(jī)器學(xué)習(xí)做出公共政策決策時(shí),需要在準(zhǔn)確性和公平性之間做出權(quán)衡。
隨著機(jī)器學(xué)習(xí)在刑事司法、招聘、醫(yī)療服務(wù)和社會(huì)服務(wù)等領(lǐng)域的使用增加,人們?cè)絹?lái)越關(guān)注,這種應(yīng)用是否會(huì)引入新的或放大現(xiàn)有的不公平現(xiàn)象,特別是在少數(shù)種族和經(jīng)濟(jì)弱勢(shì)的人中。為了防止這種偏見(jiàn),對(duì)數(shù)據(jù)、標(biāo)簽、模型訓(xùn)練、評(píng)分系統(tǒng)和機(jī)器學(xué)習(xí)系統(tǒng)的其他方面都需要進(jìn)行調(diào)整。但是有一個(gè)基本的理論假設(shè)是,這些調(diào)整使系統(tǒng)的準(zhǔn)確性降低。
研究團(tuán)隊(duì)在研究中測(cè)試了這個(gè)假設(shè),發(fā)現(xiàn)在一系列政策領(lǐng)域的實(shí)踐中,這種權(quán)衡是可以忽略不計(jì)的。
研究人員表示,實(shí)際上可以得到兩者。不必犧牲準(zhǔn)確性來(lái)建立公平和公正的系統(tǒng)。但它確實(shí)需要定制設(shè)計(jì)系統(tǒng),使其公平公正。
研究人員考察了四個(gè)領(lǐng)域的系統(tǒng):根據(jù)一個(gè)人重返監(jiān)獄的風(fēng)險(xiǎn),優(yōu)先考慮有限的心理健康護(hù)理外展,以減少重新監(jiān)禁;預(yù)測(cè)嚴(yán)重的安全違規(guī)行為,以更好地部署城市有限的住房檢查員;模擬學(xué)生不能及時(shí)從高中畢業(yè)的風(fēng)險(xiǎn),以確定那些最需要額外支持的學(xué)生;幫助教師實(shí)現(xiàn)教室需求的眾籌目標(biāo)。
在每一種情況下,研究人員發(fā)現(xiàn),為準(zhǔn)確性而優(yōu)化的模型(機(jī)器學(xué)習(xí)的標(biāo)準(zhǔn)做法)可以有效地預(yù)測(cè)感興趣的結(jié)果,但在干預(yù)措施的建議方面表現(xiàn)出相當(dāng)大的差異。然而,當(dāng)研究人員對(duì)模型的輸出進(jìn)行調(diào)整,以提高其公平性時(shí),發(fā)現(xiàn)基于種族、年齡或收入的差異(視情況而定)可以在不損失準(zhǔn)確性的情況下被消除。
研究者希望這項(xiàng)研究可以開(kāi)始改變政策制定者的想法。希望人工智能、計(jì)算機(jī)科學(xué)和機(jī)器學(xué)習(xí)界,摒棄這種在準(zhǔn)確性和公平性之間進(jìn)行權(quán)衡的觀(guān)念,并開(kāi)始設(shè)計(jì)能將兩者都最大化的系統(tǒng)。同時(shí),希望政策制定者接受機(jī)器學(xué)習(xí)作為他們決策的工具,以幫助他們實(shí)現(xiàn)公平的結(jié)果。
題為Empirical observation of negligible fairness–accuracy trade-offs in machine learning for public policy的相關(guān)研究論文發(fā)表在《自然-機(jī)器智能》(Nature Machine Intelligence)上。