卡內(nèi)基梅隆大學(xué)（Carnegie Mellon University）的研究人員正在應(yīng)對(duì)機(jī)器學(xué)習(xí)研究中的一個(gè)挑戰(zhàn)，即在使用機(jī)器學(xué)習(xí)做出公共政策決策時(shí)，需要在準(zhǔn)確性和公平性之間做出權(quán)衡。
隨著機(jī)器學(xué)習(xí)在刑事司法、招聘、醫(yī)療服務(wù)和社會(huì)服務(wù)等領(lǐng)域的使用增加，人們?cè)絹?lái)越關(guān)注，這種應(yīng)用是否會(huì)引入新的或放大現(xiàn)有的不公平現(xiàn)象，特別是在少數(shù)種族和經(jīng)濟(jì)弱勢(shì)的人中。為了防止這種偏見(jiàn)，對(duì)數(shù)據(jù)、標(biāo)簽、模型訓(xùn)練、評(píng)分系統(tǒng)和機(jī)器學(xué)習(xí)系統(tǒng)的其他方面都需要進(jìn)行調(diào)整。但是有一個(gè)基本的理論假設(shè)是，這些調(diào)整使系統(tǒng)的準(zhǔn)確性降低。
研究團(tuán)隊(duì)在研究中測(cè)試了這個(gè)假設(shè)，發(fā)現(xiàn)在一系列政策領(lǐng)域的實(shí)踐中，這種權(quán)衡是可以忽略不計(jì)的。
研究人員表示，實(shí)際上可以得到兩者。不必犧牲準(zhǔn)確性來(lái)建立公平和公正的系統(tǒng)。但它確實(shí)需要定制設(shè)計(jì)系統(tǒng)，使其公平公正。
研究人員考察了四個(gè)領(lǐng)域的系統(tǒng)：根據(jù)一個(gè)人重返監(jiān)獄的風(fēng)險(xiǎn)，優(yōu)先考慮有限的心理健康護(hù)理外展，以減少重新監(jiān)禁；預(yù)測(cè)嚴(yán)重的安全違規(guī)行為，以更好地部署城市有限的住房檢查員；模擬學(xué)生不能及時(shí)從高中畢業(yè)的風(fēng)險(xiǎn)，以確定那些最需要額外支持的學(xué)生；幫助教師實(shí)現(xiàn)教室需求的眾籌目標(biāo)。
在每一種情況下，研究人員發(fā)現(xiàn)，為準(zhǔn)確性而優(yōu)化的模型（機(jī)器學(xué)習(xí)的標(biāo)準(zhǔn)做法）可以有效地預(yù)測(cè)感興趣的結(jié)果，但在干預(yù)措施的建議方面表現(xiàn)出相當(dāng)大的差異。然而，當(dāng)研究人員對(duì)模型的輸出進(jìn)行調(diào)整，以提高其公平性時(shí)，發(fā)現(xiàn)基于種族、年齡或收入的差異（視情況而定）可以在不損失準(zhǔn)確性的情況下被消除。
研究者希望這項(xiàng)研究可以開(kāi)始改變政策制定者的想法。希望人工智能、計(jì)算機(jī)科學(xué)和機(jī)器學(xué)習(xí)界，摒棄這種在準(zhǔn)確性和公平性之間進(jìn)行權(quán)衡的觀(guān)念，并開(kāi)始設(shè)計(jì)能將兩者都最大化的系統(tǒng)。同時(shí)，希望政策制定者接受機(jī)器學(xué)習(xí)作為他們決策的工具，以幫助他們實(shí)現(xiàn)公平的結(jié)果。
題為Empirical observation of negligible fairness–accuracy trade-offs in machine learning for public policy的相關(guān)研究論文發(fā)表在《自然-機(jī)器智能》（Nature Machine Intelligence）上。
