本文來(lái)自IT之家（www.ithome.com），作者 | 遠(yuǎn)洋。
IT之家9月30日消息，美國(guó)加州州長(zhǎng)加文?紐森（Gavin Newsom）今日否決了具有爭(zhēng)議的《前沿人工智能模型安全創(chuàng)新法案》（簡(jiǎn)稱SB 1047），他在否決消息中提到了多個(gè)影響他決定的因素，包括該法案對(duì)AI公司施加的負(fù)擔(dān)、加州在該領(lǐng)域的主導(dǎo)地位以及對(duì)該法案可能過(guò)于寬泛的批評(píng)。
圖源Pexels
據(jù)IT之家了解，SB 1047法案旨在為訓(xùn)練成本超過(guò)1億美元或者達(dá)到一定算力的開(kāi)發(fā)者制定安全標(biāo)準(zhǔn)，確保大規(guī)模人工智能模型的安全開(kāi)發(fā)。該法案要求大型前沿人工智能模型的開(kāi)發(fā)者采取預(yù)防措施，例如部署前測(cè)試、模擬黑客攻擊、安裝網(wǎng)絡(luò)安全保障，以及為舉報(bào)人提供保護(hù)等。
該法案于今年2月被提交給加州議會(huì)，引起很大爭(zhēng)議。8月19日，加州立法機(jī)構(gòu)公布了法案的修訂版。該法案得到有“人工智能教父”之稱的杰弗里?辛頓和約書(shū)亞?本吉奧的支持，但也遭到楊立昆、李飛飛等科學(xué)家，以及頭部人工智能企業(yè)的反對(duì)，稱該法律將“阻礙創(chuàng)新”。
紐森稱，“雖然SB 1047的出發(fā)點(diǎn)是好的，但它并沒(méi)有考慮人工智能系統(tǒng)是否部署在高風(fēng)險(xiǎn)環(huán)境中，是否涉及關(guān)鍵決策或使用敏感數(shù)據(jù)。相反，只要是大型系統(tǒng)部署，該法案甚至對(duì)最基本的功能都適用嚴(yán)格標(biāo)準(zhǔn)。我不認(rèn)為這是保護(hù)公眾免受該技術(shù)構(gòu)成的真正威脅的最佳方法。”
紐森還稱，該法案可能“給公眾一種關(guān)于控制這種快速發(fā)展的技術(shù)的虛假安全感”，他稱，“更小、更專業(yè)的模型可能與SB 1047所針對(duì)的模型一樣甚至更危險(xiǎn)——其代價(jià)可能是削弱推動(dòng)公共利益進(jìn)步的創(chuàng)新。”
紐森表示，他認(rèn)同應(yīng)當(dāng)應(yīng)該制定安全協(xié)議和護(hù)欄，并且不良行為者要承擔(dān)“明確且可執(zhí)行”的后果。然而他指出，他認(rèn)為國(guó)家不應(yīng)該“滿足于一個(gè)不以人工智能系統(tǒng)和能力的實(shí)證軌跡分析為依據(jù)的解決方案”。
Meta公共事務(wù)經(jīng)理Jamie Radice對(duì)此表示，“我們很高興紐森州長(zhǎng)否決了SB 1047。該法案將扼殺AI創(chuàng)新，損害業(yè)務(wù)增長(zhǎng)和創(chuàng)造就業(yè)機(jī)會(huì)，并打破該州促進(jìn)開(kāi)源開(kāi)發(fā)的悠久傳統(tǒng)。我們支持負(fù)責(zé)任的AI法規(guī)，并繼續(xù)致力于與立法者合作，以推廣更好的方法。”
