如果任由低質(zhì)AIGC內(nèi)容泛濫 互聯(lián)網(wǎng)生態(tài)系統(tǒng)將會(huì)被摧毀

有了金錢和算力,AI系統(tǒng)可以輕松擴(kuò)張。AI生成文本和圖片,很快將會(huì)制作音樂和視頻。以前我們依賴新聞、信息、娛樂,它們創(chuàng)造了海量?jī)?nèi)容,但很快AI創(chuàng)造的內(nèi)容數(shù)量可能會(huì)遠(yuǎn)遠(yuǎn)超過它們。

本文來自極客網(wǎng),作者:小刀。

不久前ChatGPT突然走紅,用戶量迅速增加,很多人驚呼“生成式AI”革命已經(jīng)到來,但最近幾個(gè)月它的熱度似乎在下降,用戶量增速已經(jīng)明顯放緩。

The Verge撰文稱,生成式AI必然會(huì)在科技史上留下一筆,但它帶來的消極影響也的確值得我們重視。

什么消極影響呢?有人用ChatGPT生成垃圾網(wǎng)站,網(wǎng)上到處都是AI生成的垃圾;聊天機(jī)器人勾連在一起,引用彼此的誤導(dǎo)信息;Snapchat和Instagram等社媒都希望用機(jī)器人陪你聊天……

關(guān)鍵的是,舊網(wǎng)絡(luò)正在死亡,但新的網(wǎng)絡(luò)還在掙扎,還沒有出生。

640.jpg

網(wǎng)絡(luò)的死亡與重生

網(wǎng)絡(luò)一直在死亡中重生,比如APP改變了流量走向。2023年網(wǎng)絡(luò)再次走向死亡,這一次有了新元素參與,它就是AI。

多年前,網(wǎng)絡(luò)還是個(gè)體的天下,個(gè)體用戶制作主頁(yè)、論壇、郵件列表,金錢涌入,然后企業(yè)加入進(jìn)來,創(chuàng)建功能豐富的平臺(tái),讓每一個(gè)人都可以加入進(jìn)來。現(xiàn)在AI正在改變舊格局。

有了金錢和算力,AI系統(tǒng)可以輕松擴(kuò)張。AI生成文本和圖片,很快將會(huì)制作音樂和視頻。以前我們依賴新聞、信息、娛樂,它們創(chuàng)造了海量?jī)?nèi)容,但很快AI創(chuàng)造的內(nèi)容數(shù)量可能會(huì)遠(yuǎn)遠(yuǎn)超過它們。

可惜,目前的AI系統(tǒng)仍然不夠“聰明”,質(zhì)量低劣,還是“寄生蟲”。訓(xùn)練AI的數(shù)據(jù)來自舊時(shí)代,AI只是進(jìn)行了再創(chuàng)造,這種創(chuàng)造還不完美。AI生成的內(nèi)容不太可靠,系統(tǒng)還沒有成熟,AI就與之前的舊平臺(tái)展開了用戶注意力的爭(zhēng)奪。

內(nèi)容平臺(tái)首鼠兩端

在美國(guó),有些AI公司通過API獲取Reddit數(shù)據(jù),導(dǎo)致Reddit準(zhǔn)備提價(jià),讓它們支付更多使用費(fèi)。Reddit CEO Steve Huffman說:“Reddit數(shù)據(jù)庫(kù)很有價(jià)值,我們不會(huì)將所有價(jià)值免費(fèi)提供給一些大企業(yè)。”

Reddit準(zhǔn)備今年年末上市,它想從平臺(tái)中挖掘更多價(jià)值。AI企業(yè)瘋狂抓取數(shù)據(jù),這是機(jī)會(huì),也是威脅,有人擔(dān)心互聯(lián)網(wǎng)企業(yè)可能會(huì)重新思考平臺(tái)的開放性問題。

以前谷歌抓取維基百科信息不用付錢,但現(xiàn)在要付費(fèi)了。維基百科對(duì)AI內(nèi)容持雙重看法,AI生成內(nèi)容速度快,覆蓋范圍廣,這是優(yōu)點(diǎn),但它們往往存在誤導(dǎo)。

去年ChatGPT推出后沒多久,Stack Overflow就給予“封殺”待遇。主要問題在于ChatGPT在一般情況下看起來很好,答案也容易生成,但出錯(cuò)率太高,要給結(jié)果排序太費(fèi)神了,所以干脆禁止。

但后來Stack Overflow又改變態(tài)度,抬高了用戶發(fā)布AI內(nèi)容的門檻,讓他們承擔(dān)更多舉證責(zé)任,不再封殺。Stack Overflow也準(zhǔn)備向抓取數(shù)據(jù)的AI公司收費(fèi)。版主認(rèn)為AI內(nèi)容不可信,但Stack Overflow高管覺得冒點(diǎn)險(xiǎn)是值得的。

谷歌選擇至關(guān)重要

最值得的關(guān)注的可能還是谷歌的態(tài)度。谷歌搜索是現(xiàn)代網(wǎng)絡(luò)的支柱之一,它將注意力、金錢分散至龐大的網(wǎng)絡(luò)??吹奖貞?yīng)AI和ChatGPT走紅,谷歌搜索感受到威脅,它正在做實(shí)驗(yàn),想在搜索結(jié)果中增加AI內(nèi)容,如果計(jì)劃順利推廣,影響將是巨大的。

Tom’s Hardware主編Avram Piltch認(rèn)為,谷歌新開發(fā)的系統(tǒng)從本質(zhì)上講是一個(gè)“剽竊引擎”。AI生成的內(nèi)容許多時(shí)候是從網(wǎng)絡(luò)一字不動(dòng)抄襲的,谷歌有時(shí)將這些抄襲的內(nèi)容放在源鏈接之上。

如果谷歌新引擎真的全面推廣,將會(huì)嚴(yán)重?fù)p害整個(gè)互聯(lián)網(wǎng)。未來那些財(cái)務(wù)欠佳的網(wǎng)站可能會(huì)倒閉,谷歌將耗盡人工生成內(nèi)容,最終殺死創(chuàng)造價(jià)值的生態(tài)系統(tǒng),或者以不可逆的方式改變生態(tài)系統(tǒng),然后反受其害,威脅到自身生存。

綜上,如果我們放任AI內(nèi)容肆意傳播將如何呢?從目前的證據(jù)看,網(wǎng)絡(luò)內(nèi)容的質(zhì)量會(huì)降低。AI雖然有能力重新組合文本,但創(chuàng)造底層數(shù)據(jù)的依然是人。

AI創(chuàng)造的內(nèi)容有許多錯(cuò)誤,這些錯(cuò)誤很難被發(fā)現(xiàn),它生成的誤導(dǎo)信息非常“狡猾”,這些信息并非依賴對(duì)真實(shí)世界的體驗(yàn)生產(chǎn),發(fā)現(xiàn)其中的錯(cuò)誤需要時(shí)間,需要專業(yè)知識(shí)。

人類也會(huì)制造許多誤導(dǎo)信息,但人類專業(yè)知識(shí)生存的平臺(tái)仍是積極力量,如果它們被AI系統(tǒng)擊潰,未來想糾正錯(cuò)誤將會(huì)變得更加困難。

THEEND

最新評(píng)論(評(píng)論僅代表用戶觀點(diǎn))

更多
暫無評(píng)論