本文來自極客網(wǎng)，作者：小刀。
不久前ChatGPT突然走紅，用戶量迅速增加，很多人驚呼“生成式AI”革命已經(jīng)到來，但最近幾個(gè)月它的熱度似乎在下降，用戶量增速已經(jīng)明顯放緩。
The Verge撰文稱，生成式AI必然會(huì)在科技史上留下一筆，但它帶來的消極影響也的確值得我們重視。
什么消極影響呢？有人用ChatGPT生成垃圾網(wǎng)站，網(wǎng)上到處都是AI生成的垃圾；聊天機(jī)器人勾連在一起，引用彼此的誤導(dǎo)信息；Snapchat和Instagram等社媒都希望用機(jī)器人陪你聊天……
關(guān)鍵的是，舊網(wǎng)絡(luò)正在死亡，但新的網(wǎng)絡(luò)還在掙扎，還沒有出生。
網(wǎng)絡(luò)的死亡與重生
網(wǎng)絡(luò)一直在死亡中重生，比如APP改變了流量走向。2023年網(wǎng)絡(luò)再次走向死亡，這一次有了新元素參與，它就是AI。
多年前，網(wǎng)絡(luò)還是個(gè)體的天下，個(gè)體用戶制作主頁(yè)、論壇、郵件列表，金錢涌入，然后企業(yè)加入進(jìn)來，創(chuàng)建功能豐富的平臺(tái)，讓每一個(gè)人都可以加入進(jìn)來。現(xiàn)在AI正在改變舊格局。
有了金錢和算力，AI系統(tǒng)可以輕松擴(kuò)張。AI生成文本和圖片，很快將會(huì)制作音樂和視頻。以前我們依賴新聞、信息、娛樂，它們創(chuàng)造了海量?jī)?nèi)容，但很快AI創(chuàng)造的內(nèi)容數(shù)量可能會(huì)遠(yuǎn)遠(yuǎn)超過它們。
可惜，目前的AI系統(tǒng)仍然不夠“聰明”，質(zhì)量低劣，還是“寄生蟲”。訓(xùn)練AI的數(shù)據(jù)來自舊時(shí)代，AI只是進(jìn)行了再創(chuàng)造，這種創(chuàng)造還不完美。AI生成的內(nèi)容不太可靠，系統(tǒng)還沒有成熟，AI就與之前的舊平臺(tái)展開了用戶注意力的爭(zhēng)奪。
內(nèi)容平臺(tái)首鼠兩端
在美國(guó)，有些AI公司通過API獲取Reddit數(shù)據(jù)，導(dǎo)致Reddit準(zhǔn)備提價(jià)，讓它們支付更多使用費(fèi)。Reddit CEO Steve Huffman說：“Reddit數(shù)據(jù)庫(kù)很有價(jià)值，我們不會(huì)將所有價(jià)值免費(fèi)提供給一些大企業(yè)。”
Reddit準(zhǔn)備今年年末上市，它想從平臺(tái)中挖掘更多價(jià)值。AI企業(yè)瘋狂抓取數(shù)據(jù)，這是機(jī)會(huì)，也是威脅，有人擔(dān)心互聯(lián)網(wǎng)企業(yè)可能會(huì)重新思考平臺(tái)的開放性問題。
以前谷歌抓取維基百科信息不用付錢，但現(xiàn)在要付費(fèi)了。維基百科對(duì)AI內(nèi)容持雙重看法，AI生成內(nèi)容速度快，覆蓋范圍廣，這是優(yōu)點(diǎn)，但它們往往存在誤導(dǎo)。
去年ChatGPT推出后沒多久，Stack Overflow就給予“封殺”待遇。主要問題在于ChatGPT在一般情況下看起來很好，答案也容易生成，但出錯(cuò)率太高，要給結(jié)果排序太費(fèi)神了，所以干脆禁止。
但后來Stack Overflow又改變態(tài)度，抬高了用戶發(fā)布AI內(nèi)容的門檻，讓他們承擔(dān)更多舉證責(zé)任，不再封殺。Stack Overflow也準(zhǔn)備向抓取數(shù)據(jù)的AI公司收費(fèi)。版主認(rèn)為AI內(nèi)容不可信，但Stack Overflow高管覺得冒點(diǎn)險(xiǎn)是值得的。
谷歌選擇至關(guān)重要
最值得的關(guān)注的可能還是谷歌的態(tài)度。谷歌搜索是現(xiàn)代網(wǎng)絡(luò)的支柱之一，它將注意力、金錢分散至龐大的網(wǎng)絡(luò)?？吹奖貞?yīng)AI和ChatGPT走紅，谷歌搜索感受到威脅，它正在做實(shí)驗(yàn)，想在搜索結(jié)果中增加AI內(nèi)容，如果計(jì)劃順利推廣，影響將是巨大的。
Tom’s Hardware主編Avram Piltch認(rèn)為，谷歌新開發(fā)的系統(tǒng)從本質(zhì)上講是一個(gè)“剽竊引擎”。AI生成的內(nèi)容許多時(shí)候是從網(wǎng)絡(luò)一字不動(dòng)抄襲的，谷歌有時(shí)將這些抄襲的內(nèi)容放在源鏈接之上。
如果谷歌新引擎真的全面推廣，將會(huì)嚴(yán)重?fù)p害整個(gè)互聯(lián)網(wǎng)。未來那些財(cái)務(wù)欠佳的網(wǎng)站可能會(huì)倒閉，谷歌將耗盡人工生成內(nèi)容，最終殺死創(chuàng)造價(jià)值的生態(tài)系統(tǒng)，或者以不可逆的方式改變生態(tài)系統(tǒng)，然后反受其害，威脅到自身生存。
綜上，如果我們放任AI內(nèi)容肆意傳播將如何呢？從目前的證據(jù)看，網(wǎng)絡(luò)內(nèi)容的質(zhì)量會(huì)降低。AI雖然有能力重新組合文本，但創(chuàng)造底層數(shù)據(jù)的依然是人。
AI創(chuàng)造的內(nèi)容有許多錯(cuò)誤，這些錯(cuò)誤很難被發(fā)現(xiàn)，它生成的誤導(dǎo)信息非常“狡猾”，這些信息并非依賴對(duì)真實(shí)世界的體驗(yàn)生產(chǎn)，發(fā)現(xiàn)其中的錯(cuò)誤需要時(shí)間，需要專業(yè)知識(shí)。
人類也會(huì)制造許多誤導(dǎo)信息，但人類專業(yè)知識(shí)生存的平臺(tái)仍是積極力量，如果它們被AI系統(tǒng)擊潰，未來想糾正錯(cuò)誤將會(huì)變得更加困難。
