本文來自Metaverse元宇宙，作者/Sanderson。
人工智能公司OpenAI本周推出了GPT-4，這是為其流行的聊天機器人ChatGPT提供支持的大型語言模型的最新版本。
該公司表示，GPT-4包含重大改進——它已經(jīng)以其創(chuàng)建類人文本并從幾乎任何提示生成圖像和計算機代碼的能力震驚了人們。研究人員表示，這些能力有可能改變科學(xué)——但有些人感到沮喪的是，他們還無法獲得該技術(shù)、其底層代碼或有關(guān)其訓(xùn)練方式的信息。
科學(xué)家們表示，這引起了對該技術(shù)安全性的擔(dān)憂，并使其對研究的用處降低。
1被列為研究論文的作者？許多科學(xué)家不贊成
“目前有一個等候名單，所以你現(xiàn)在不能使用它，”阿姆斯特丹大學(xué)的心理學(xué)家Evi-Anne Van Dis說。但她看過GPT-4的演示。“我們觀看了一些他們展示能力的視頻，這令人震驚，”她說。
她回憶說，一個例子是一個網(wǎng)站的手繪涂鴉，GPT-4用它來生成構(gòu)建該網(wǎng)站所需的計算機代碼，作為處理圖像作為輸入的能力的演示。
但是，科學(xué)界對OpenAI對模型的訓(xùn)練方式和訓(xùn)練數(shù)據(jù)及其實際工作方式的保密感到失望。“所有這些閉源模型，它們本質(zhì)上都是科學(xué)的死胡同，”開源AI社區(qū)HuggingFace專門研究氣候的研究科學(xué)家Sasha Luccioni說。“他們可以繼續(xù)他們的研究，但對于整個社區(qū)來說，這是一條死胡同。”
2“紅隊”測試
羅切斯特大學(xué)的化學(xué)工程師安德魯·懷特(Andrew White)以“紅隊隊員”的身份獲得了使用GPT-4的特權(quán)：
OpenAI雇用一名人員來測試該平臺，試圖讓它做一些不好的事情。他說，在過去的六個月里，他一直在使用GPT-4。與之前的迭代相比，“在流程的早期，它似乎并沒有什么不同”。
他向機器人詢問制造化合物需要哪些化學(xué)反應(yīng)步驟、預(yù)測反應(yīng)產(chǎn)率以及選擇催化劑。“起初，我實際上并沒有留下深刻的印象，”懷特說。“這真的很令人驚訝，因為它看起來很逼真，但它會在這里產(chǎn)生一個原子的幻覺。它會在那里跳過一步，”他補充道。
但是，作為他的紅隊工作的一部分，當(dāng)他允許GPT-4訪問科學(xué)論文時，情況發(fā)生了巨大變化。“這讓我們意識到這些模型可能并沒有那么好。但是當(dāng)你開始將它們連接到Internet上，使用諸如逆合成計劃器或計算器之類的工具時，突然之間，就會出現(xiàn)新的能力。”
伴隨這些能力而來的是擔(dān)憂。例如，GPT-4是否允許制造危險化學(xué)品？懷特說，根據(jù)懷特等人的意見，OpenAI工程師將反饋反饋到他們的模型中，以阻止GPT-4創(chuàng)建危險、非法或破壞性的內(nèi)容。
3輸出虛假信息
輸出虛假信息是另一個問題。Luccioni說，像GPT-4這樣的模型，可以預(yù)測句子中的下一個單詞，無法治愈產(chǎn)生虛假事實——稱為幻覺。“你不能依賴這些模型，因為有太多的幻覺，”她說。
這在最新版本中仍然是一個問題，盡管OpenAI表示它提高了GPT-4的安全性。
在無法訪問用于訓(xùn)練的數(shù)據(jù)的情況下，OpenAI對安全的保證對Luccioni來說是達不到要求的。“你不知道數(shù)據(jù)是什么。所以你不能改進它。我的意思是，用這樣的模型做科學(xué)研究是完全不可能的，”她說。
GPT-4是如何訓(xùn)練的謎團也是Van Dis在阿姆斯特丹的同事、心理學(xué)家Claudi Bockting關(guān)心的問題。“作為一個人，很難對你無法監(jiān)督的事情負責(zé)，”她說。“其中一個擔(dān)憂是，它們可能比人類自身的偏見要嚴重得多。”Luccioni解釋說，如果無法訪問GPT-4背后的代碼，就不可能看出偏見可能起源于何處，也無法對其進行補救。
4倫理討論
Bockting和Van Dis還擔(dān)心這些人工智能系統(tǒng)越來越多地被大型科技公司擁有。他們希望確保該技術(shù)得到科學(xué)家的適當(dāng)測試和驗證。“這也是一個機會，因為與大型科技公司的合作當(dāng)然可以加快流程，”她補充道。
Van Dis、Bockting和他的同事在今年早些時候提出，迫切需要制定一套“實時”指南來管理人工智能和GPT-4等工具的使用和開發(fā)方式。他們擔(dān)心任何圍繞人工智能技術(shù)的立法都將難以跟上發(fā)展的步伐。Bockting和Van Dis于4月11日在阿姆斯特丹大學(xué)召開了一次邀請性峰會，與來自教科文組織科學(xué)倫理委員會、經(jīng)濟合作與發(fā)展組織和世界經(jīng)濟論壇等組織的代表討論這些問題。
懷特說，盡管存在擔(dān)憂，但GPT-4及其未來的迭代將撼動科學(xué)。“我認為這實際上將是科學(xué)領(lǐng)域的巨大基礎(chǔ)設(shè)施變革，就像互聯(lián)網(wǎng)是一個巨大的變革一樣，”他說。他補充說，它不會取代科學(xué)家，但可以幫助完成一些任務(wù)。“我認為我們將開始意識到我們可以將我們使用的論文、數(shù)據(jù)程序、圖書館與計算工作甚至機器人實驗聯(lián)系起來。”
原文標題：GPT-4 is here:what scientists think
本期圖片均來源于Google
