本文來(lái)自微信公眾號(hào)“嘶吼專(zhuān)業(yè)版”，作者/~陽(yáng)光~。
OpenAI的ChatGPT在人工智能語(yǔ)言模型方面取得了重要的進(jìn)展，并且為用戶(hù)提供了一個(gè)靈活有效的工具，可以用于模擬人類(lèi)去生成特定的文字。但最近發(fā)生的事件凸顯了一個(gè)非常關(guān)鍵的問(wèn)題：網(wǎng)絡(luò)開(kāi)始出現(xiàn)了各種第三方的插件。雖然這些插件宣稱(chēng)可以大幅的改進(jìn)chatgpt的功能，但它們也可能會(huì)造成嚴(yán)重的隱私和安全問(wèn)題。
安全專(zhuān)家在一篇文章指出，在ChatGPT中使用插件可能會(huì)帶來(lái)各種各樣的危害。如果對(duì)此審查和監(jiān)管不當(dāng)，第三方插件可能會(huì)危及系統(tǒng)的安全，使其容易受到攻擊者的攻擊。這篇文章的作者強(qiáng)調(diào)了ChatGPT的靈活性以及可調(diào)整性，同時(shí)這也為攻擊者利用安全漏洞留下了空間。
其他媒體的一篇文章對(duì)這一問(wèn)題進(jìn)行了深入探討，強(qiáng)調(diào)了安裝未經(jīng)批準(zhǔn)的插件可能會(huì)泄露使用者的敏感數(shù)據(jù)。如果不進(jìn)行充分的檢查，那么這些插件可能就無(wú)法遵循與主ChatGPT系統(tǒng)相同的嚴(yán)格的安全準(zhǔn)則。因此，私人信息、知識(shí)產(chǎn)權(quán)和敏感的個(gè)人數(shù)據(jù)很容易被竊取或非法訪(fǎng)問(wèn)。
創(chuàng)建ChatGPT的OpenAI公司已經(jīng)在平臺(tái)的文檔中解決了這些問(wèn)題。該公司也已經(jīng)意識(shí)到了插件可能會(huì)帶來(lái)的各種安全問(wèn)題，并敦促用戶(hù)在選擇和部署插件時(shí)謹(jǐn)慎行事。為了降低潛在的安全風(fēng)險(xiǎn)，OpenAI強(qiáng)調(diào)只使用經(jīng)過(guò)可靠來(lái)源驗(yàn)證和確認(rèn)的插件這一準(zhǔn)則是非常重要的。
隨著問(wèn)題的發(fā)展，OpenAI仍在采取積極措施來(lái)保證ChatGPT的安全性和可靠性。公司鼓勵(lì)用戶(hù)在與系統(tǒng)進(jìn)行交互時(shí)，報(bào)告他們遇到的可疑的或惡意的插件。通過(guò)進(jìn)行調(diào)查和開(kāi)展適當(dāng)?shù)男袆?dòng)，OpenAI能夠保護(hù)用戶(hù)并維護(hù)其人工智能平臺(tái)的完整性。
在這里值得注意的是，并非所有的插件都會(huì)帶來(lái)風(fēng)險(xiǎn)。許多插件，如果是由值得信賴(lài)的或者具有安全意識(shí)的開(kāi)發(fā)者開(kāi)發(fā)的，都能為ChatGPT帶來(lái)有價(jià)值的功能，增強(qiáng)其在各種情況下的實(shí)用性和適應(yīng)性。然而，最大的問(wèn)題在于如何在開(kāi)放創(chuàng)新和保護(hù)用戶(hù)免受潛在威脅之間取得適當(dāng)?shù)钠胶狻?/p>
OpenAI一直在致力于解決插件的問(wèn)題，這表明它致力于維護(hù)一個(gè)安全可靠的平臺(tái)。作為一個(gè)普通用戶(hù)，在選擇和使用與ChatGPT相關(guān)的插件時(shí)，必須要意識(shí)到潛在的風(fēng)險(xiǎn)并謹(jǐn)慎行事。
參考及來(lái)源：https://www.cysecurity.news/2023/07/challenge-arising-from-chatgpt-plugin.html
