本文來自微信公眾號“安全牛”。
ChatGPT的強(qiáng)大功能讓其火爆全球，幾乎一夜之間就成為科技界的“超級網(wǎng)紅”，已為數(shù)十億人提供智能化的信息處理服務(wù)。然而，隨著ChatGPT應(yīng)用熱度不斷攀升，網(wǎng)絡(luò)犯罪分子也在快速試驗(yàn)這項(xiàng)技術(shù)，并不斷突破企業(yè)現(xiàn)有的安全防護(hù)界限。因此，如果組織對使用ChatGPT感興趣，應(yīng)該首先了解如何在技術(shù)應(yīng)用時(shí)保護(hù)好自己，并警惕各種類型的ChatGPT應(yīng)用騙局和攻擊。
01
虛假的ChatGPT瀏覽器擴(kuò)展
瀏覽器擴(kuò)展是目前廣泛使用的一種插件工具，但其中也會(huì)包含大量的惡意假冒軟件版本，對于ChatGPT而言也不例外。雖然一些以ChatGPT為重點(diǎn)的擴(kuò)展是正規(guī)可靠的，比如Merlin和Enhanced ChatGPT，但并非在應(yīng)用程序商店中看到的每個(gè)關(guān)于ChatGPT的擴(kuò)展都是安全的。例如，一個(gè)名為“Chat GPT for Google”的ChatGPT擴(kuò)展于今年3月開始廣泛傳播。這個(gè)虛假擴(kuò)展的命名幾乎與合法擴(kuò)展工具“ChatGPT for Google”相同，目的就是為了迷惑用戶。但實(shí)際上，它的真實(shí)目的是在Facebook賬戶和訪問管理權(quán)限上安裝隱藏的后門，并竊取用戶的Facebook信息。
因此，用戶在下載ChatGPT擴(kuò)展工具之前充分驗(yàn)證它的安全性和合法性是至關(guān)重要的。此外，還要注意擴(kuò)展名中的離散差異，因?yàn)閻阂鈹U(kuò)展通常會(huì)以非常相似的方式去命名，以欺騙用戶。
02
山寨版惡意ChatGPT應(yīng)用
與虛假的瀏覽器擴(kuò)展一樣，網(wǎng)絡(luò)犯罪分子還在利用山寨版ChatGPT來傳播惡意的應(yīng)用程序。惡意應(yīng)用程序并不是什么新鮮事，多年來一直被用來部署惡意軟件、竊取數(shù)據(jù)和監(jiān)控設(shè)備活動(dòng)。由于“ChatGPT”這個(gè)眾所周知的名詞有著非常高的熱度，因此也被用來推送惡意應(yīng)用程序。
今年2月，安全研究人員發(fā)現(xiàn)網(wǎng)絡(luò)犯罪分子開發(fā)了一款假冒的ChatGPT應(yīng)用程序，用于傳播Windows和Android惡意軟件。據(jù)報(bào)道，惡意行為者利用OpenAI的ChatGPT Plus來說服用戶，他們只要完成注冊，就可以免費(fèi)使用ChatGPT的一些高級功能，但其真實(shí)目標(biāo)是竊取用戶的賬戶憑證，并部署惡意軟件。
為了讓自己遠(yuǎn)離這些危險(xiǎn)的假冒ChatGPT應(yīng)用，用戶要對類似特定類型的軟件程序進(jìn)行背景研究，看看它是否有良好的正面聲譽(yù)和評價(jià)反饋，并堅(jiān)持選擇值得信賴的應(yīng)用商店。
03
由ChatGPT創(chuàng)建的惡意軟件
目前，已有很多關(guān)于人工智能和網(wǎng)絡(luò)犯罪的討論，因?yàn)樵S多人擔(dān)心ChatGPT技術(shù)可能會(huì)讓惡意行為者更容易欺騙和攻擊受害者。事實(shí)證明，在ChatGPT發(fā)布后不久，犯罪分子就開始使用這一流行工具編寫惡意代碼。在2023年初，一種基于python的惡意軟件據(jù)稱就是使用ChatGPT創(chuàng)建的。
盡管這種由ChatGPT編寫的惡意軟件還并不復(fù)雜，但ChatGPT編寫惡意軟件程序的能力為沒有技術(shù)背景的犯罪分子打開了一扇門，在不久的將來可能會(huì)成為一個(gè)安全方面的大問題。
04
ChatGPT郵件詐騙和釣魚攻擊
多年來，電子郵件一直是犯罪分子應(yīng)用最多的欺詐媒介之一，通過電子郵件可以傳播惡意軟件、勒索受害者以及竊取有價(jià)值的信息。而現(xiàn)在，ChatGPT也被大量用于電子郵件詐騙和釣魚攻擊。2023年4月，研究人員發(fā)現(xiàn)了大量由ChatGPT專門撰寫的網(wǎng)絡(luò)釣魚電子郵件，ChatGPT可以根據(jù)犯罪分子的要求編寫、修改郵件的內(nèi)容，并可實(shí)際應(yīng)用到真實(shí)的惡意犯罪活動(dòng)中。
使用ChatGPT編寫網(wǎng)絡(luò)釣魚電子郵件可以簡化網(wǎng)絡(luò)罪犯的詐騙過程，這可能會(huì)導(dǎo)致網(wǎng)絡(luò)釣魚攻擊的頻率整體上升。ChatGPT網(wǎng)絡(luò)釣魚攻擊通常是利用惡意網(wǎng)站進(jìn)行的。犯罪分子會(huì)向用戶發(fā)送帶ChatGPT應(yīng)用鏈接的電子郵件或消息，并以各種方式誘導(dǎo)用戶去點(diǎn)擊。如果用戶點(diǎn)擊鏈接就會(huì)跳轉(zhuǎn)到假冒或者山寨ChatGPT網(wǎng)站，并被誘導(dǎo)填寫諸如銀行卡信息、電子郵件地址、身份證和電話號碼等個(gè)人信息。
此外，犯罪分子還會(huì)通過ChatGPT釣魚鏈接傳播病毒。目前，研究人員已經(jīng)發(fā)現(xiàn)犯罪分子使用ChatGPT創(chuàng)建一個(gè)完整的感染鏈：與廣撒網(wǎng)式的網(wǎng)絡(luò)釣魚攻擊不同，該模式會(huì)生成針對特定人或者組織的“魚叉式”網(wǎng)絡(luò)釣魚郵件，此類釣魚郵件更具有欺騙性和迷惑性，接收者一旦點(diǎn)擊該郵件，系統(tǒng)就會(huì)被惡意代碼感染中毒。
05
ChatGPT惡意誘導(dǎo)和利用
ChatGPT雖然具有強(qiáng)大的對話能力，但也存在生成錯(cuò)誤、不符合常識或者不道德內(nèi)容的風(fēng)險(xiǎn)，比如當(dāng)它被提問者錯(cuò)誤引導(dǎo)后，可能會(huì)給出一些邏輯錯(cuò)誤、與事實(shí)情況相反的回答。它還可能會(huì)被輸入一些有偏見、有誤導(dǎo)的內(nèi)容。有研究機(jī)構(gòu)測試發(fā)現(xiàn)，通過ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問題，它能在幾秒鐘內(nèi)改編信息，并產(chǎn)生大量令人信服卻沒有事實(shí)依據(jù)的內(nèi)容。一旦ChatGPT被不法分子惡意利用，將可能成為互聯(lián)網(wǎng)上制造和傳播網(wǎng)絡(luò)謠言的惡意工具。
