本文來(lái)自微信公眾號(hào)“數(shù)世咨詢(xún)”，【編譯】閆志坤。
今年，OpenAI在全球范圍內(nèi)成功阻止了超過(guò)20起利用人工智能進(jìn)行網(wǎng)絡(luò)犯罪的惡意活動(dòng)。這些活動(dòng)包括開(kāi)發(fā)惡意軟件、撰寫(xiě)網(wǎng)站文章、生成社交媒體賬戶(hù)傳記，以及為虛假賬戶(hù)創(chuàng)建AI生成的個(gè)人資料圖片。盡管黑客不斷嘗試?yán)肙penAI的模型，但目前尚未看到這些行為在制造新型惡意軟件或吸引大量受眾方面取得顯著進(jìn)展。
01 干擾政治選舉的新手段
OpenAI表示，黑客想利用人工智能技術(shù)擾亂了與美國(guó)、盧旺達(dá)以及程度較小的印度和歐盟選舉有關(guān)的社交媒體內(nèi)容，所幸的是這些網(wǎng)絡(luò)內(nèi)容均未吸引到病毒式傳播或持續(xù)的受眾。例如以色列商業(yè)公司STOIC（也稱(chēng)為Zero Zeno）的公關(guān)行為，該公司在社交媒體上對(duì)印度大選發(fā)表評(píng)論，正如Meta和OpenAI在今年5月初披露的那樣。
02 網(wǎng)絡(luò)攻擊行為案例分析
1.典型網(wǎng)絡(luò)攻擊行為
OpenAI發(fā)現(xiàn)的一些典型網(wǎng)絡(luò)攻擊行為如下：
- SweetSpecter利用其AI模型進(jìn)行LLM偵察、漏洞研究、腳本撰寫(xiě)、異常檢測(cè)規(guī)避和開(kāi)發(fā)。據(jù)觀察，它還針對(duì)OpenAI員工進(jìn)行了魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)嘗試（未成功），以傳播SugarGh0st RAT。
- Cyber Av3ngers是隸屬于伊朗伊斯蘭革命衛(wèi)隊(duì)(IRGC)的一個(gè)組織，它利用其人工智能模型對(duì)可編程邏輯控制器進(jìn)行研究。
- Storm-0817是一個(gè)伊朗黑客，它使用其AI模型來(lái)調(diào)試能夠收集敏感信息的Android惡意軟件、通過(guò)Selenium抓取Instagram個(gè)人資料的工具以及將LinkedIn個(gè)人資料翻譯成波斯語(yǔ)。
2.賬號(hào)封鎖與影響力行動(dòng)
同時(shí)，OpenAI表示已采取措施封鎖多個(gè)賬號(hào)群，其中包括兩個(gè)與代號(hào)為A2Z和Stop News的影響力行動(dòng)有關(guān)的賬號(hào)，這些賬號(hào)生成英語(yǔ)和法語(yǔ)內(nèi)容，隨后發(fā)布在多個(gè)網(wǎng)站和各個(gè)平臺(tái)的社交媒體賬號(hào)上。
“[Stop News]對(duì)圖像的使用異常豐富，”研究人員Ben Nimmo和Michael Flossman表示。“其許多網(wǎng)絡(luò)文章和推文都附有使用DALL·E生成的圖像。這些圖像通常為卡通風(fēng)格，并使用明亮的色調(diào)或戲劇性的色調(diào)來(lái)吸引注意力。”
OpenAI Bet Bot和Corrupt Comment還發(fā)現(xiàn)的另外兩個(gè)網(wǎng)絡(luò)分別使用OpenAI的API與用戶(hù)進(jìn)行對(duì)話(huà)并向他們發(fā)送賭博網(wǎng)站的鏈接，以及制造隨后發(fā)布在平臺(tái)上的評(píng)論。
近兩個(gè)月前，OpenAI禁止了一組與伊朗秘密影響行動(dòng)Storm-2035有關(guān)的賬戶(hù)，這些賬戶(hù)利用ChatGPT生成內(nèi)容，其中包括關(guān)注即將到來(lái)的美國(guó)總統(tǒng)大選的內(nèi)容。
尼莫和弗洛斯曼寫(xiě)道：“黑客最常使用我們的模型來(lái)執(zhí)行特定中間階段的任務(wù)——在他們獲得互聯(lián)網(wǎng)訪(fǎng)問(wèn)、電子郵件地址和社交媒體賬戶(hù)等基本工具之后，但在他們通過(guò)一系列分發(fā)渠道在互聯(lián)網(wǎng)上部署社交媒體帖子或惡意軟件等‘成品’之前。”
03 人工智能的濫用風(fēng)險(xiǎn)
盡管生成式人工智能被濫用于欺詐和深度偽造操作，網(wǎng)絡(luò)安全公司Sophos在上周發(fā)布的一份報(bào)告中表示，該技術(shù)還可能被濫用，通過(guò)目標(biāo)電子郵件傳播定制的虛假信息。這意味著濫用人工智能模型來(lái)編造政治競(jìng)選網(wǎng)站、人工智能生成的跨政治派別的角色，以及根據(jù)競(jìng)選要點(diǎn)專(zhuān)門(mén)針對(duì)他們的電子郵件信息發(fā)送虛假信息，從而實(shí)現(xiàn)新的自動(dòng)化水平，從而可以大規(guī)模傳播錯(cuò)誤信息。
研究人員Ben Gelman和Adarsh Kyadige表示：“這意味著用戶(hù)只需稍加配置就可以生成任何內(nèi)容，從良性的競(jìng)選材料到故意誤導(dǎo)的信息和惡意威脅。”
“任何真正的政治運(yùn)動(dòng)或候選人都有可能支持任何政策，即使他們并不同意。像這樣的故意誤導(dǎo)可能會(huì)讓人們支持他們并不支持的候選人，或者不同意他們認(rèn)為自己喜歡的候選人。”
*本文為閆志坤編譯，原文地址：https://thehackernews.com/2024/10/openai-blocks-20-global-malicious.html
