本文來(lái)自嘶吼網(wǎng)，作者/布加迪。
據(jù)邁克菲公司（McAfee）聲稱，AI技術(shù)正促使在線語(yǔ)音詐騙數(shù)量激增，只需要短短三秒的音頻就能克隆受害者的語(yǔ)音。
邁克菲對(duì)來(lái)自七個(gè)國(guó)家的7054人進(jìn)行了調(diào)查，結(jié)果發(fā)現(xiàn)四分之一的成年人之前遇到過(guò)某種形式的AI語(yǔ)音詐騙，10%的人稱自己就受到過(guò)詐騙，15%的人稱熟悉的人受到過(guò)詐騙。77%的受害者聲稱因此賠了錢。
此外，邁克菲研究室的安全研究人員在深入研究AI語(yǔ)音克隆技術(shù)及網(wǎng)絡(luò)犯罪分子的使用后得出了如下的重要結(jié)論。
騙子們使用AI技術(shù)來(lái)克隆語(yǔ)音
每個(gè)人的語(yǔ)音都獨(dú)一無(wú)二，相當(dāng)于生物特征識(shí)別指紋，這就是為什么聽(tīng)某人說(shuō)話是一種得到廣泛接受的確立信任的方式。
但53%的成年人每周在網(wǎng)上至少分享一次語(yǔ)音數(shù)據(jù)（通過(guò)社交媒體和語(yǔ)音便筏等渠道），49%的成年人每周最多分享10次，克隆某人的語(yǔ)音現(xiàn)在是網(wǎng)絡(luò)犯罪分子的武器庫(kù)中最強(qiáng)大的工具之一。
隨著人工智能工具迅速普及和發(fā)展起來(lái)，犯罪分子比以往任何時(shí)候更容易操縱親朋好友的圖像、視頻和語(yǔ)音（后者可能最令人不安）。
邁克菲的研究表明，騙子者如今使用AI技術(shù)克隆語(yǔ)音，然后發(fā)送虛假的語(yǔ)音郵件或者呼叫受害者的通訊錄聯(lián)系人，佯稱自己遇到了困難。70%的成年人表示自己很難區(qū)分克隆語(yǔ)音和真人語(yǔ)音，難怪這項(xiàng)技術(shù)越來(lái)越受到不法分子的追捧。
45%的受訪者表示，他們會(huì)回復(fù)冒充來(lái)自親朋好友的詐騙語(yǔ)音郵件或語(yǔ)音便箋，特別是當(dāng)這些語(yǔ)音來(lái)自他們的伴侶或配偶（40%）、父母（31%）或子女（20%）時(shí)。
AI語(yǔ)音詐騙受害者損失慘重
50歲以上的父母這個(gè)群體最有可能對(duì)孩子的語(yǔ)音做出回應(yīng)，比例達(dá)到了41%。最可能得到回應(yīng)的消息是聲稱發(fā)生車禍（48%）、被搶劫（47%）、丟失手機(jī)或錢包（43%）或在出國(guó)旅行時(shí)需要幫助（41%）的信息。
但如果受害者上了AI語(yǔ)音詐騙的當(dāng)，往往面臨重大損失。超過(guò)三分之一的受害者聲稱損失超過(guò)1000美元，7%的受害者被騙去5000美元至15000美元。
調(diào)查還發(fā)現(xiàn)，深度偽造和虛假信息的興起導(dǎo)致人們對(duì)網(wǎng)上看到的內(nèi)容更加警惕，32%的成年人表示他們現(xiàn)在比以往任何時(shí)候都更不信任社交媒體。
邁克菲首席技術(shù)官Steve Grobman說(shuō)：“人工智能帶來(lái)了令人難以置信的機(jī)會(huì)，但與任何技術(shù)一樣，這項(xiàng)技術(shù)總是有可能落到不法分子的手里后被濫用。這是我們今天看到的一幕，易于使用AI工具幫助網(wǎng)絡(luò)犯罪分子以越來(lái)越逼真的方式擴(kuò)大詐騙活動(dòng)的規(guī)模。”
語(yǔ)音克隆越來(lái)越容易
作為邁克菲分析和評(píng)估這個(gè)新趨勢(shì)的一部分，邁克菲研究人員花了三周時(shí)間來(lái)調(diào)查AI語(yǔ)音克隆工具的可訪問(wèn)性、易用性和有效性，其團(tuán)隊(duì)在網(wǎng)上發(fā)現(xiàn)了十多種免費(fèi)的AI語(yǔ)音克隆工具。
免費(fèi)工具和收費(fèi)工具都唾手可得，許多工具只需要基本的經(jīng)驗(yàn)和專業(yè)知識(shí)即可使用。其中一種工具甚至只需三秒鐘語(yǔ)音就足以生成匹配度達(dá)85%的克隆語(yǔ)音。如果犯罪分子投入更大的精力，可以進(jìn)一步提高準(zhǔn)確性。
通過(guò)訓(xùn)練數(shù)據(jù)模型，邁克菲研究人員僅用少量音頻文件就實(shí)現(xiàn)了95%的語(yǔ)音匹配度。
克隆語(yǔ)音越準(zhǔn)確，網(wǎng)絡(luò)犯罪分子誘騙受害者交出錢財(cái)或采取其他所要求的操作的可能性就越大。由于這些騙局利用人類親密關(guān)系中固有的情感脆弱性，騙子可以在短短幾個(gè)小時(shí)內(nèi)騙到數(shù)千美元。
語(yǔ)音克隆技術(shù)的演進(jìn)
Grobman說(shuō)：“先進(jìn)的人工智能工具正在改變網(wǎng)絡(luò)犯罪分子的游戲規(guī)則?，F(xiàn)在，他們幾乎不費(fèi)吹灰之力，就可以克隆某個(gè)人的語(yǔ)音，欺騙親朋好友匯錢。”
Grobman得出結(jié)論：“重要的是保持警惕，并采取積極主動(dòng)的措施以確保你和親朋好友安全。如果你接到遇到困難的配偶或家庭成員打來(lái)的電話、要求匯錢，務(wù)必驗(yàn)證來(lái)電者的真實(shí)身份——使用之前約定的暗號(hào)，或問(wèn)一個(gè)只有對(duì)方知道的問(wèn)題。身份和隱私保護(hù)服務(wù)也將有助于限制個(gè)人信息的數(shù)字足跡，犯罪分子在克隆語(yǔ)音時(shí)可以利用數(shù)字足跡來(lái)捏造令人信服的故事。”
邁克菲的研究人員使用他們發(fā)現(xiàn)的克隆工具，發(fā)現(xiàn)輕而易舉就能克隆全球各地的口音，無(wú)論受害者來(lái)自美國(guó)、英國(guó)、印度還是澳大利亞，但比較獨(dú)特的口音克隆起來(lái)比較困難。比如說(shuō)，以不尋常的語(yǔ)速、節(jié)奏或風(fēng)格說(shuō)話的人的語(yǔ)音需要花更大的力氣才能準(zhǔn)確克隆，因此不太可能被盯上。
不過(guò)研究團(tuán)隊(duì)普遍認(rèn)為，人工智能已經(jīng)改變了網(wǎng)絡(luò)犯罪分子的游戲規(guī)則。這方面的準(zhǔn)入門檻從未如此之低，這意味著實(shí)施網(wǎng)絡(luò)犯罪從未如此簡(jiǎn)單。
AI語(yǔ)音克隆防范要訣
約定語(yǔ)音暗號(hào)。與孩子、家人或密友設(shè)置一個(gè)只有他們才知道的口頭暗號(hào)。制定一項(xiàng)計(jì)劃，要求他們?cè)诖螂娫?、發(fā)短信或發(fā)電子郵件尋求幫助時(shí)始終需要提供暗號(hào)，如果是老年人或小孩子尤其如此。
始終質(zhì)疑來(lái)源。如果是來(lái)自來(lái)歷不明的發(fā)件人的電話、短信或電子郵件，或者即便是來(lái)自熟人的電話，接到求救電話后也應(yīng)該冷靜思考：這聽(tīng)起來(lái)真像是他們的聲音嗎？他們會(huì)問(wèn)你這個(gè)嗎？掛斷電話，接致電對(duì)方，或者在回復(fù)之前（當(dāng)然在匯錢之前）嘗試驗(yàn)證信息真?zhèn)巍?/p>
點(diǎn)擊和分享應(yīng)慎重。誰(shuí)在你的社交媒體網(wǎng)絡(luò)中？你真的熟悉并信任他們嗎？要留意你在網(wǎng)上的朋友和聯(lián)系人。你的關(guān)系網(wǎng)越廣、分享的內(nèi)容越多，被惡意克隆身份的風(fēng)險(xiǎn)就越大。
使用身份監(jiān)視服務(wù)，如果你的私密信息流入到暗網(wǎng)上，身份監(jiān)視服務(wù)有助于確保你的個(gè)人身份信息無(wú)法被訪問(wèn)或告知隱患。牢牢控制你的個(gè)人數(shù)據(jù)，避免被網(wǎng)絡(luò)犯罪分子冒充。
本文翻譯自：https://www.helpnetsecurity.com/2023/05/08/ai-voice-scam/
