任何技術(shù)都是雙刃劍，人工智能技術(shù)也不例外，AI技術(shù)在軍事上可以幫助隱真示假，造勢(shì)用勢(shì)，在民口上增強(qiáng)產(chǎn)品/系統(tǒng)的可用性，然而，近年來，據(jù)報(bào)道大量的人工智能合成信息占據(jù)了人們的真實(shí)生活及虛擬生活—互聯(lián)網(wǎng)空間，如“騷擾電話”、“好評(píng)灌水”、數(shù)據(jù)污染、合成聲音、AI生成真人視頻/圖像/不存在的事物等，鑒于此，不少專家認(rèn)為：專家認(rèn)為：人工智能的快速發(fā)展使得真實(shí)/虛擬生活空間從人與人的真實(shí)交流轉(zhuǎn)化為智能化、自動(dòng)化的平臺(tái)間交互、對(duì)抗。那么該如何認(rèn)識(shí)人工智能造假這個(gè)現(xiàn)象，進(jìn)而如何改變這個(gè)現(xiàn)象呢？這是當(dāng)前需要深入思考的一個(gè)重要問題。
機(jī)器本質(zhì)上只是人造物，是不會(huì)造假的，它們更類似于函數(shù)，即將輸入變?yōu)檩敵?，只?jì)多少，不問是非，更為關(guān)鍵的是數(shù)據(jù)/信息的變異是有人參與的演化、演變、演義而不僅是演算。所以人工智能造假本質(zhì)上是人的造假，是人通過編制好的程序和設(shè)備進(jìn)行預(yù)設(shè)的有針對(duì)性的造假，就像許多魔術(shù)一樣，只不過是用一些舊的公式定理結(jié)合新的情境態(tài)勢(shì)而擬合出的新算法而已（如一個(gè)訓(xùn)練良好的GAN（生成對(duì)抗網(wǎng)絡(luò)技術(shù)）配上豐富的數(shù)據(jù)資源，實(shí)現(xiàn)逼真的照片、視頻及文本材料已經(jīng)不是難事。），其目的是使人產(chǎn)生感覺上的錯(cuò)亂、知覺上的欺騙，進(jìn)而實(shí)現(xiàn)淹沒真實(shí)、虛假得逞的局面。
然而世界是由事實(shí)（關(guān)系）構(gòu)成的，而不是由事物（屬性）構(gòu)成的，從根本上而言，就算找到了構(gòu)成事物的最基本單元，機(jī)器也無法真正明白各單元之間的相互作用，而這些相互作用關(guān)系才是世界最大的秘密，如現(xiàn)代物理學(xué)發(fā)現(xiàn)人的身體與水、石頭等的基本物理微粒構(gòu)造一樣，但仍無法解釋人類為什么竟然可以產(chǎn)生意識(shí)、情感。如果我們抓住了“事物之間的聯(lián)系是世界之源”這個(gè)本質(zhì)，則大多數(shù)人工智能造假情況都可能被識(shí)破被痛擊。
人工智能造假技術(shù)可以深度態(tài)勢(shì)感知或上下文感知技術(shù)進(jìn)行相應(yīng)的過濾、篩選排除，如一個(gè)正常人不會(huì)輕易做不正常的事，一個(gè)正常的機(jī)構(gòu)也不會(huì)肆無忌憚地?zé)o法無天。但是非常時(shí)期非常情境卻有可能出現(xiàn)偶然意外，所以一般性地識(shí)別不難，難的是特殊情形下的細(xì)微區(qū)分和細(xì)甄。除了常規(guī)性的的防偽技術(shù)手段之外，我們還需要開發(fā)新的深度態(tài)勢(shì)感知技術(shù)和工具，盡可能的在造假的前期進(jìn)行識(shí)別干預(yù)，從態(tài)、勢(shì)、感、知等幾個(gè)階段展開深入分析和應(yīng)對(duì)，如開發(fā)隱藏在視頻中的水印、生成隱藏信息的對(duì)抗神經(jīng)網(wǎng)絡(luò)、具有深度態(tài)勢(shì)感知的聲音/視頻/圖像/電話/網(wǎng)絡(luò)分析器、反像素攻擊等技術(shù)，此外還可以研究相應(yīng)的管理應(yīng)急機(jī)制方法和手段，加強(qiáng)相關(guān)的法律道德管理，及早制定相關(guān)的法律法規(guī)，做好相應(yīng)的知識(shí)普及，讓反人工智能造假技術(shù)相關(guān)應(yīng)用能夠真正落地到相關(guān)單位和千家萬戶之中，真正實(shí)現(xiàn)人-機(jī)-環(huán)境系統(tǒng)聯(lián)動(dòng)的反人工智能造假生態(tài)鏈。
假的真不了，真的假不了，魔高一尺，道高一丈，畢竟，再好的人工智能都是人造的，而人工智能造的假應(yīng)該不可能是完備的，而人類本身就是對(duì)付不完備性最好的獵人，壞人在真實(shí)世界里得不到的東西在虛擬世界里也不會(huì)得到的，畢竟以壞人為中心的情境是違反大多數(shù)人最根本利益的。
