本文來自微信公眾號(hào)“CPS中安網(wǎng)”,作者/陳樹劍。
2024年2月29日,信安標(biāo)委正式發(fā)布《生成式人工智能服務(wù)安全基本要求》(以下簡(jiǎn)稱“《基本要求》”)。
《基本要求》規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求,包括語料安全、模型安全、安全措施、安全評(píng)估等,并給出了適用范圍。適用于服務(wù)提供者開展安全評(píng)估、提高安全水平,也可為相關(guān)主管部門評(píng)判生成式人工智能服務(wù)安全水平提供參考。
其中,語料安全,通俗一點(diǎn)講就是大模型訓(xùn)練所引用的的數(shù)據(jù),《基本要求》對(duì)這種訓(xùn)練語料來源的安全性提出了可操作的指引。比如,語料內(nèi)容中含違法不良信息超過5%的,不應(yīng)采集該來源語料等。
對(duì)于其他模型安全、安全措施、安全評(píng)估等內(nèi)容,這里不做過多闡述??傮w而言,《基本要求》的發(fā)布將有助于建立更安全、透明和有序的生成式人工智能服務(wù)生態(tài)系統(tǒng)。
另外,有市場(chǎng)人士表示,《基本要求》的發(fā)布在某種意義上是呼應(yīng)2月15日美巨頭OpenAI發(fā)布首個(gè)視頻生成模型“Sora”。畢竟對(duì)比2023年ChatGPT推出之后,市場(chǎng)對(duì)生成式人工智能技術(shù)的興趣激增,各種不合規(guī)的現(xiàn)象不間斷涌現(xiàn)。
至于目前生成式人工智能生態(tài)現(xiàn)狀、發(fā)展趨勢(shì)如何?看如下簡(jiǎn)要介紹!
產(chǎn)業(yè)成新質(zhì)生產(chǎn)力?
眾所周知,當(dāng)前生成式AI行業(yè)正處于快速發(fā)展階段,目前在教育、娛樂、媒體、設(shè)計(jì)、科研、廣告等多個(gè)行業(yè)都產(chǎn)生深遠(yuǎn)影響,并逐步滲透至商業(yè)決策、產(chǎn)品開發(fā)、客戶服務(wù)等諸多業(yè)務(wù)場(chǎng)景。
在市場(chǎng)規(guī)模方面,據(jù)彭博社預(yù)計(jì),全球生成式人工智能的市場(chǎng)規(guī)模將在2032年擴(kuò)大至1.3萬億美元。國內(nèi)方面,據(jù)工信部旗下賽迪研究院消息,預(yù)計(jì)2023年我國生成式人工智能市場(chǎng)規(guī)模將突破10萬億元,到2035年將突破30萬億元。
鑒于這廣闊的市場(chǎng),為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,2023年8月15正式實(shí)施由國家發(fā)展和改革委員會(huì)、教育部、科學(xué)技術(shù)部、工業(yè)和信息化部等七部門公布《生成式人工智能服務(wù)管理暫行辦法》。
此次再發(fā)布《基本要求》,無疑是為生成式人工智能行業(yè)健康發(fā)展增添新的護(hù)航神器,作為近期生成式人工智能領(lǐng)域最重磅的一個(gè)文件,將推動(dòng)行業(yè)應(yīng)用加速落地。
另外,在今年“兩會(huì)”期間,多位人大代表與政協(xié)委員熱議生成式AI,關(guān)注人才培養(yǎng)、場(chǎng)景落地、產(chǎn)業(yè)生態(tài)等問題。并認(rèn)為當(dāng)前生成式AI發(fā)展迅速,應(yīng)用場(chǎng)景不斷拓展,有望成為新質(zhì)生產(chǎn)力。建議加強(qiáng)頂層設(shè)計(jì),推動(dòng)產(chǎn)學(xué)研合作,構(gòu)建開放共享的產(chǎn)業(yè)生態(tài)。
在產(chǎn)業(yè)生態(tài)方面,國內(nèi)生成式AI產(chǎn)業(yè)生態(tài)圖譜主要包括基礎(chǔ)設(shè)施層、算法模型層、平臺(tái)層、場(chǎng)景應(yīng)用層、服務(wù)層等部分。
其中,基礎(chǔ)設(shè)施層:包括AI芯片、計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、安全、基礎(chǔ)設(shè)施軟件等;算法模型層:包括通用、面向行業(yè)的生成式AI大模型及模型庫;平臺(tái)層:包括大模型構(gòu)建和編排、應(yīng)用開發(fā)部署、數(shù)據(jù)管理軟件及工具;場(chǎng)景應(yīng)用層:面向生產(chǎn)效率提升、業(yè)務(wù)、行業(yè)搭建的應(yīng)用,例如文本生成、圖像生成、音頻生成、視頻生成、數(shù)字人等。服務(wù)層:跨越業(yè)務(wù)、IT和運(yùn)營(yíng)技術(shù)(OT)領(lǐng)域提供服務(wù)。
挑戰(zhàn)方面,生成式AI的快速發(fā)展也將帶來新的挑戰(zhàn)。例如,如何保護(hù)用戶隱私、如何確保模型的安全性、如何制定合理的法規(guī)等。這些挑戰(zhàn)將影響生成式AI行業(yè)的未來發(fā)展,需要有針對(duì)性地進(jìn)行深入思考和認(rèn)真研究,并采取一系列迅速有效的舉措,以保障安全有效地應(yīng)用生成AI。
總體而言,隨著技術(shù)的進(jìn)步和應(yīng)用領(lǐng)域的拓展,生成式AI將進(jìn)一步智能化和個(gè)性化,為各個(gè)行業(yè)帶來效率的提升和業(yè)務(wù)的創(chuàng)新。
安企積極推出生成式人工智能產(chǎn)品
前面提到,生成式AI技術(shù)的不斷突破,將為各個(gè)行業(yè)帶來效率的提升和業(yè)務(wù)的創(chuàng)新。安防作為AI落地應(yīng)用的最佳落腳點(diǎn)更是如此,這也是目前市場(chǎng)的普遍共識(shí)。
為緊跟市場(chǎng)發(fā)展的腳步,截止今日安防知名廠商已推出自己的大模型,例如??低暤挠^瀾、大華股份的星漢、宇視科技的梧桐等。
據(jù)了解,??低曈^瀾大模型,現(xiàn)已進(jìn)入多模態(tài)階段,支持視覺、語音、文本等融合訓(xùn)練處理。“觀瀾”大模型具備三層架構(gòu),分為最底層、中間層、最頂層,分別對(duì)應(yīng)基礎(chǔ)類大模型(通用大模型)、行業(yè)大模型(面向金融、交通、能源、工業(yè)等)和場(chǎng)景模型(用戶模型)。
為了支持大模型研發(fā),公司自建部署業(yè)內(nèi)一流的數(shù)據(jù)中心,構(gòu)建千卡并行訓(xùn)練能力,面對(duì)安防場(chǎng)景訓(xùn)練百億級(jí)參數(shù)。截至23年上半年,公司AI開放平臺(tái)服務(wù)中小微企業(yè)超2萬家,生成模型超8萬個(gè),落地項(xiàng)目超1.4萬個(gè)。
大華股份星漢大模型,是以視覺為核心,融合多模態(tài)能力,構(gòu)建面向行業(yè)的大模型。目前已經(jīng)在城市治理和電力行業(yè)應(yīng)用落地,未來將不斷拓寬大模型行業(yè)應(yīng)用場(chǎng)景,幫助構(gòu)建視頻數(shù)據(jù)產(chǎn)業(yè)價(jià)值,助推數(shù)字經(jīng)濟(jì)發(fā)展。以自研星漢大模型為底座,公司未來將持續(xù)鞏固在智慧物聯(lián)領(lǐng)域的核心優(yōu)勢(shì),隨各應(yīng)用商業(yè)化落地快速發(fā)展。
宇視科技梧桐大模型,以通用大模型+行業(yè)場(chǎng)景+訓(xùn)練調(diào)優(yōu)為架構(gòu),集計(jì)算機(jī)視覺行業(yè)、自然語言處理行業(yè)等于一身,能夠充分滿足多樣化的任務(wù)和場(chǎng)景需求。目前,“梧桐”大模型第一階段的落地成果,AI長(zhǎng)尾算法訓(xùn)練平臺(tái)、邊緣AI推理訓(xùn)練一體機(jī),交互式數(shù)據(jù)治理、數(shù)據(jù)駕駛艙、VR展廳等得到高效應(yīng)用。未來,“梧桐”也將在AI文旅等視頻內(nèi)容商業(yè)化運(yùn)營(yíng)的新賽道發(fā)揮新價(jià)值,與合作伙伴攜手共筑AIoT新生態(tài)產(chǎn)品底座,共享差異化和增值點(diǎn)的紅利。
值得注意的是,安防企業(yè)要想構(gòu)建生成式AI應(yīng)用,大體上可分為這幾個(gè)步驟:找準(zhǔn)場(chǎng)景、選擇模型、模型適配和模型調(diào)整、應(yīng)用開發(fā)和部署。也就是說,未來隨著生成式AI的持續(xù)發(fā)展,安防產(chǎn)業(yè)鏈各細(xì)分企業(yè)要想融合利用生成式AI技術(shù),或許可從公司聚焦的場(chǎng)景優(yōu)先入手,從而助力安防+AI穩(wěn)健前行。
綜上所述,生成式AI行業(yè)市場(chǎng)現(xiàn)狀良好,競(jìng)爭(zhēng)格局多元,未來前景廣闊。作為一個(gè)處在快速發(fā)展階段的新興行業(yè),生成式AI將持續(xù)為各個(gè)行業(yè)帶來巨大的商業(yè)價(jià)值和社會(huì)價(jià)值。