本文來自微信公眾號(hào)“CPS中安網(wǎng)”，作者/陳樹劍。
2024年2月29日，信安標(biāo)委正式發(fā)布《生成式人工智能服務(wù)安全基本要求》（以下簡(jiǎn)稱“《基本要求》”）。
《基本要求》規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求，包括語料安全、模型安全、安全措施、安全評(píng)估等，并給出了適用范圍。適用于服務(wù)提供者開展安全評(píng)估、提高安全水平，也可為相關(guān)主管部門評(píng)判生成式人工智能服務(wù)安全水平提供參考。
其中，語料安全，通俗一點(diǎn)講就是大模型訓(xùn)練所引用的的數(shù)據(jù)，《基本要求》對(duì)這種訓(xùn)練語料來源的安全性提出了可操作的指引。比如，語料內(nèi)容中含違法不良信息超過5%的，不應(yīng)采集該來源語料等。
對(duì)于其他模型安全、安全措施、安全評(píng)估等內(nèi)容，這里不做過多闡述?？傮w而言，《基本要求》的發(fā)布將有助于建立更安全、透明和有序的生成式人工智能服務(wù)生態(tài)系統(tǒng)。
另外，有市場(chǎng)人士表示，《基本要求》的發(fā)布在某種意義上是呼應(yīng)2月15日美巨頭OpenAI發(fā)布首個(gè)視頻生成模型“Sora”。畢竟對(duì)比2023年ChatGPT推出之后，市場(chǎng)對(duì)生成式人工智能技術(shù)的興趣激增，各種不合規(guī)的現(xiàn)象不間斷涌現(xiàn)。
至于目前生成式人工智能生態(tài)現(xiàn)狀、發(fā)展趨勢(shì)如何？看如下簡(jiǎn)要介紹！
產(chǎn)業(yè)成新質(zhì)生產(chǎn)力？
眾所周知，當(dāng)前生成式AI行業(yè)正處于快速發(fā)展階段，目前在教育、娛樂、媒體、設(shè)計(jì)、科研、廣告等多個(gè)行業(yè)都產(chǎn)生深遠(yuǎn)影響，并逐步滲透至商業(yè)決策、產(chǎn)品開發(fā)、客戶服務(wù)等諸多業(yè)務(wù)場(chǎng)景。
在市場(chǎng)規(guī)模方面，據(jù)彭博社預(yù)計(jì)，全球生成式人工智能的市場(chǎng)規(guī)模將在2032年擴(kuò)大至1.3萬億美元。國內(nèi)方面，據(jù)工信部旗下賽迪研究院消息，預(yù)計(jì)2023年我國生成式人工智能市場(chǎng)規(guī)模將突破10萬億元，到2035年將突破30萬億元。
鑒于這廣闊的市場(chǎng)，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，2023年8月15正式實(shí)施由國家發(fā)展和改革委員會(huì)、教育部、科學(xué)技術(shù)部、工業(yè)和信息化部等七部門公布《生成式人工智能服務(wù)管理暫行辦法》。
此次再發(fā)布《基本要求》，無疑是為生成式人工智能行業(yè)健康發(fā)展增添新的護(hù)航神器，作為近期生成式人工智能領(lǐng)域最重磅的一個(gè)文件，將推動(dòng)行業(yè)應(yīng)用加速落地。
另外，在今年“兩會(huì)”期間，多位人大代表與政協(xié)委員熱議生成式AI，關(guān)注人才培養(yǎng)、場(chǎng)景落地、產(chǎn)業(yè)生態(tài)等問題。并認(rèn)為當(dāng)前生成式AI發(fā)展迅速，應(yīng)用場(chǎng)景不斷拓展，有望成為新質(zhì)生產(chǎn)力。建議加強(qiáng)頂層設(shè)計(jì)，推動(dòng)產(chǎn)學(xué)研合作，構(gòu)建開放共享的產(chǎn)業(yè)生態(tài)。
在產(chǎn)業(yè)生態(tài)方面，國內(nèi)生成式AI產(chǎn)業(yè)生態(tài)圖譜主要包括基礎(chǔ)設(shè)施層、算法模型層、平臺(tái)層、場(chǎng)景應(yīng)用層、服務(wù)層等部分。
其中，基礎(chǔ)設(shè)施層：包括AI芯片、計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、安全、基礎(chǔ)設(shè)施軟件等；算法模型層：包括通用、面向行業(yè)的生成式AI大模型及模型庫；平臺(tái)層：包括大模型構(gòu)建和編排、應(yīng)用開發(fā)部署、數(shù)據(jù)管理軟件及工具；場(chǎng)景應(yīng)用層：面向生產(chǎn)效率提升、業(yè)務(wù)、行業(yè)搭建的應(yīng)用，例如文本生成、圖像生成、音頻生成、視頻生成、數(shù)字人等。服務(wù)層：跨越業(yè)務(wù)、IT和運(yùn)營(yíng)技術(shù)(OT)領(lǐng)域提供服務(wù)。
挑戰(zhàn)方面，生成式AI的快速發(fā)展也將帶來新的挑戰(zhàn)。例如，如何保護(hù)用戶隱私、如何確保模型的安全性、如何制定合理的法規(guī)等。這些挑戰(zhàn)將影響生成式AI行業(yè)的未來發(fā)展，需要有針對(duì)性地進(jìn)行深入思考和認(rèn)真研究，并采取一系列迅速有效的舉措，以保障安全有效地應(yīng)用生成AI。
總體而言，隨著技術(shù)的進(jìn)步和應(yīng)用領(lǐng)域的拓展，生成式AI將進(jìn)一步智能化和個(gè)性化，為各個(gè)行業(yè)帶來效率的提升和業(yè)務(wù)的創(chuàng)新。
安企積極推出生成式人工智能產(chǎn)品
前面提到，生成式AI技術(shù)的不斷突破，將為各個(gè)行業(yè)帶來效率的提升和業(yè)務(wù)的創(chuàng)新。安防作為AI落地應(yīng)用的最佳落腳點(diǎn)更是如此，這也是目前市場(chǎng)的普遍共識(shí)。
為緊跟市場(chǎng)發(fā)展的腳步，截止今日安防知名廠商已推出自己的大模型，例如?？低暤挠^瀾、大華股份的星漢、宇視科技的梧桐等。
據(jù)了解，?？低曈^瀾大模型，現(xiàn)已進(jìn)入多模態(tài)階段，支持視覺、語音、文本等融合訓(xùn)練處理。“觀瀾”大模型具備三層架構(gòu)，分為最底層、中間層、最頂層，分別對(duì)應(yīng)基礎(chǔ)類大模型（通用大模型）、行業(yè)大模型（面向金融、交通、能源、工業(yè)等）和場(chǎng)景模型（用戶模型）。
為了支持大模型研發(fā)，公司自建部署業(yè)內(nèi)一流的數(shù)據(jù)中心，構(gòu)建千卡并行訓(xùn)練能力，面對(duì)安防場(chǎng)景訓(xùn)練百億級(jí)參數(shù)。截至23年上半年，公司AI開放平臺(tái)服務(wù)中小微企業(yè)超2萬家，生成模型超8萬個(gè)，落地項(xiàng)目超1.4萬個(gè)。
大華股份星漢大模型，是以視覺為核心，融合多模態(tài)能力，構(gòu)建面向行業(yè)的大模型。目前已經(jīng)在城市治理和電力行業(yè)應(yīng)用落地，未來將不斷拓寬大模型行業(yè)應(yīng)用場(chǎng)景，幫助構(gòu)建視頻數(shù)據(jù)產(chǎn)業(yè)價(jià)值，助推數(shù)字經(jīng)濟(jì)發(fā)展。以自研星漢大模型為底座，公司未來將持續(xù)鞏固在智慧物聯(lián)領(lǐng)域的核心優(yōu)勢(shì)，隨各應(yīng)用商業(yè)化落地快速發(fā)展。
宇視科技梧桐大模型，以通用大模型+行業(yè)場(chǎng)景+訓(xùn)練調(diào)優(yōu)為架構(gòu)，集計(jì)算機(jī)視覺行業(yè)、自然語言處理行業(yè)等于一身，能夠充分滿足多樣化的任務(wù)和場(chǎng)景需求。目前，“梧桐”大模型第一階段的落地成果，AI長(zhǎng)尾算法訓(xùn)練平臺(tái)、邊緣AI推理訓(xùn)練一體機(jī)，交互式數(shù)據(jù)治理、數(shù)據(jù)駕駛艙、VR展廳等得到高效應(yīng)用。未來，“梧桐”也將在AI文旅等視頻內(nèi)容商業(yè)化運(yùn)營(yíng)的新賽道發(fā)揮新價(jià)值，與合作伙伴攜手共筑AIoT新生態(tài)產(chǎn)品底座，共享差異化和增值點(diǎn)的紅利。
值得注意的是，安防企業(yè)要想構(gòu)建生成式AI應(yīng)用，大體上可分為這幾個(gè)步驟：找準(zhǔn)場(chǎng)景、選擇模型、模型適配和模型調(diào)整、應(yīng)用開發(fā)和部署。也就是說，未來隨著生成式AI的持續(xù)發(fā)展，安防產(chǎn)業(yè)鏈各細(xì)分企業(yè)要想融合利用生成式AI技術(shù)，或許可從公司聚焦的場(chǎng)景優(yōu)先入手，從而助力安防+AI穩(wěn)健前行。
綜上所述，生成式AI行業(yè)市場(chǎng)現(xiàn)狀良好，競(jìng)爭(zhēng)格局多元，未來前景廣闊。作為一個(gè)處在快速發(fā)展階段的新興行業(yè)，生成式AI將持續(xù)為各個(gè)行業(yè)帶來巨大的商業(yè)價(jià)值和社會(huì)價(jià)值。
