7月8日消息，2021世界人工智能大會（WAIC）第八屆中國產(chǎn)業(yè)互聯(lián)網(wǎng)高峰論壇上，澳大利亞科學院院士、京東探索研究院院長陶大程博士表示，超級模型生態(tài)系統(tǒng)引領新一輪產(chǎn)業(yè)變革，他認為，通過構(gòu)建超級模型生態(tài)系統(tǒng)可以推動人工智能技術(shù)更高效地落地，應用涵蓋科技創(chuàng)新、經(jīng)濟發(fā)展、文化融合等多個維度，以此引領新一輪產(chǎn)業(yè)變革。
陶大程博士認為，目前人工智能技術(shù)在落地的過程中存在應用場景復雜、模型單一、算力分布較為分散、基礎理論層面缺乏可解釋性等難點，導致中小企業(yè)在數(shù)據(jù)和算力都有限的情況下，更易面臨人工智能的應用困境。在這種背景下，超級模型生態(tài)系統(tǒng)應運而生。
在他看來，超級深度學習模型是超級模型生態(tài)系統(tǒng)的核心，針對各個領域中存在的普遍問題，包括數(shù)據(jù)不足、數(shù)據(jù)孤島問題以及模型性能有限等問題，提出了有效的解決方案，包括利用超大規(guī)模無標注數(shù)據(jù)進行自監(jiān)督預訓練、知識蒸餾、遷移學習等，同時通過構(gòu)建完備的數(shù)學理論等模式，增強了模型的可解釋性，使人工智能算法做出的決策更易于評估。
目前，超級深度學習的發(fā)展趨勢主要體現(xiàn)在三個方面，包括訓練模型的數(shù)據(jù)量日益增大、數(shù)據(jù)種類愈發(fā)豐富；模型規(guī)模增大、參數(shù)量以指數(shù)倍增加；計算資源更充足、模型訓練的計算開銷大幅上升等。超級深度學習模型已在一些領域?qū)崿F(xiàn)了相應的實踐，衍生了許多超級模型，在NLP領域如GPT-3，可以用于機器翻譯或智能問答等下游任務；在多模態(tài)領域如DALL.E，可以用于視覺信息問答或圖像描述等下游任務。
陶大程博士認為，超級深度學習將會引領產(chǎn)業(yè)的下一輪變革，它能有效地整合不同模態(tài)、不同來源、不同任務的數(shù)據(jù)和信息，進而滿足新的生產(chǎn)需求、新的應用場景、新的商業(yè)模式，實現(xiàn)數(shù)字經(jīng)濟變革。可以預見的是，超級深度學習將會進一步促進智能制造、數(shù)智健康、智慧文旅等產(chǎn)業(yè)應用落地，成為引領產(chǎn)業(yè)變革的重要力量。
比如，在數(shù)智健康領域，超級深度學習（超級GNN網(wǎng)絡）可以表征海量分子結(jié)構(gòu)，能夠加速新藥物研發(fā)；還可以對全棧醫(yī)學影像表征，實現(xiàn)自動診斷、治療方案推薦、預后分析、復健助理、全周期呵護，更能對大量多模態(tài)公共服務數(shù)據(jù)聚合分析，全方位多角度實現(xiàn)公共健康監(jiān)控，助力人工智能在公共衛(wèi)生、疫情研判、情緒管理、地圖服務、基因檢測、藥物研發(fā)、互聯(lián)網(wǎng)醫(yī)院等多種具體場景中發(fā)揮重要的作用。
此外，針對制造產(chǎn)業(yè)，超級深度學習可以實現(xiàn)全生命周期數(shù)字產(chǎn)業(yè)升級，提升效率、降低成本、敏捷制造，實現(xiàn)數(shù)智化的生產(chǎn)方式變革；在文化產(chǎn)業(yè)方面，超級深度學習可以促進國際文化產(chǎn)業(yè)變革，以多語言識別翻譯技術(shù)為基礎，實現(xiàn)多文化的遺產(chǎn)保護與溝通交流，促進多個國家文化和商業(yè)的融合和發(fā)展。
他表示，各個國家都在布局超級深度學習，預計超級深度學習在未來5到10年將會對數(shù)智化社會供應鏈體系起到關(guān)鍵性的支撐作用，從而賦能全產(chǎn)業(yè)鏈，其中包括智能零售、智能物流、智能供應鏈等多個與人類需求密切相關(guān)的產(chǎn)業(yè)。京東探索研究院將會繼續(xù)在超級深度學習領域深耕，與行業(yè)共探產(chǎn)業(yè)升級新機遇，賦能產(chǎn)業(yè)數(shù)智化發(fā)展，為數(shù)字經(jīng)濟變革貢獻一份“超級”力量。
