人工智能浪潮洶洶來襲，在這樣的背景下——設(shè)計先進的算法，整合盡可能多的數(shù)據(jù)，匯聚大量算力，集約化地訓(xùn)練大模型成為了必要手段。如何實現(xiàn)相關(guān)“高能”的核心技術(shù)應(yīng)用？更先進的智能（AI）模型系統(tǒng)，將成為一大突破口。
3月20日，我國首個超大規(guī)模人工智能（AI）模型系統(tǒng)“悟道1.0”在京發(fā)布。該模型濃縮了訓(xùn)練數(shù)據(jù)的內(nèi)部規(guī)律，是實現(xiàn)人工智能應(yīng)用的載體。
據(jù)悉，相關(guān)研究由北京智源人工智能研究院學(xué)術(shù)副院長、清華大學(xué)教授唐杰領(lǐng)銜，帶領(lǐng)來自北大、清華、中科院等單位的100余位AI科學(xué)家團隊聯(lián)合攻關(guān)完成。
智源研究院自2020年10月正式啟動超大規(guī)模智能模型“悟道”項目，研發(fā)既博大又精深的超大規(guī)模訓(xùn)練模型，同時構(gòu)建大規(guī)模智能模型應(yīng)用生態(tài)（涵蓋了相關(guān)機構(gòu)和個人開發(fā)者）。在這些基礎(chǔ)上，“悟道1.0”取得了多項國際領(lǐng)先的AI技術(shù)突破。
如今，“悟道1.0”已訓(xùn)練出包括中文、多模態(tài)、認知、蛋白質(zhì)預(yù)測在內(nèi)的系列模型，為我國人工智能應(yīng)用構(gòu)建了基礎(chǔ)設(shè)施。
“悟道1.0”已先期啟動了4個大模型的研發(fā)，包括“悟道·文源”，是面向中文的預(yù)訓(xùn)練語言模型；“悟道·文瀾”，是首個公開的中文通用圖文多模態(tài)預(yù)訓(xùn)練模型；“悟道·文匯”，是我國首個具有認知能力的超大規(guī)模預(yù)訓(xùn)練模型；“悟道·文溯”，是超大規(guī)模蛋白質(zhì)序列預(yù)測預(yù)訓(xùn)練模型。
