南京人工智能計算中心全自主運行“大模型”

 　　南京人工智能計算中心全自主運行“大模型”

  南京人工智能計算中心近日對外公布，中心成功實現LLaMA、ChatGLM-6B、BLOOM、鵬程·盤古α等主流NLP（自然語言處理）大模型上線。這些大模型均為目前人工智能產學界最前沿、最受關注的技術“寵兒”，可針對用戶需求提供相對準確的答案和建議，應用廣泛。

  江北科投集團副總經理、先進計算產業發展有限公司總經理戴曉玉介紹，該中心實現從芯片到系統再到應用部署層全棧自主可控。他解釋，大模型在算力中心成功適配，意味著使用中心算力服務的企業及院校機構都可以在國產生態中“跑”起大模型。

  今年以來，人工智能算力需求呈現爆發式增長，被稱為算力之源的GPU（圖形處理器）是人工智能大模型發展的關鍵基礎設施。目前，全球GPU巨頭企業英偉達，在人工智能訓練芯片領域占據很高的市場份額，不少算力中心都采用其芯片運行。

  據介紹，昇思MindSpore是華為開源推出的首個業界全場景AI框架。該中心基于這一框架，將主流NLP大模型適配到本地環境中，實現高效運行。目前，一家互聯網電商企業在測試中，使用適配后的大模型運營自己的平臺，運行情況良好。

  沿著江心洲大橋駛入江北新區，南京人工智能計算中心正立于一側。這個算力中心的“大腦”位于這座大廈二樓的機房內，機柜上一個個排列整齊的“黑匣子”泛出藍光，那是算力中心的核心模塊，24小時不間斷運轉。中心一期計算能力達40PFLOPS（每秒4億億次浮點運算次數），于去年5月對外提供服務，如今分配率為100%，算力已全部供應給企業、院校機構，使用率峰值達85%左右。將于9月上線的二期項目預計擴容100PFLOPS算力，部分算力服務已被預訂。

  在算力中心穩定運行后，一批省內重點高校主動邀約合作，探路用全自主的“算力”跑起屬于自己的科研大模型。去年11月，南京大學、江北科投集團、華為公司三方簽約，共同孵化“金陵·女媧”科研大模型。這一大模型可幫助研究人員從基因出發探究生命體的新規律，為罕見病診斷以及藥物設計提供支撐。“為了發現可能藥物或有效靶標，原本需要做千萬次嘗試，有了大模型的輔助，只需做十分之一甚至百分之一的工作量。”戴曉玉解釋。

  當下，東南大學毫米波國家重點實驗室、南農作物遺傳與種質創新國家重點實驗室、中科院自動化所等科研機構都在該中心進行科研大模型的孵化，未來可應用于人工智能生物學、EDA、智能制造和智慧育種等產業。（許雯斐）