近日,昆侖昆侖芯與北京智源人工智能研究院(以下簡稱“智源”)面向多種AI硬件的芯北系建一體化評測引擎FlagPerf完成階段性適配。昆侖芯是京智究院件評FlagPerf首批生態伙伴,雙方將強強聯合,源人共同推進AI軟硬件評測體系建設,工智共同賦能大模型技術創新能力提升,推進加速我國AI生態繁榮發展。軟硬
FlagPerf是測體智源聯合各大AI軟硬件廠商建立的開源、開放、昆侖靈活、芯北系建公正、京智究院件評客觀的源人面向多種AI硬件的一體化評測引擎,可快速高效地對AI軟硬件進行適配和評測,工智共同解決當前AI軟硬件所面臨的推進兼容性差、技術棧異構程度高、軟硬應用場景復雜多變等挑戰。目前FlagPerf已經適配了涵蓋CV、NLP、語音、大模型等領域的近20個經典模型,支持評測AI硬件的訓練和推理能力,未來還將持續拓展支持模型數量和評測領域,包括不限于AI服務器、圖計算各個場景,期望全面、立體地刻畫廠商的軟硬件實力,并通過不斷迭代評測體系,緊跟AI產業發展浪潮。
作為AI加速領域的領軍企業,昆侖芯持續推進軟硬協同技術創新,在短時間內高效完成了十數個模型的適配和調優工作,并在FlagPerf項目中全面開源。這批模型能非常高效地完成適配并發布,充分展現了昆侖芯優秀的泛化能力和軟硬件兼容性,這主要得益于100%自研的昆侖芯XACC AI編譯器(XPU AI Compiler Collection)。
昆侖芯XACC AI編譯器
可自動幫助用戶完成開源模型到XPU設備的遷移工作,并實現全自動性能優化,將XPU硬件算法發揮到極致;
具有零代碼侵入、零環境侵入的特點,用戶無需修改模型代碼,無需修改部署環境,即可將模型遷移到XPU設備;
已全面支持Megatron、DeepSpeed等大模型訓練框架,用戶可以零成本適配最流行的LLM技術與模型。
智源研究院是國際知名的人工智能前沿研究機構,在中國最早引領開展大模型研究,并率先倡導建設大模型開源生態。「悟道」人工智能大模型項目,連創“中國首個+世界最大”紀錄,“悟道3.0”進入全面開源階段。FlagOpen大模型技術開源體系,由智源聯合多家企業、高校和科研機構共建,旨在共建共享大模型時代的“新Linux”開源開放生態。面向多種AI硬件的一體化評測引擎FlagPerf是FlagOpen的重要組成部分。
針對智源大模型,昆侖芯已在悟道·天鷹(Aquila)語言大模型上完成了大規模推理性能驗證,在悟道·視界EVA-CLIP視覺大模型上也實現了適配。
此前,昆侖芯已正式加入智源FlagOpen(飛智)大模型技術開源體系,攜手多家頂尖硬件企業與高校科研團隊共建“北京國家新一代人工智能創新發展試驗區AI開放生態實驗室”,加速完善芯片軟件生態建設。
此次昆侖芯與智源FlagPerf完成適配是雙方生態共建的又一重要里程碑。智源和昆侖芯將充分發揮各自優勢,共同攜手產業鏈上下游合作伙伴,促進技術、資源、場景等多方主體的合作,助力企業更好應對大模型應用時面臨的算力不足、場景不夠開放等問題,進一步推動我國大模型的技術研發和應用落地。
關于昆侖芯
昆侖芯前身為百度智能芯片及架構部,于2021年4月完成獨立融資,首輪估值約130億元。核心團隊在國內最早布局AI加速領域,深耕十余年,是一家在體系結構、芯片實現、軟件系統和場景應用均有深厚積累的AI芯片企業。
秉承著“讓計算更智能”的使命,昆侖芯專注打造擁有強大通用性、易用性和高性能的通用AI芯片。目前,昆侖芯已實現兩代通用AI芯片系列產品的量產及落地應用,在互聯網、智慧工業、智慧交通、智慧金融等領域均有規模部署,幫助企業加速產業智能化布局,將AI算力賦能千行百業。
審核編輯:彭菁