芯原超低能耗NPU可為移動端大語言模型推理提供超40 TOPS算力
具備高能效比的架構,廣泛適用于智慧手機和AI PC等終端設備
2025年6月9日,中國上海——芯原股份(芯原,股票代碼:688521.SH)今日宣布其超低能耗且高性能的神經網絡處理器(NPU)IP現已支持在移動端進行大語言模型(LLM)推理,AI算力可擴展至40 TOPS以上。該高能效NPU架構專為滿足移動平臺日益增長的生成式AI需求而設計,不僅能夠為AI PC等終端設備提供強勁算力支持,而且能夠應對智慧手機等移動終端對低能耗更為嚴苛的挑戰(zhàn)。
芯原的超低能耗NPU IP具備高度可配置、可擴展的架構,支持混合精度計算、稀疏化優(yōu)化和并行處理。其設計融合了高效的內存管理與稀疏感知加速技術,顯著降低計算負載與延遲,確保AI處理流暢、響應迅速。該NPU支持數百種AI算法,如AI降噪(AI-NR)和AI超分(AI-SR)等,并兼容Stable Diffusion和LLaMA-7B等主流AI模型。同時,該NPU IP還可與芯原其他處理器IP無縫集成,實現異構計算,助力SoC設計者打造滿足多元化應用需求的AI解決方案。
此外,芯原的超低能耗NPU IP還支持TensorFlow Lite、ONNX和PyTorch等主流AI框架,可加速客戶在不同AI應用場景中的部署進程并簡化集成工作。
“智能手機等移動設備正逐步演變?yōu)閭€人AI服務器。隨著生成式AI(AIGC)和多模態(tài)大語言模型技術的快速發(fā)展,市場對AI算力的需求呈指數級增長,并已成為移動產品的關鍵差異化要素?!毙驹紫瘧?zhàn)略官、執(zhí)行副總裁、IP事業(yè)部總經理戴偉進表示,“在支持高強度AI計算負載的過程中,能耗控制是最關鍵的挑戰(zhàn)之一。芯原持續(xù)深耕面向智慧手機和AI PC的超低能耗的NPU研發(fā),并通過與主流SoC合作伙伴的緊密協(xié)作,見證了該技術在新一代智慧手機和AI PC中實現量產。”
###
關于芯原
芯原微電子(上海)股份有限公司(芯原股份,688521.SH)是一家依托自主半導體IP,為客戶提供平臺化、全方位、一站式芯片定制服務和半導體IP授權服務的企業(yè)。
公司擁有自主可控的圖形處理器IP(GPU IP)、神經網絡處理器IP(NPU IP)、視頻處理器IP(VPU IP)、數字信號處理器IP(DSP IP)、圖像信號處理器IP(ISP IP)和顯示處理器IP(Display Processing IP)這六類處理器IP,以及1,600多個數?;旌螴P和射頻IP。
基于自有的IP,公司已擁有豐富的面向人工智能(AI)應用的軟硬件芯片定制平臺解決方案,涵蓋如智能手表、AR/VR眼鏡等始終在線(Always-on)的輕量化空間計算設備,AI PC、AI手機、智慧汽車、機器人等高效率端側計算設備,以及數據中心/服務器等高性能云側計算設備。
為順應大算力需求所推動的SoC(系統(tǒng)級芯片)向SiP(系統(tǒng)級封裝)發(fā)展的趨勢,芯原正在以“IP芯片化(IP as a Chiplet)”、“芯片平臺化(Chiplet as a Platform)”和“平臺生態(tài)化(Platform as an Ecosystem)”理念為行動指導方針,從接口IP、Chiplet芯片架構、先進封裝技術、面向AIGC和智慧出行的解決方案等方面入手,持續(xù)推進公司Chiplet技術、項目的研發(fā)和產業(yè)化。
基于公司獨有的芯片設計平臺即服務(Silicon Platform as a Service,SiPaaS)經營模式,目前公司主營業(yè)務的應用領域廣泛包括消費電子、汽車電子、計算機及周邊、工業(yè)、數據處理、物聯(lián)網等,主要客戶包括芯片設計公司、IDM、系統(tǒng)廠商、大型互聯(lián)網公司、云服務提供商等。
芯原成立于2001年,總部位于中國上海,在全球設有8個設計研發(fā)中心,以及11個銷售和客戶支持辦事處,目前員工已超過2,000人。
了解更多信息,請訪問:www.verisilicon.com。