聯(lián)發(fā)科:天璣9300首發(fā)搞定70億參數(shù)AI大模型
10月18日上午,聯(lián)發(fā)科官方宣布了一則重磅消息:
聯(lián)發(fā)科與vivo在AI領域展開深度合作和聯(lián)合調(diào)校,率先實現(xiàn)了10億和70億參數(shù)AI大語言模型、10億參數(shù)AI視覺大模型在手機端側的落地,帶來行業(yè)領先的端側生成式AI(AIGC)應用創(chuàng)新體驗。
vivo的最新旗艦手機,也將率先搭載基于聯(lián)發(fā)科天璣芯片移動平臺的端側AI大模型,憑借天璣9300的APU AI單元、NeuroPilot AI開發(fā)平臺,提供強大的AI算力,提升大模型在端側的運行效率。
根據(jù)行業(yè)權威消息,在終端側部署AIGC,有利于保護用戶信息和隱私安全、提升應用實時性、個性化用戶體驗等,優(yōu)勢非常明顯。
事實上,聯(lián)發(fā)科在AI上的投入和布局并非一日之功,此前就與多個生態(tài)合作伙伴強強聯(lián)合,已經(jīng)與Meta、百度等大模型合作適配,又與OPPO等手機廠商合作推動AI大模型在終端落地,大大加速了AIGC在手機上的落地和普及。
就在此前10月11日,聯(lián)發(fā)科宣布聯(lián)合OPPO,共建輕量化大模型端側部署方案,推動AndesGPT大語言模型和多模態(tài)大模型落地端側。
AndesGPT是OPPO自主訓練的生成式用戶專屬大模型,通過采用4位量化技術,在精度不掉點效果下,將大模型在端側逐步落地,而且性能更優(yōu),曾在C-Eval全球中文榜單上并以79.9高分登頂。
聯(lián)發(fā)科天璣9300旗艦移動平臺很快就會發(fā)布,從各方面爆料看,無論性能還是能效都非常值得期待。
天璣9300基于臺積電4nm工藝,首次采用全大核架構設計,配備四顆X4超大核心,同時集成旗艦級的Immortalis-G720 GPU,此外還會首發(fā)支持SK海力士新一代LPDDR5T內(nèi)存,速度達到創(chuàng)紀錄的9.6Gbps。
根據(jù)爆料,天璣9300安兔兔V10 CPU、GPU跑分已經(jīng)領先同行。
加上如今在AI方面的搶先,天璣9300可以在CPU、GPU、APU三個方面在手機芯片行業(yè)遙遙領先。
此外值得一提的是,對比上代平臺,天璣9300在實現(xiàn)架構跨代的同時,全大核CPU功耗可降低50%以上,GPU功耗可降低最多25%。