2024年是“大模型落地應(yīng)用的元年”，AI PC（人工智能個人電腦），作為一種能夠在本地運行大模型及AIGC應(yīng)用的PC終端，已經(jīng)成為AI實現(xiàn)規(guī)模化擴(kuò)展及應(yīng)用落地的重要載體。3月26日，英特爾在北京舉辦了“2024全新英特爾商用客戶端AI PC產(chǎn)品發(fā)布會”，基于酷睿Ultra處理器的CPU+GPU+NPU三大AI引擎，為商用客戶端AI PC提供強(qiáng)勁性能，可支持200億規(guī)模大語言模型的本地化運行，加速大模型應(yīng)用落地。
浪潮信息的“源2.0系列基礎(chǔ)大模型”已與最新的英特爾酷睿Ultra處理器平臺完成適配，實現(xiàn)了本地推理速度提升100%。企業(yè)現(xiàn)可在英特爾商用客戶端AI PC上，使用AI PC大模型效率工具“YuanChat”快速部署和運行該大模型。“YuanChat”支持多種任務(wù)導(dǎo)向型應(yīng)用，包括數(shù)據(jù)計算、公文寫作、編程設(shè)計等任務(wù)，它也展示了自動編程及代碼分析能力。“YuanChat”幫助進(jìn)一步降低企業(yè)應(yīng)用大模型的成本。