2024年是“大模型落地应用的元年”,AI PC(人工智能个人电脑),作为一种能够在本地运行大模型及AIGC应用的PC终端,已经成为AI实现规模化扩展及应用落地的重要载体。3月26日,英特尔在北京举办了“2024全新英特尔商用客户端AI PC产品发布会”,基于酷睿Ultra处理器的CPU+GPU+NPU三大AI引擎,为商用客户端AI PC提供强劲性能,可支持200亿规模大语言模型的本地化运行,加速大模型应用落地。
浪潮信息的“源2.0系列基础大模型”已与最新的英特尔酷睿Ultra处理器平台完成适配,实现了本地推理速度提升100%。企业现可在英特尔商用客户端AI PC上,使用AI PC大模型效率工具“YuanChat”快速部署和运行该大模型。“YuanChat”支持多种任务导向型应用,包括数据计算、公文写作、编程设计等任务,它也展示了自动编程及代码分析能力。“YuanChat”帮助进一步降低企业应用大模型的成本。