更新时间:2025-05-07 14:10:06 浏览: 次
5月7日,联想创新科技大会(Tech World)在上海举办。会上,联想展示了与清华大学及无问芯穹联合研发的“联想推理加速引擎”,这是专为高效AI PC推理设计的软硬件协同优化平台,可让普通PC本地推理能力媲美OpenAI的o1-mini云端模型。现场还展示了搭载该引擎的台式电脑,造价约4万元,预计下半年上市,可大幅降低企业用户私有化部署大模型的成本,模型本地训练成本可下降98%。
今年年初,AI一体机批量现世,让企业尤其是中小型企业部署AI和大模型的成本从动辄百万元下探到了20万元左右。几个月后,这一成本有望进一步下探至数万元级别。5月7日,以“让AI成为创新生产力”为主题的联想创新科技大会(Tech World)在上海举办,《每日经济新闻》记者现场参会。
会上,联想集团展示了其在端侧算力方面的最新成果“联想推理加速引擎”。《每日经济新闻》记者在发布会现场了解到,这款由联想、清华大学及无问芯穹联合研发的推理引擎是专为高效AI PC推理而设计的软硬件协同优化平台,可让一台普通PC(笔记本电脑)的本地推理能力媲美OpenAI去年发布的o1-mini云端模型。
从实现逻辑上看,“联想推理加速引擎”主要通过高性能并行解码、算子融合优化以及异构计算技术,需与大模型推理芯片相结合,从而实现多种应用场景下推理速度的提升,同时降低功耗和内存占用。
联想集团董事长兼CEO杨元庆在发布会现场称,消费者将在即将发布的下一代AI PC上体验到“联想推理加速引擎”。“今天随着AI需求的爆发式增长,端侧计算和推理能力的提升将依然保持指数级增长的速度,甚至更快。未来12个月,端侧AI综合能力将实现至少三倍的提升,这也许不是梦想!”杨元庆称。
《每日经济新闻》记者还在展台现场发现,联想集团此次还展示了搭载上述加速引擎的台式电脑产品。据展台现场工作人员介绍,该款产品内置了1张中阶显卡、1张显存扩容卡以及“联想推理加速引擎”,整体造价约在4万元左右,可实现32B大模型的本地训练,预计今年下半年上市,有望进一步降低金融、教育、法律等领域的企业用户尤其是中小企业用户私有化部署大模型的成本。
据上述工作人员介绍,市面上的32B大语言模型传统训练方案的整体造价很高,如国内某厂商的成本约在200万元左右,最少需要8张英伟达显卡,对中小企业来说部署成本过高。在联想此次展示的电脑上,通过内置的“AI Studio”软件平台,用户可将自己的数据库及个性化信息通过自选大模型(32B模型)进行训练,模型本地训练成本可下降98%。
如需转载请与《每日经济新闻》报社联系。未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。
特别提醒:如果我们使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。
“终结者”会走进千家万户吗? 人形机器人量产前夕,有公司把造价打到10万元内
大厂鏖战AI PC联想卷轴屏电脑量产 英伟达游戏本也加入战局|CES黑科技速递
太突然!斯凯奇宣布退市,热搜爆了!去年全球卖了650亿元,中国是最大海外市场!遭特朗普关税“暴击”,与耐克阿迪等联名“求救”
突发!印度向巴基斯坦发射导弹,巴方:击落印度两架战机!特朗普最新发声:真可耻!巴所有主要城市进入紧急状态
印巴冲突升级 ,巴基斯坦称击落印度6架战机!印度对9个巴方目标发动导弹袭击!印度北部地区部分机场关闭
最新!巴基斯坦宣布进入紧急状态,全国教育机构停课!特朗普称印度对巴方的军事行动“线连发,于东来再回应质疑:可以邀请柴怼怼、宋清辉等来考察!刚刚,永辉超市发公开信支持
投票通过,69岁默茨正式当选德国新任总理!他是“默克尔老对手”,主张摆脱欧洲对美国的依赖
谁在狂抛美元?香港金管局四天三次出手,注入1166亿港元拉美元,创下历史纪录




铁观音礼盒