华为：AI推理创新技术UCM将于今年9月正式开源
我要评论
新浪科技讯 8月12日晚间消息，推理在2025金融AI推理应用落地与发展论坛上，创新中国银联执行副总裁涂晓军、技术华为数字金融军团CEO曹冲出席并发表致辞。于今论坛上，年月华为公司副总裁、正式数据存储产品线总裁周跃峰发布AI推理创新技术——UCM推理记忆数据管理器，开源旨在推动AI推理体验升级，推理提升推理性价比，创新加速AI商业正循环。技术同时，于今华为携手中国银联率先在金融典型场景开展UCM技术试点应用，年月并联合发布智慧金融AI推理加速方案应用成果。正式
周跃峰在论坛上强调：“AI时代，开源模型训练、推理推理效率与体验的量纲都以Token数为表征，Token经济已经到来”。为保障流畅的推理体验，企业需持续加大算力投入，但如何在推理效率与成本之间找到最佳平衡点，成为了全行业亟待解决的重要课题。
为此，华为推出UCM推理记忆数据管理器，包括对接不同引擎与算力的推理引擎插件（Connector）、支持多级KV Cache管理及加速算法的功能库（Accelerator）、高性能KV Cache存取适配器（Adapter）三大组件，通过推理框架、算力、存储三层协同，实现AI推理“更优体验、更低成本”。
在与中国银联的联合创新技术试点中，UCM的技术价值得到验证。在中国银联“客户之声”业务场景下，借助UCM技术及工程化手段，大模型推理速度提升125倍，仅需10秒即可精准识别客户高频问题，促进服务质量提升。未来，中国银联将依托国家人工智能应用中试基地，联合华为等生态伙伴共建“AI+金融”示范应用，推动技术成果从“实验室验证”走向“规模化应用”。
论坛现场，华为正式公布了UCM开源计划。UCM通过开放统一的南北向接口，可适配多类型推理引擎框架、算力及存储系统。今年9月，UCM将正式开源，后续逐步贡献给业界主流推理引擎社区，携手全产业共同推动AI推理生态的繁荣发展。
海量资讯、精准解读，尽在新浪财经APP 责任编辑：何俊熹
相关文章
来源：蝌蚪五线谱也许，你和我们很多人一样，是一个普通的城市上班族，淹没在汹涌的车流与拥挤的人潮里，努力工作支撑起自己与他人的生活；也许，你也曾有过仰望星空的梦想——像科学家一样理解这个世界，却困于日复2025-08-23
材料：面粉300g、水161g、盐2g酱料：辣椒粉2汤匙、蒜末2汤匙、葱末2汤匙、姜末1汤匙、生抽3汤匙，老陈醋1汤匙做法：1、水和盐放入厨师机缸里搅匀。2、加入面粉，开动厨师机搅揉一个程序大约6、72025-08-23
全进马术李若词上海市青少年马术场地障碍锦标赛1.20米级别夺冠
6月27日，2021上海市青少年马术场地障碍锦标赛暨2021全进杯马术公开赛在上海全进马术俱乐部展开第二个比赛日的争夺。在首场1.20米争时赛含附加赛的比拼中，主场作战的来自上海全进马术俱乐部的李若词2025-08-23
魏百川捐献造血干细胞。8月27日中午，历经3小时55分钟，大学生志愿者魏百川在安徽省立医院成功捐献造血干细胞混悬液342毫升，成为马鞍山市首例捐献造血干细胞的在校师范生，也是马鞍山市第101例捐献者。2025-08-23
It is undeniable that the worsening environment has become the biggest concern of the present-day wo2025-08-23
近日，吉尼斯世界纪录官网公布的一项新纪录，引发舆论热议。据核定， 克罗地亚自由潜运动员马里西奇在旅游胜地欧帕提亚的布里斯托尔酒店 创造了“自愿水下屏住呼吸”项目的新纪录，成绩为29分03秒。 现场有52025-08-23
最新评论