芯原超低能耗NPU可为移动端大语言模型推理提供超40 TOPS算力

2025年06月12日 23:57:08

打印 放大 缩小

具备高能效比的架构,广泛适用于智慧手机和AI PC等终端设备

中国上海--(美国商业资讯)--芯原股份(芯原,股票代码:688521.SH)今日宣布其超低能耗且高性能的神经网络处理器(NPU)IP现已支持在移动端进行大语言模型(LLM)推理,AI算力可扩展至40 TOPS以上。该高能效NPU架构专为满足移动平台日益增长的生成式AI需求而设计,不仅能够为AI PC等终端设备提供强劲算力支持,而且能够应对智慧手机等移动终端对低能耗更为严苛的挑战。

芯原的超低能耗NPU IP具备高度可配置、可扩展的架构,支持混合精度计算、稀疏化优化和并行处理。其设计融合了高效的内存管理与稀疏感知加速技术,显著降低计算负载与延迟,确保AI处理流畅、响应迅速。该NPU支持数百种AI算法,如AI降噪(AI-NR)和AI超分(AI-SR)等,并兼容Stable Diffusion和LLaMA-7B等主流AI模型。同时,该NPU IP还可与芯原其他处理器IP无缝集成,实现异构计算,助力SoC设计者打造满足多元化应用需求的AI解决方案。

此外,芯原的超低能耗NPU IP还支持TensorFlow Lite、ONNX和PyTorch等主流AI框架,可加速客户在不同AI应用场景中的部署进程并简化集成工作。

“智能手机等移动设备正逐步演变为个人AI服务器。随着生成式AI(AIGC)和多模态大语言模型技术的快速发展,市场对AI算力的需求呈指数级增长,并已成为移动产品的关键差异化要素。”芯原首席战略官、执行副总裁、IP事业部总经理戴伟进表示,“在支持高强度AI计算负载的过程中,能耗控制是最关键的挑战之一。芯原持续深耕面向智慧手机和AI PC的超低能耗的NPU研发,并通过与主流SoC合作伙伴的紧密协作,见证了该技术在新一代智慧手机和AI PC中实现量产。”

关于芯原

芯原微电子(上海)股份有限公司(芯原股份,688521.SH)是一家依托自主半导体IP,为客户提供平台化、全方位、一站式芯片定制服务和半导体IP授权服务的企业。了解更多信息,请访问:http://www.verisilicon.com

在 businesswire.com 上查看源版本新闻稿: https://www.businesswire.com/news/home/20250606865725/zh-CN/

CONTACT:

媒体联络:press@verisilicon.com

责任编辑:admin

相关阅读

本网网友:旧言虐心, -Eros
评论:木纳这事,如果干的好,叫深沉

淘宝网友:昔年°  /21c
评论:> 我说:要有上班以外的生活!于是,老婆告诉我这个可以有、于是:我有了加班!

猫扑网友:偏心   ■
评论:暧昧的本质是激情,而爱情的本质是平淡。

腾讯网友:哥只是寂寞
评论:做一个单纯的人,走一段幸福的路。

凤凰网友::Destiny. 宿命。
评论:最美好的是爱情,最理解的是友情,最真诚的是亲情。

其它网友:我也有过期待
评论:世界上最动听的话不是我爱你,而是你的肿瘤是良性的!

天涯网友:不相离°  1/m*
评论:不是上午不想玩电脑,因为一起床就已经是中午了

百度网友:美丽/mmmmm
评论:其实我感觉我的身材蛮好的嘛?肥而不腻

网易网友:羡慕嫉妒恨≈
评论:我发自内心的同情灰太狼,编导你就给他一只羊吃呗

天猫网友:空心 Vicious▽
评论:每次听到有人在吆喝回收废品我就想到把你卖了。