Arm平台成功适配阿里开源模型Qwen3
来源:林慧宇 发布时间:2025-05-11 分享至微信
近日,阿里巴巴开源了新一代通义千问模型Qwen3,Arm成为首批适配该模型的计算平台厂商。双方的合作不仅推动了AI技术在端侧设备上的应用,还为开发者提供了更高效的解决方案。

据官方消息,Arm面向AI框架开发者的开源计算内核KleidiAI已与阿里巴巴的轻量级深度学习框架MNN深度集成。得益于此,Qwen3系列中的三款模型(Qwen3-0.6B、Qwen3-1.7B及Qwen3-4B)能够在搭载Arm架构CPU的移动设备上无缝运行,展现出卓越的端侧AI推理能力。

作为阿里巴巴最新发布的混合推理模型,Qwen3在AIME、LiveCodeBench等权威评测中表现出色,成为同尺寸开源模型中的领先者。其中,Qwen3-0.6B、Qwen3-1.7B和Qwen3-4B三款模型以低功耗和高性能的优势,特别适合在移动端部署。

为满足AI模型快速迭代的需求,Arm提供了具备可扩展性的通用技术底座,帮助开发者高效利用新模型的优势。其CPU架构以卓越的性能、能效和灵活性著称,不仅能快速适配新模型,还能通过异构计算策略与GPU、加速器等技术协作,实现AI系统的最佳优化。测试结果显示,Qwen3系列模型在基于Arm架构CPU的设备上运行时,响应速度和推理能力均有显著提升。

[ 新闻来源:林慧宇,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!