MUSA(Meta-computing Unified System Architecture)是摩尔线程自主研发的通用并行计算架构。官方近日宣布 MUSA 已正式完成与开源推理框架 llama.cpp 的适配,进一步融入全球 AI 生态。
llama.cpp 作为纯 C/C++ 实现的大语言模型推理工具,以轻量化部署和跨硬件兼容性著称,支持 LLaMA、Mistral 等主流模型及多模态应用。此次适配意味着用户可在 MTT S80/S3000/S4000 系列 GPU 上通过官方容器镜像高效运行 AI 推理。
今年 4 月,MUSA SDK 4.0.1 已扩展至 Intel 处理器与国产海光平台,此次与 llama.cpp 的联动,进一步降低了开发者部署大模型的门槛,为本土 AI 硬件生态注入新动能。