智源开源FlagOS:首次实现DeepSeek-R1满血版多种芯片高效快速部署

fjmyhfvclm2025-02-25  7

日前,记者从智源研究院获悉,基于面向大模型、支持多种AI芯片的开源统一软硬件技术栈FlagOS,智源研究院联合多个芯片厂商一同开发并开源了DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。

上证报中国证券网讯 日前,记者从智源研究院获悉,基于面向大模型、支持多种AI芯片的开源统一软硬件技术栈FlagOS,智源研究院联合多个芯片厂商一同开发并开源了DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。

智源研究院相关负责人表示,此次发布基于FlagOS的DeepSeek-R1多芯片版本,是业界首次通过统一开源软件栈实现DeepSeek-R1的多芯片开源版本,并同时给出了严谨的模型对齐结果,保证了开源可用、统一易用。

据了解,FlagOS是由智源牵头,与多个厂商共同打造的面向多元AI芯片的统一、开源的系统软件技术栈,包括支持多种AI芯片的高效并行训推框架FlagScale、支持多种AI芯片架构的高性能算子库FlagAttention和FlagGems,以及支持多种AI芯片的统一通信库FlagCX等关键技术。

据该负责人介绍,此次基于FlagOS研发的DeepSeek-R1多芯片版本,可一键启动FlagScale实现6700亿参数大模型跨芯片的并行推理,支持用户根据需求灵活选择算力组合,自动实现并行推理计算。

智源研究院表示,FlagOS旨在包括英伟达及多种AI芯片上,都能为用户提供统一、开源、开放的系统软件,支撑各种大模型在不同AI芯片上的高效易用,从而打破算力的束缚。(窦世平)

转载请注明原文地址:https://www.gamev918.cn/tech/1655749.html