登录 注册

DeepSpeed

去点 Star
AI 模型与开发框架效率与办公工具教育与学习 billion-parameterscompressiondata-parallelismdeep-learninggpuinference
43,317
Stars
5,071
Forks
351
Watchers
1,597
Open Issues
Apache-2.0
许可证
Python
语言
2020-01-23
创建时间
2026-11-10
最近更新

项目能做什么

专注于提升分布式训练与推理效率的深度学习优化库。
来源：基于仓库元数据 · 内容以仓库实际 README 为准

使用说明 查看原始 README 原仓库文档

中文使用说明暂未生成。下面保留原仓库 README 摘录，命令与配置均以原文为准。
原始 README 摘录（英文原文，节选前 3000 字符） 
[![License Apache 2.0](https://badgen.net/badge/license/apache2.0/blue)](https://github.com/deepspeedai/DeepSpeed/blob/master/LICENSE)
[![PyPI version](https://badge.fury.io/py/deepspeed.svg)](https://pypi.org/project/deepspeed/)
[![Downloads](https://static.pepy.tech/badge/deepspeed)](https://pepy.tech/project/deepspeed)
[![Build](https://badgen.net/badge/build/check-status/blue)](#build-pipeline-status)
[![OpenSSF Best Practices](https://www.bestpractices.dev/projects/9530/badge)](https://www.bestpractices.dev/projects/9530)
[![Twitter](https://img.shields.io/twitter/follow/DeepSpeedAI)](https://twitter.com/intent/follow?screen_name=DeepSpeedAI)
[![Japanese Twitter](https://img.shields.io/badge/%E6%97%A5%E6%9C%AC%E8%AA%9ETwitter-%40DeepSpeedAI_JP-blue)](https://twitter.com/DeepSpeedAI_JP)
[![Chinese Zhihu](https://img.shields.io/badge/%E7%9F%A5%E4%B9%8E-%E5%BE%AE%E8%BD%AFDeepSpeed-blue)](https://www.zhihu.com/people/deepspeed)
[![Slack](https://img.shields.io/badge/Slack-4A154B?style=for-the-badge&logo=slack&logoColor=white)](https://join.slack.com/t/deepspeedworkspace/shared_invite/zt-3a8pjd8dd-PCj2hMvR4Y2syPwVnjEoww)


<div align="center">
 <img src="docs/assets/images/DeepSpeed_light.svg#gh-light-mode-only" width="400px">
 <img src="docs/assets/images/DeepSpeed_dark_transparent.svg#gh-dark-mode-only" width="400px">
</div>

<p align="center">
  <b>English</b> · <a href="README.zh.md">简体中文</a>
</p>


## Office Hours

DeepSpeed hosts regular office hours on the last Tuesday of each month at 12:00 America/New_York to discuss development plans, features, etc.  This meeting is public for anyone to join and ask questions.
The meeting is hosted on Zoom and can be joined [here](https://zoom-lfx.platform.linuxfoundation.org/meeting/93902569995?password=7d9c4fc9-3efa-4715-88f0-df8a6deb008b).

## Latest News

* [2026/05] [Using Muon Optimizer with DeepSpeed](https://github.com/deepspeedai/DeepSpeed/blob/master/blogs/muon-optimizer/README.md)

* [2026/05] [System DMA (SDMA) for ZeRO-3: offload collectives off compute units on AMD GPUs for better overlap](https://github.com/deepspeedai/DeepSpeed/blob/master/examples/sdma_allgather/README.md)

* [2026/03] DeepSpeed Team gave a tutorial at ASPLOS 2026 titled ["Building Efficient Large-Scale Model Systems with DeepSpeed: From Open-Source Foundations to Emerging Research" ](https://supercomputing-system-ai-lab.github.io/events/asplos2026-llm-tutorial/index.html)

* [2026/03] [Our SuperOffload work received an Honorable Mention for the ASPLOS 2026 Best Paper Award](https://dl.acm.org/doi/10.1145/3760250.3762217)

* [2025/12] [DeepSpeed Core API updates: PyTorch-style backward and low-precision master states](https://github.com/deepspeedai/DeepSpeed/blob/master/blogs/core_api_update/README.md)

* [2025/11] [DeepSpeed ZeRO++ powers large-scale distillation training of LLMs for Recommendation Systems at LinkedIn](https://aclanthology.org/2025.emnlp-industry.119/)

* [2025/10] We hosted the [Ray x DeepSpeed Meetup
阅读完整原文

商业机会分析 规则生成（AI 未配置）

综合评分 58.8 分。该项目在“个人可实施性”维度得 20 分，“付费可能性”维度得 60.0 分，差异化空间 100.0 分（评分依据见评分卡）。

将 DeepSpeed 改造为垂直场景 SaaS

产品构想保留核心能力，针对某一类用户（如某行业团队）做托管版，收取月费。
目标用户有该需求的中小团队 / 独立站长
难度/周期较高 · 2~4 周（MVP）
收费模式订阅制（如 ¥29~99/月）
竞争风险需验证付费意愿；注意许可证合规
依据 数据支持的判断：许可证与关键词显示存在商用与付费场景

面向细分需求的二次开发产品

产品构想基于 DeepSpeed 的核心能力，聚焦一个更窄的场景（如某平台、某行业）做差异化。
目标用户该细分场景用户
难度/周期中 · 2~6 周
收费模式买断制 / 订阅制 / 广告
竞争风险细分需求规模需验证
依据 AI 推测：基于项目主题标签的判断
以上为规则引擎基于仓库公开数据生成的参考结论，包含推测成分，不构成投资或创业承诺；配置 AI 后可获得更深入的分析。
报告会保存到 个人中心

竞品与相似项目 GitHub Search 真实检索

项目中文简介Stars语言
higgsfield-ai/higgsfield 中文介绍暂未生成
Fault-tolerant, highly scalable GPU orchestration, and a mac
 6,310 Jupyter Notebook
RightNow-AI/picolm 中文介绍暂未生成
Run a 1-billion parameter LLM on a $10 board with 256MB RAM
 2,219 C
facebookresearch/MobileLLM 中文介绍暂未生成
MobileLLM Optimizing Sub-billion Parameter Language Models f
 1,471 Python
sambanova/bloomchat 中文介绍暂未生成
This repo contains the data preparation, tokenization, train
 581 Python
01-ai/Yi-Coder 中文介绍暂未生成
🌟 Yi-Coder is a series of open-source code language models t
 454 HTML
Xirider/finetune-gpt2xl 中文介绍暂未生成
Guide: Finetune GPT2-XL (1.5 Billion Parameters) and finetun
 435 Python
以上为通过 GitHub 官方 Search API 检索的相似项目，功能差异与优劣势需进一步人工确认，配置 AI 后可生成对比分析。

项目优势与风险

技术成熟度创建于 2020-01-23，近 30 天仍在推送，发布过 100 个 Release
社区活跃Star 43,317 / Fork 5,071 / Issue 1,597（数据支持，可自行核实）
许可证Apache-2.0
主要风险上游项目方向可能变化；同赛道竞争者较多（见竞品表）；热度与需求不完全等价

安装与使用

快速开始（以仓库 README 为准）
git clone https://github.com/deepspeedai/DeepSpeed.git
cd DeepSpeed
# 请阅读仓库 README 获取确切安装步骤（依赖、配置、启动命令）
阅读原仓库文档
术语说明：Docker＝应用容器（把程序和依赖打包运行）；API Key＝调用外部服务的密钥；Git Clone＝把仓库代码下载到本地。常见错误：API Key 未配置 / 端口占用 / 数据库连接失败，多数项目在 README 的 Troubleshooting 章节有说明。