dive-into-llms
59,975
Stars
7,164
Forks
367
Watchers
18
Open Issues
未知
许可证
Jupyter Notebook
语言
2024-04-08
创建时间
2025-10-10
最近更新
项目能做什么
《动手学大模型Dive into LLMs》系列编程实践教程。
来源:AI 基于仓库事实生成
· 内容以仓库实际 README 为准
使用说明 查看原始 README 原仓库文档
中文使用说明暂未生成。下面保留原仓库 README 摘录,命令与配置均以原文为准。
原始 README 摘录(英文原文,节选前 3000 字符)
<p align="center">
<h1 align="center">《动手学大模型》系列编程实践教程</h1>
</p>
<p align="center">
<a href="https://img.shields.io/badge/version-v0.1.0-blue">
<img alt="version" src="https://img.shields.io/badge/version-v0.1.0-blue?color=FF8000?color=009922" />
</a>
<a >
<img alt="Status-building" src="https://img.shields.io/badge/Status-building-blue" />
</a>
<a >
<img alt="PRs-Welcome" src="https://img.shields.io/badge/PRs-Welcome-red" />
</a>
<a href="https://github.com/Lordog/dive-into-llms/stargazers">
<img alt="stars" src="https://img.shields.io/github/stars/Lordog/dive-into-llms" />
</a>
<a href="https://github.com/Lordog/dive-into-llms/network/members">
<img alt="FORK" src="https://img.shields.io/github/forks/Lordog/dive-into-llms?color=FF8000" />
</a>
<a href="https://github.com/Lordog/dive-into-llms/issues">
<img alt="Issues" src="https://img.shields.io/github/issues/Lordog/dive-into-llms?color=0088ff"/>
</a>
<br />
</p>
<div align="center">
<p align="center">
<a href="#项目动机">项目动机</a>/
<a href="#教程目录">教程目录</a>/
<a href="#贡献者列表">贡献者列表</a>
</p>
</div>
## 💡 Updates
2025/06/06 感谢各位朋友们的关注和积极反馈!我们从以下两个方面对本教程进行了更新:
- [x] 上线国产化《大模型开发全流程》公益教程(含PPT、实验手册和视频),此处特别感谢华为昇腾社区的支持!
- [x] 在原系列编程实践教程的基础上进行内容更新,并增加了新的主题(数学推理、GUI Agent、大模型对齐、隐写术等)!
## 🎯 项目动机
《动手学大模型》系列编程实践教程,由上海交通大学《自然语言处理前沿技术》(NIS8021)、《人工智能安全技术》课程(NIS3353)讲义拓展而来(教师:[张倬胜](https://bcmi.sjtu.edu.cn/home/zhangzs/)),旨在提供大模型相关的入门编程参考。本教程属公益性质、完全免费。通过简单实践,帮助同学们快速入门大模型,更好地开展课程设计或学术研究。
## 📚 教程目录
| 教程内容 | 简介 | 地址 |
| ---------------- | ------------------------------------------------------------ | ------------------------------------------------------------ |
| 微调与部署 | 预训练模型微调与部署指南:想提升预训练模型在指定任务上的性能?让我们选择合适的预训练模型,在特定任务上进行微调,并将微调后的模型部署成方便使用的Demo! | [[课件](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter1/dive-into-llm.pdf)] [[教程](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter1/README.md)] [[脚本](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter1/dive-tuning.ipynb)] |
| 提示学习与思维链 | 大模型的API调用与推理指南:“AI在线求鼓励?大模型对一些问题的回答令人大跌眼镜,但它可能只是想要一句「鼓励」” | [[课件](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter2/dive-into-prompting.pdf)] [[教程](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter2/README.md)] [[脚本](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter2/dive-prompting.ipynb)] |
| 知识编辑 | 语言模型的编辑方法和工具:想操控语言模型在对指定知识的记忆?让我们选择合适的编辑方法,对特定知识进行编辑,并将对编辑后的模型进行验证! | [[课件](https://github.com/Lordog/dive-into-llms/blob/main/documents/chapter3/dive_edit_0410.pdf)] [[教程](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter3/README.md)] [[脚本](https://github.com/Lordog/dive-into-llms/tree/main/documents/chapter3/dive_edit.ipynb)] |
| 数学推理 | 如何让大模型学会数学推理?让我们快速蒸馏一个迷你R1!
阅读完整原文
商业机会分析 AI 生成
配套一键运行的云端GPU实训沙箱(SaaS平台)
| 产品构想 | 针对Notebook教学需配置GPU环境门槛高的痛点,提供基于Web的一键启动预置Notebook实验环境,免除本地CUDA驱动安装及算力短缺困扰。 |
| 核心功能 | 预装教程全部依赖的环境镜像、云端JupyterLab直连、按需/按小时计费的GPU算力调度、训练中间断点保存。 |
| 目标用户 | 缺乏高性能本地显卡、希望快速体验大模型训练与推理的学生和开发者(推测)。 |
| 难度/周期 | 中等 · 3 - 6 周 · 成本:算力云服务代理对接费用、服务器运维与存储成本、域名及第三方登录等基础研发成本(推测约每月数百至数千元)。 |
| 收费模式 | 算力充值抽成、按小时计费使用费、高级会员订阅(含固定每月GPU时长)。 |
| 竞争风险 | 算力成本波动的财务风险;国内已有各大算力租赁平台存在直接竞争(推测)。 |
| 依据 | 数据支持的判断 |
深度进阶实战训练营与社群会员体系
| 产品构想 | 基于开源免费教程建立庞大漏斗,推出付费进阶小班训练营,提供工业级复杂任务代码、助教答疑、代码Code Review及大模型岗位求职指导。 |
| 核心功能 | 进阶闭源工业项目实战(如百亿参数微调优化、复杂Agent多工具编排)、专属答疑群、简历辅导与模拟面试服务。 |
| 目标用户 | 急需转行或校招突围的求职者、希望在实际业务中落地LLM的资深工程师(推测)。 |
| 难度/周期 | 低(技术方案简单,但运营履约密度高) · 2 - 4 周 · 成本:社群工具及宣发成本、精力与助教成本(推测基本以时间精力投入为主)。 |
| 收费模式 | 按期收取训练营学费、知识星球/小报童年费会员。 |
| 竞争风险 | 知识服务交付高度依赖主理人精力,容易受限于个人产能;容易面临内容外泄与盗版风险(推测)。 |
| 依据 | 已验证事实 |
B端企业大模型应用落地内训与工程咨询
| 产品构想 | 借助高Star教程的技术影响力背书,向正在尝试数字化/智能化转型的中小企业提供企业内训课程及大模型私有化落地技术咨询方案。 |
| 核心功能 | 定制化企业内训讲座(RAG/微调最佳实践)、私有数据安全接入方案设计、开源方案选型评估咨询。 |
| 目标用户 | 传统软件企业研发部门、寻求引入垂直领域大模型的中小企业管理层及技术负责人(推测)。 |
| 难度/周期 | 中等 · 2 - 4 周(主要为方案撰写与商务洽谈) · 成本:商务差旅及材料制作成本(推测极低)。 |
| 收费模式 | 按场次/天收取企业培训费、按项目阶段收取技术咨询顾问费。 |
| 竞争风险 | B端获客周期较长,交付方案需求非标,个人服务可能面临商务资质和抗风险能力不足的挑战(推测)。 |
| 依据 | AI推测 |
AI 基于仓库公开数据分析生成,含推测成分,不构成收益承诺。
报告会保存到 个人中心
竞品与相似项目 GitHub Search 真实检索
| 项目 | 中文简介 | Stars | 语言 |
|---|---|---|---|
| ritun16/llm-text-summarization | 中文介绍暂未生成 A comprehensive guide and codebase for text summarization us |
68 | Python |
| mehdiir/Roberta-Llama-Mistral | 中文介绍暂未生成 Comparing the Performance of LLMs: A Deep Dive into Roberta, |
52 | Python |
| ianhohoho/auto-hyde | 中文介绍暂未生成 🔎 A deep-dive into HyDE for Advanced LLM RAG + 💡 Introducing |
38 | Jupyter Notebook |
| gongyunguo123/dive-into-llms | 中文介绍暂未生成 | 37 | Jupyter Notebook |
| pzsacc/nano-vllm-lite | 中文介绍暂未生成 This repository is inspired by nano-vllm. Thanks! The core i |
36 | Python |
| alirezadir/LLM-book-2024 | 中文介绍暂未生成 Dive into the Foundations of LLMs, System Design Strategies, |
31 | - |
以上为通过 GitHub 官方 Search API 检索的相似项目,功能差异与优劣势需进一步人工确认,配置 AI 后可生成对比分析。
项目优势与风险
| 技术成熟度 | 创建于 2024-04-08,最近推送 2025-10-10,发布过 1 个 Release |
| 社区活跃 | Star 59,975 / Fork 7,164 / Issue 18(数据支持,可自行核实) |
| 许可证 | 未检测到(需人工确认) |
| 主要风险 | 上游项目方向可能变化;同赛道竞争者较多(见竞品表);热度与需求不完全等价 |
安装与使用
快速开始(以仓库 README 为准)
git clone https://github.com/Lordog/dive-into-llms.git cd dive-into-llms # 请阅读仓库 README 获取确切安装步骤(依赖、配置、启动命令)
术语说明:Docker=应用容器(把程序和依赖打包运行);API Key=调用外部服务的密钥;Git Clone=把仓库代码下载到本地。常见错误:API Key 未配置 / 端口占用 / 数据库连接失败,多数项目在 README 的 Troubleshooting 章节有说明。