Qwen
AI 模型与开发框架网络与基础设施
chineseflash-attentionlarge-language-modelsllmnatural-language-processingpretrained-models
22,030
Stars
2,009
Forks
157
Watchers
41
Open Issues
Apache-2.0
许可证
Python
语言
2023-08-03
创建时间
2026-03-05
最近更新
项目能做什么
阿里云开源的通义千问(Qwen)预训练与对话大语言模型官方代码仓库。
来源:AI 基于仓库事实生成
· 内容以仓库实际 README 为准
使用说明 查看原始 README 原仓库文档
中文使用说明暂未生成。下面保留原仓库 README 摘录,命令与配置均以原文为准。
原始 README 摘录(英文原文,节选前 3000 字符)
<p align="left">
<a href="README_CN.md">中文</a>  |  English  |  <a href="README_JA.md">日本語</a> |  <a href="README_FR.md">Français</a> |  <a href="README_ES.md">Español</a>
</p>
<br><br>
<p align="center">
<img src="https://qianwen-res.oss-cn-beijing.aliyuncs.com/logo_qwen.jpg" width="400"/>
<p>
<br>
<p align="center">
🤗 <a href="https://huggingface.co/Qwen">Hugging Face</a>   |   🤖 <a href="https://modelscope.cn/organization/qwen">ModelScope</a>   |    📑 <a href="https://arxiv.org/abs/2309.16609">Paper</a>    |   🖥️ <a href="https://modelscope.cn/studios/qwen/Qwen-72B-Chat-Demo/summary">Demo</a>
<br>
<a href="assets/wechat.png">WeChat (微信)</a>   |   <a href="https://discord.gg/CV4E9rpNSD">Discord</a>   |   <a href="https://dashscope.aliyun.com">API</a>
</p>
<br><br>
> [!Important]
> Qwen2 is here! You are welcome to follow [QwenLM/Qwen2](https://github.com/QwenLM/Qwen2) and share your experience there.
>
> This repo ([QwenLM/Qwen](https://github.com/QwenLM/Qwen)) is no longer actively maintained, due to substantial codebase differences.
<br>
| | Qwen-Chat | Qwen-Chat (Int4) | Qwen-Chat (Int8) | Qwen |
|-----|:------------------------------------------------------------------------------------------------------------------------------------:|:----------------------------------------------------------------------------------------------------------------------------------------------:|:---------------------------------------------------------------:|:--------------------------------------------------------------------------------------------------------------------------:|
| 1.8B | <a href="https://modelscope.cn/models/qwen/Qwen-1_8B-Chat/summary">🤖</a> <a href="https://huggingface.co/Qwen/Qwen-1_8B-Chat">🤗</a> | <a href="https://modelscope.cn/models/qwen/Qwen-1_8B-Chat-Int4/summary">🤖</a> <a href="https://huggingface.co/Qwen/Qwen-1_8B-Chat-Int4">🤗</a> | <a href="https://modelscope.cn/models/qwen/Qwen-1_8B-Chat-Int8/summary">🤖</a> <a href="https://huggingface.co/Qwen/Qwen-1_8B-Chat-Int8">🤗</a> | <a href="https://modelscope.cn/models/qwen/Qwen-1_8B/summary">🤖</a> <a href="https://huggingface.co/Qwen/Qwen-1_8B">🤗</a> |
| 7B | <a href="https://modelscope.cn/models/qwen/Qwen-7B-Chat/summary">🤖</a> <a href="https://huggingface.co/Qwen/Qwen-7B-Chat">🤗</a> | <a href="https://modelscope.cn/models/qwen/Qwen-7B-Chat-Int4/summary">🤖</a> <a href="https://huggingface.co/Qwen/Qwen-7B-Chat-Int4">🤗</a> | <a href
阅读完整原文
项目深度分析 AI 生成
垂直行业私有化微调与一体化部署解决方案
| 产品构想 | 基于 Qwen 系列(1.8B~72B)模型与 Int4/Int8 量化特性,为数据敏感型企业提供开箱即用的本地化问答、客服或知识库私有化部署服务。 |
| 核心功能 | 私有数据清洗与 LoRA 微调管线、Docker/vLLM 快速推理部署、量化版本显存优化配置、本地 API 鉴权管理网关 |
| 目标用户 | 有数据合规要求的中小企业、政企外包商、本地制造与政务信息化团队 |
| 难度/周期 | 中等偏高 · 1 - 2 个月 · 成本:中等(需配备单卡或多卡 A10/A100/4090 GPU 服务器用于测试和验证) |
| 收费模式 | 项目制部署实施费、定制微调服务费、年度技术运维支持费 |
| 竞争风险 | 仓库已停止维护,技术栈需跟进新版;大模型私有化交付周期长、客户定制要求多。 |
| 依据 | 已验证事实 |
边缘端/低算力设备量化推理适配中间件
| 产品构想 | 利用 Qwen 1.8B/7B 较小尺寸及其自带的 Int4/Int8 支持,打包针对边缘工控机、ARM/消费级 PC 的轻量化推理运行环境与桌面助手 SDK。 |
| 核心功能 | 针对端侧 GPU/CPU 的量化编译优化、低内存占用推理引擎包装、极简本地 REST/WebSocket 接口封装 |
| 目标用户 | 智能硬件开发商、需要本地离线 LLM 的独立软件开发商 (ISV) |
| 难度/周期 | 较高 · 2 - 3 个月 · 成本:低至中等(依赖本地多架构硬件测试环境) |
| 收费模式 | 设备授权许可费 (License)、商业集成支持费 |
| 竞争风险 | 小型端侧模型性能可能受限于硬件算力,且 Qwen2 等新版本端侧性能可能更优导致维护压力大。 |
| 依据 | AI推测 |
Qwen 存量业务向新架构平滑迁移与升级咨询服务
| 产品构想 | 针对早期已基于 Qwen-7B/14B/72B 上线的中小企业,提供提示词适配、权重迁移、微调数据重训与推理栈升级到新架构(如 Qwen2/vLLM)的技术咨询与实施服务。 |
| 核心功能 | 新旧权重与输出对齐评测工具、迁移评估报告、自动化升级脚本集、新推理加速引擎适配 |
| 目标用户 | 存量已落地初代 Qwen 且面临代码库无人维护痛点的技术团队 |
| 难度/周期 | 中等 · 2 - 4 周 · 成本:低(主要为技术人力与短期评测算力) |
| 收费模式 | 技术咨询费、迁移实施服务合同 |
| 竞争风险 | 存量客户基数需验证,部分客户可能直接由内部技术团队自行消化升级。 |
| 依据 | 数据支持的判断 |
AI 基于仓库公开数据分析生成,含推测成分,不构成收益承诺。
报告会保存到 个人中心
竞品与相似项目 GitHub Search 真实检索
相似项目数据正在完善中,暂不展示(避免误导)
项目优势与风险
| 技术成熟度 | 创建于 2023-08-03,最近推送 2026-03-05 |
| 社区活跃 | Star 22,030 / Fork 2,009 / Issue 41(数据支持,可自行核实) |
| 许可证 | Apache-2.0 |
| 主要风险 | 上游项目方向可能变化;同赛道竞争者较多(见竞品表);热度与需求不完全等价 |
安装与使用
此项目未提供 Docker 镜像,安装步骤以原仓库 README 为准(涉及依赖安装与环境配置,对新手门槛较高)。