搜索结果：cuda（14 个）
按分类缩小范围
LMCache
商机 72
专为 LLM 设计的高速 KV Cache 缓存层，有效加速大模型推理与响应。
TensorRT-LLM
商机 71
提供易用的 Python API，针对 NVIDIA GPU 优化 LLM 高效推理加速。
bend
商机 69
Bend 2：通过证明拦截 AI 错误的高速语言。安装：curl -fsSL https://bend-lang.com/install.sh | sh
numba
商机 68
基于 LLVM 的 Python 动态编译器，针对 NumPy 进行了深度优化。
cupy
商机 68
面向 GPU 计算的 NumPy 与 SciPy 兼容加速库。
ACE-Step-1.5
商机 64
可在本地运行的音乐生成模型，支持 Mac、AMD、Intel 和 CUDA 设备。
voicebox
商机 63
开源 AI 语音工作站，支持声音克隆、听写与音频创作。
burn
商机 62
兼顾灵活性、高效性与跨平台特性的 Rust 深度学习框架。
ZLUDA
商机 58
支持在非 NVIDIA GPU 上直接运行 CUDA 应用的兼容层工具。
kaldi
商机 54
语音识别工具包 Kaldi 的官方开源代码仓库。
TensorFold
商机 45
支持 Metal、CUDA 和 Vulkan 的 LLM 推理引擎。
colibri
商机 41
C 语言编写的 MoE 分层推理引擎，按热度在 GPU、RAM 与 NVMe 间调度专家权重。
ds4
商机 41
支持 Metal、CUDA 和 ROCm 的 DeepSeek 4 本地推理引擎。
cutlass
商机 41
用于高性能线性代数计算的 CUDA 模板与 Python DSL。