搜索结果：gpu（20 个）
按分类缩小范围
web-llm
商机 74
直接在浏览器内运行的高性能 LLM 推理引擎。
ml-engineering
商机 72
机器学习工程开源电子书。
Chinese-LLaMA-Alpaca
商机 68
中文 LLaMA 与 Alpaca 大语言模型，支持在本地 CPU/GPU 环境下训练与部署。
tvm
商机 68
开源机器学习编译器框架。
skypilot
商机 64
AI 算力编排平台，将分散的 AI 算力整合为虚拟超级计算机，加速模型研发。
tfjs
商机 63
支持 WebGL 硬件加速的 JavaScript 库，用于在前端训练与部署 ML 模型。
local-dream
商机 62
〔中文简介暂未生成〕 Run Stable Diffusion on Android Devices with Snapdragon NPU acceleration. Also supports CPU/GPU inference.
TensorRT-LLM
商机 59
提供易用的 Python API，针对 NVIDIA GPU 优化 LLM 高效推理加速。
server
商机 58
专为云端和边缘计算场景优化的 Triton AI 推理服务器解决方案。
airllm
商机 56
单张 4GB 显卡即可运行超大规模 LLM 的轻量化推理框架。
deeplearning4j
商机 53
基于 JVM 的深度学习训练与部署工具套件，支持导入 Keras、TensorFlow、ONNX/PyTorch 等模型。
kimi-k3-in-c
商机 53
纯 C99 实现的 Kimi K3 推理，无需 GPU、BLAS 或任何框架，单 CPU 和 8.24 GB 内存即可运行。
nx
商机 52
〔中文简介暂未生成〕 Multi-dimensional arrays (tensors) and numerical definitions for Elixir
LocalAI
商机 49
开源 AI 引擎，可在各类硬件上运行 LLM、视觉及语音等模型，无需 GPU。
pytorch-lightning
商机 49
无需修改代码，即可在单卡或上万张 GPU 上预训练及微调任意规模的 AI 模型。
zinc
商机 44
〔中文简介暂未生成〕 Zig INferenCe Engine — Local LLM inference on AMD GPUs and Apple Silicon
pytorch （深度学习框架）
商机 43
支持强大 GPU 加速的 Python 库，可用于张量计算和搭建动态深度神经网络。
TensorRT
商机 43
〔中文简介暂未生成〕 NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.
colibri
商机 41
C 语言编写的 MoE 分层推理引擎，按热度在 GPU、RAM 与 NVMe 间调度专家权重。
autoresearch
商机 40
在单 GPU 上自动执行 nanochat 训练研究的 AI Agent。