登录 注册

laya

去点 Star
网络与基础设施
35,438
Stars
—
Forks
0
Watchers
—
Open Issues
待补全
许可证
Python
语言
—
创建时间
最近更新

项目能做什么

非自回归快思考决策引擎，单次前向推理完成 100+ 语言的文本分类与打分。
来源：AI 基于仓库事实生成 · 内容以仓库实际 README 为准

使用说明 查看原始 README 原仓库文档

中文使用说明暂未生成。下面保留原仓库 README 摘录，命令与配置均以原文为准。
原始 README 摘录（英文原文，节选前 3000 字符） 
<p align="center">
  <picture>
    <source media="(prefers-color-scheme: dark)" srcset="https://raw.githubusercontent.com/NandhaKishorM/laya/main/assets/logo-lockup-dark.png" />
    <img src="https://raw.githubusercontent.com/NandhaKishorM/laya/main/assets/logo-lockup.png" alt="Laya" width="330" />
  </picture>
</p>

> **Cite this work.** M, N.; M, A. From Laya to Vega: Open Non-Autoregressive Decision Models with Calibrated Probabilities. *Preprints* **2026**, 2026110781. [https://doi.org/10.20944/preprints202611.0781.v1](https://doi.org/10.20944/preprints202611.0781.v1)

<details>
<summary>BibTeX</summary>

```bibtex
@article{m2026laya_vega,
  title   = {From Laya to Vega: Open Non-Autoregressive Decision Models with Calibrated Probabilities},
  author  = {M, N. and M, A.},
  journal = {Preprints},
  year    = {2026},
  pages   = {2026110781},
  doi     = {10.20944/preprints202611.0781.v1},
  url     = {https://doi.org/10.20944/preprints202611.0781.v1}
}
```

</details>

**Multilingual, non-autoregressive System 1 decision engine.** Typed decisions over 100+ languages in a single forward pass — 33 ms — trained with reinforcement learning against strictly proper scoring rules (RLCD), with a router that picks the right checkpoint per request.

<div align="center">

[![Open In Colab](https://colab.research.google.com/assets/colab-badge.svg)](https://colab.research.google.com/drive/15d4Yv__KHeHjshVb-6PRTfqVllxih2S3?usp=sharing)
[![PyPI version](https://img.shields.io/pypi/v/laya.svg)](https://pypi.org/project/laya/)
[![Docs](https://img.shields.io/badge/docs-online-2ea44f)](https://nandhakishorm.github.io/laya/)
[![Hugging Face Model](https://img.shields.io/badge/%F0%9F%A4%97%20Model-convaiinnovations%2Flaya-blue)](https://huggingface.co/convaiinnovations/laya)
[![Multilingual](https://img.shields.io/badge/%F0%9F%A4%97%20Model-laya--multilingual-blue)](https://huggingface.co/convaiinnovations/laya-multilingual)
[![Hugging Face Space](https://img.shields.io/badge/%F0%9F%A4%97%20Space-laya--demo-orange)](https://huggingface.co/spaces/convaiinnovations/laya-demo)
[![Dev.to Article](https://img.shields.io/badge/dev.to-Read%20Article-0A0A0A?logo=devdotto&logoColor=white)](https://dev.to/nandakishor_m_6cc0adfde9f/i-built-non-autoregressive-decision-models-a-year-ago-then-a-frontier-lab-called-it-a-18me)
[![Buy Me A Coffee](https://img.shields.io/badge/Buy%20Me%20A%20Coffee-nandakishorm-FFDD00?logo=buy-me-a-coffee&logoColor=black)](https://www.buymeacoffee.com/nandakishorm)
[![License](https://img.shields.io/badge/License-Apache%202.0-green.svg)](https://opensource.org/licenses/Apache-2.0)

</div>

## Installation

```bash
python -m pip install laya
```

With [uv](https://docs.astral.sh/uv/), run `uv add laya` in a uv project or `uv pip install laya` in a virtual environment.

Python 3.10 or newer. Optional extras: `laya[serve]` (HTTP server), `laya[mcp]` (MCP server), `laya[langchain]` (LangChain and LangGraph), `laya[llamaindex]` (LlamaIndex selectors),
阅读完整原文

项目深度分析 AI 生成

AI Agent智能路由与护栏(Guardrails)轻量SaaS

产品构想利用laya[serve]、laya[mcp]及内置的abstain/OOD标志和路由能力，封装为开箱即用的Agent前置路由与安全拦截API，减少下游昂贵大模型的无效调用（推测可降低客户端Token成本）。
核心功能1) 基于Typed choice与score的多意图低延迟路由；2) 自动OOD与低置信度弃权拦截；3) LangChain/MCP一键接入配置与调用监控面板（后两项为产品化扩展推测）。
目标用户使用LangChain、LlamaIndex、CrewAI或MCP协议的中小AI应用团队与独立开发者（推测）。
难度/周期中等（Python后端与基础服务封装已有laya[serve]支撑，重点在多租户鉴权、并发调度与评测基准构建） · 4-6周完成MVP · 成本：较低至中等；虽部署特征显示gpu=0，但托管0.8B/4B模型（如vega-U、Qwen3.5-4B）在生产高并发下大概率需按需租用GPU算力（推测）。
收费模式按API调用次数阶梯计费或按并发实例月付订阅（不保证实际付费转化）。
竞争风险1) 仓库License缺失且关联Qwen/Gemma模型可能存在商用协议限制；2) 33ms延迟及长文本精度在真实生产流量的稳定性尚未独立验证；3) 市场已有成熟小模型路由方案，同质化竞争风险（推测）。
依据 数据支持的判断

多语言长文档与多模态内容合规/分诊私有化方案

产品构想基于laya支持100+语言、8k至73k长文本及vision/audio扩展的能力，为跨境电商、出海SaaS或客服系统提供本地化/私有云部署的批量文本、图像及音频打分与初筛服务（推测）。
核心功能1) 多语言统一接口的Pydantic结构化合规打分与分类；2) 超长文档单次前向分诊；3) 针对客户历史数据微调专属reader checkpoint（微调交付为推测）。
目标用户出海应用团队、跨境电商运营方及对数据隐私敏感的企业客服/风控部门（推测）。
难度/周期中高（需处理音视频解码、长文本内存优化及企业客户数据隔离与定制微调流程） · 8-12周 · 成本：中等；初期以研发人力及测试用GPU验证成本为主，交付时可由客户承担私有部署硬件成本（推测）。
收费模式项目制私有化部署授权费 + 定制checkpoint微调服务费 + 年度维护费（推测）。
竞争风险1) 开源项目Star为35389但Fork=0、Issue=0，社区真实度与代码维护持续性存在重大疑点；2) 多模态与73k长文本推理在非GPU或受限资源下的实际延迟与准确率风险（推测）。
依据 AI推测

基于ONNX与laya-ts的端侧/边缘轻量决策工具包

产品构想利用仓库提供的laya[onnx]与laya-ts（TypeScript/Node.js/浏览器支持），开发无需后端大模型API即可运行的离线文档分类、表单意图识别或浏览器扩展组件（推测）。
核心功能1) ONNX量化模型导出与浏览器/Node.js运行模板；2) 预设常见分类/是-否判断任务包；3) 本地置信度校准阈值可视化调试工具（推测）。
目标用户注重隐私的桌面/浏览器插件开发者、边缘计算应用开发者及希望零API成本实现基础智能路由的个人开发者（推测）。
难度/周期中等（需验证ONNX转换兼容性及浏览器端模型加载体积与首屏性能） · 4-8周 · 成本：极低（静态托管与开源SDK封装为主，无需自建推理服务器集群，推测）。
收费模式高级场景模板库买断、企业级浏览器端SDK技术支持或插件增值订阅（推测）。
竞争风险1) README仅提及laya-ts与laya[onnx]存在，未提供端侧模型体积与浏览器实测延迟数据，技术可行性待验证；2) 端侧算力受限可能导致复杂任务效果不佳（推测）。
依据 尚需验证的假设
AI 基于仓库公开数据分析生成，含推测成分，不构成收益承诺。
报告会保存到 个人中心

竞品与相似项目 GitHub Search 真实检索

相似项目数据正在完善中，暂不展示（避免误导）

项目优势与风险

技术成熟度创建时间待补全，最近推送 ，发布过 64 个 Release
社区活跃Star 35,438 / Fork 0 / Issue 0（数据支持，可自行核实）
许可证未检测到（需人工确认）
主要风险上游项目方向可能变化；同赛道竞争者较多（见竞品表）；热度与需求不完全等价

安装与使用

此项目未提供 Docker 镜像，安装步骤以原仓库 README 为准（涉及依赖安装与环境配置，对新手门槛较高）。