¿Con qué está hecho lmdeploy?
lmdeploy es un repo de Python hecho con FastAPI, Ray, AIOHTTP y uvicorn. Usa IA con apache-tvm-ffi, flash-linear-attention, openai-harmony, partial-json-parser, qwen-vl-utils y 18 más, arma su contenido con markdown, myst-parser y pillow, valida sus datos con Pydantic, se prueba con allure-pytest, pytest-cov, pytest-order, pytest-rerunfailures, pytest-sugar y 3 más, corre en producción con prometheus-client y usa pyzmq. Son 299,565 líneas escritas, con 336 archivos de prueba.
Leído el 17 de noviembre de 2026, en el commit fc33f69. Léela en markdown
La ficha dice con qué está hecho. Su mapa entero lo abre por dentro: cada parte del código y cómo se conecta con las demás.
Frontend
Estilos 1
sphinx-book-theme
Interfaz 1
Backend
La base 1
FastAPI24 archivos
Datos 1
- pyzmq3 archivos
IA 21
- torch426 archivos
xgrammar8 archivos
accelerate7 archivos
safetensors4 archivos
torchvision4 archivos
peft2 archivos
torch-npu2 archivos
timm1 archivo
apache-tvm-ffi
flash-linear-attention
partial-json-parser
rdkit
- transformers123 archivos
- triton50 archivos
- datasets1 archivo
- einops1 archivo
- sentencepiece1 archivo
- tiktoken1 archivo
- openai-harmony
- qwen-vl-utils
- transformers-stream-generator
Servicios 2
Otros repos con un stack parecido
Ordenados por cuánto de su stack comparten con lmdeploy, y después por estrellas.
- vllm-projectvllm97.1 k
A high-throughput and memory-efficient inference and serving engine for LLMs
22 de 63 en comúnComparar → - ray-projectray44.3 k
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
21 de 63 en comúnComparar → - sgl-projectsglang39 k
SGLang is a high-performance serving framework for large language models and multimodal models.
20 de 63 en comúnComparar → - hpcaitechColossalAI41.4 k
Making large AI models cheaper, faster and more accessible
18 de 63 en comúnComparar → - bojieliai-agent-book58.5 k
《深入理解 AI Agent:设计原理与工程实践》(李博杰 著)开源主仓库:全书正文、编译版 PDF 与按章配套代码
17 de 63 en comúnComparar → - unslothaiunsloth79.7 k
Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4.1, MiniMax-H3, Gemma 4, FLUX and more.
16 de 63 en comúnComparar →
Preguntas frecuentes
¿En qué lenguaje está escrito lmdeploy?
¿Qué framework usa lmdeploy?
¿lmdeploy usa IA?
¿Qué servicios usa lmdeploy?
¿lmdeploy tiene pruebas?
¿Qué repos tienen un stack parecido a lmdeploy?
Mira tu código por dentro, hoy.
Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.
Gratis y sin cuenta.¿Repo privado? Entra con GitHub

