lmdeploy vs vllm
lmdeploy y vllm comparten 22 tecnologías: FastAPI, pyzmq, OpenAI, Ray, AIOHTTP, apache-tvm-ffi, openai-harmony, partial-json-parser, torch, transformers, triton, xgrammar, safetensors, torchvision, einops, sentencepiece, tiktoken, timm, markdown, pillow, Pydantic y prometheus-client. Los dos están escritos en Python.
En qué coinciden y en qué se diferencian
lmdeploy
LMDeploy is a toolkit for compressing, deploying, and serving LLMs.
Python8.1 kLeído el 17 de noviembre de 2026, en el commit fc33f69¿Con qué está hecho lmdeploy?Solo en lmdeploy
- Anthropic
uvicorn
sphinx-book-theme
matplotlib
flash-linear-attention
- qwen-vl-utils
rdkit
- transformers-stream-generator
accelerate
peft
torch-npu
- datasets
myst-parser
En común
FastAPI
- pyzmq
OpenAI- Ray
- AIOHTTP
apache-tvm-ffi
- openai-harmony
partial-json-parser
- torch
- transformers
- triton
xgrammar
safetensors
torchvision
- einops
- sentencepiece
- tiktoken
timm
- markdown
pillow
- Pydantic
prometheus-client
vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
Python97.1 kLeído el 17 de noviembre de 2026, en el commit 61c3895¿Con qué está hecho vllm?Solo en vllm
- axum
- gitdb
- Hugging Face
- Tokio
starlette
- tower
mkdocs-material
- indicatif
- AMD
- auto-round-lib
- conch-triton-kernels
- cuda-bindings
- cuda-python
cupy-cuda12x
cupy-cuda13x
flashinfer-python
- humming-kernels
lm-format-enforcer
mooncake-transfer-engine
mooncake-transfer-engine-rocm
NVIDIA
nvidia-cudnn-frontend
- oss-harmony
- quack-kernels
- vllm-bench
- vllm-chat
- vllm-engine-core-client
- vllm-llm
- vllm-managed-engine
- vllm-parser
- vllm-proto
- vllm-server
- vllm-text
- vllm-tokenizer
- xgrammar-structural-tag
llm-multimodal
- compressed-tensors
- mistral-common
lmcache
torchaudio
vllm-xpu-kernels
- runai-model-streamer
tokenizers
tokenspeed-mla
- llguidance
- MCP
outlines-core
- tpu-inference
- fastokens
- fastsafetensors
- hf-hub
- instanttensor
- nixl
- riptoken
- tekken
- tensorizer
- tiktoken-rs
markupsafe
- mkdocs-material-extensions
parquet
- properdocs
- pymdown-extensions
selectolax
- xlsxwriter
- image
- jinja2
minijinja
- torchcodec
minijinja-contrib
- annotated-types
msgspec
validator
- opentelemetry-semantic-conventions-ai
- python-json-logger
- vllm-metrics
- vllm-tracing
tracing
psutil
tracing-futures
tracing-subscriber
- model-hosting-container-standards
OpenTelemetry
- prometheus-fastapi-instrumentator
tracing-log
Lado a lado
Preguntas frecuentes
¿Cuál es más grande, lmdeploy o vllm?
La prueba: el código de vllm-project/vllm en el commit 61c3895
¿Cuál tiene más estrellas en GitHub, lmdeploy o vllm?
La prueba: vllm-project/vllm en GitHub
¿Cuál tiene más pruebas, lmdeploy o vllm?
La prueba: el código de vllm-project/vllm en el commit 61c3895
¿Cuál se actualizó más recientemente, lmdeploy o vllm?
La prueba: los commits de InternLM/lmdeploy en GitHub
¿Cuál tiene más commits firmados por IA, lmdeploy o vllm?
La prueba: los commits que firmó cada herramienta en vllm-project/vllm
Mira tu código por dentro, hoy.
Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.
Gratis y sin cuenta.¿Repo privado? Entra con GitHub

