llrt vs vllm
llrt y vllm comparten 8 tecnologías: Tokio, mkdocs-material, jinja2, markdown, markupsafe, mkdocs-material-extensions, pymdown-extensions y tracing. llrt está escrito en Rust y vllm en Python.
En qué coinciden y en qué se diferencian
llrt
LLRT (Low Latency Runtime) is an experimental, lightweight JavaScript runtime designed to address the growing demand for fast and efficient Serverless applications.
Rust8.8 kLeído el 16 de noviembre de 2026, en el commit 5f62b24¿Con qué está hecho llrt?Solo en llrt
En común
- Tokio
mkdocs-material
- jinja2
- markdown
markupsafe
- mkdocs-material-extensions
- pymdown-extensions
tracing
vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
Python96.8 kLeído el 12 de noviembre de 2026, en el commit c6573ee¿Con qué está hecho vllm?Solo en vllm
- FastAPI
- axum
- gitdb
- pyzmq
- Hugging Face
starlette
- Ray
- AIOHTTP
- tower
- indicatif
- AMD
apache-tvm-ffi
- auto-round-lib
- conch-triton-kernels
- cuda-bindings
- cuda-python
cupy-cuda12x
cupy-cuda13x
flashinfer-python
- humming-kernels
lm-format-enforcer
mooncake-transfer-engine
mooncake-transfer-engine-rocm
- NVIDIA
nvidia-cudnn-frontend
OpenAI- openai-harmony
- oss-harmony
- quack-kernels
- sentencepiece
- vllm-bench
- vllm-chat
- vllm-engine-core-client
- vllm-llm
- vllm-managed-engine
- vllm-parser
- vllm-proto
- vllm-server
- vllm-text
- vllm-tokenizer
- torch
- transformers
- xgrammar-structural-tag
- einops
llm-multimodal
- compressed-tensors
safetensors
- triton
- mistral-common
xgrammar
partial-json-parser
torchvision
lmcache
torchaudio
timm
vllm-xpu-kernels
- runai-model-streamer
tokenizers
tokenspeed-mla
- llguidance
- MCP
outlines-core
- tpu-inference
- fastokens
- fastsafetensors
- hf-hub
- instanttensor
- nixl
- riptoken
- tekken
- tensorizer
- tiktoken
- tiktoken-rs
parquet
- properdocs
selectolax
- xlsxwriter
pillow
- image
minijinja
- torchcodec
minijinja-contrib
- annotated-types
- Pydantic
msgspec
- validator
- opentelemetry-semantic-conventions-ai
- python-json-logger
- vllm-metrics
- vllm-tracing
prometheus-client
psutil
tracing-subscriber
tracing-futures
- model-hosting-container-standards
- OpenTelemetry
- prometheus-fastapi-instrumentator
tracing-log
Lado a lado
Preguntas frecuentes
¿Cuál es más grande, llrt o vllm?
La prueba: el código de vllm-project/vllm en el commit c6573ee
¿Cuál tiene más estrellas en GitHub, llrt o vllm?
La prueba: vllm-project/vllm en GitHub
¿Cuál tiene más pruebas, llrt o vllm?
La prueba: el código de vllm-project/vllm en el commit c6573ee
¿Cuál se actualizó más recientemente, llrt o vllm?
La prueba: los commits de awslabs/llrt en GitHub
¿Cuál tiene más commits firmados por IA, llrt o vllm?
La prueba: los commits que firmó cada herramienta en vllm-project/vllm
Mira tu código por dentro, hoy.
Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.
Gratis y sin cuenta.¿Repo privado? Entra con GitHub

