TensorRT-LLM vs vllm

TensorRT-LLM y vllm comparten 28 tecnologías: FastAPI, pyzmq, OpenAI, starlette, NVIDIA, quack-kernels, sentencepiece, tiktoken, torch, triton, transformers, einops, safetensors, torchvision, datasets, MCP, peft, pillow, jinja2, Pydantic, msgspec, jsonschema, opentelemetry-api, psutil, prometheus-client, OpenTelemetry, opentelemetry-sdk y prometheus-fastapi-instrumentator. Los dos están escritos en Python.

Léela en markdown

En qué coinciden y en qué se diferencian

NVIDIA

TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

Python15 kLeído el 8 de noviembre de 2026, en el commit b433473¿Con qué está hecho TensorRT-LLM?

Solo en TensorRT-LLM

  • blobfile
  • h5py
  • anyio
  • uvicorn
  • Rich
  • matplotlib
  • Plotly
  • accelerate
  • apache-tvm-ffi
  • cuda-python
  • flash-linear-attention
  • flashinfer-python
  • nvidia-cudnn-frontend
  • openai-codex
  • openai-harmony
  • optimum
  • rouge
  • rouge-score
  • torch-c-dlpack-ext
  • torchao
  • diffusers
  • flash-attn
  • xgrammar
  • librosa
  • mistral-common
  • partial-json-parser
  • tritonclient
  • evaluate
  • llguidance
  • lm-eval
  • jsonlines
  • mako
  • opentelemetry-semantic-conventions-ai
  • boto3

En común

Lado a lado

TamañoLas líneas que escribieron personas y agentes, sin lo generado; los archivos de código, sin las pruebas.
TensorRT-LLM2,884,778 líneas escritas3,120 archivos de código
vllm2,375,117 líneas escritas3,289 archivos de código
Quién lo escribeUn commit cuenta como de IA cuando lleva su firma: un Co-Authored-By, su nombre de autor o el merge de su rama.
TensorRT-LLM1.7% de sus commits firmados por IACon Claude Code, CodeRabbit, GitHub Copilot y Cursor
vllm12.8% de sus commits firmados por IACon Claude Code, Codex, Gemini CLI, Cursor, GitHub Copilot, Devin, Mistral Vibe, CodeRabbit, Factory y Qwen Code
ActividadDe GitHub y de su historia, el día que SeeRepo lo leyó.
TensorRT-LLMÚltimo push el 8 de noviembre de 202610,997 commits15,038 estrellas
vllmÚltimo push el 4 de noviembre de 202624,593 commits96,302 estrellas
PruebasLos archivos que prueban el código, y la parte de los archivos de código que un test importa.
TensorRT-LLM2,703 archivos de testEl 58.6% de sus archivos de código tiene un test que lo importa
vllm2,419 archivos de testEl 60.2% de sus archivos de código tiene un test que lo importa

Preguntas frecuentes

¿Cuál es más grande, TensorRT-LLM o vllm?
TensorRT-LLM, con 2,884,778 líneas escritas; vllm tiene 2,375,117.

La prueba: el código de NVIDIA/TensorRT-LLM en el commit b433473

¿Cuál tiene más estrellas en GitHub, TensorRT-LLM o vllm?
vllm, con 96,302 estrellas; TensorRT-LLM tiene 15,038.

La prueba: vllm-project/vllm en GitHub

¿Cuál tiene más pruebas, TensorRT-LLM o vllm?
TensorRT-LLM, con 2,703 archivos de test; vllm tiene 2,419.

La prueba: el código de NVIDIA/TensorRT-LLM en el commit b433473

¿Cuál se actualizó más recientemente, TensorRT-LLM o vllm?
TensorRT-LLM: su último push fue el 8 de noviembre de 2026, y el de vllm, el 4 de noviembre de 2026.

La prueba: los commits de NVIDIA/TensorRT-LLM en GitHub

¿Cuál tiene más commits firmados por IA, TensorRT-LLM o vllm?
vllm: una IA firmó el 12.8% de sus commits, con Claude Code, Codex, Gemini CLI, Cursor, GitHub Copilot, Devin, Mistral Vibe, CodeRabbit, Factory y Qwen Code; en TensorRT-LLM, el 1.7%.

La prueba: los commits que firmó cada herramienta en vllm-project/vllm

Mira tu código por dentro, hoy.

Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.

Gratis y sin cuenta.

O mira por dentro el de SeeRepo →