LocalAI vs TensorRT-LLM

LocalAI y TensorRT-LLM comparten 24 tecnologías: MCP, OpenAI, anyio, FastAPI, uvicorn, matplotlib, accelerate, einops, flash-attn, sentencepiece, tiktoken, torchao, torchvision, torch, transformers, diffusers, librosa, datasets, optimum, peft, safetensors, pillow, jinja2 y OpenTelemetry. LocalAI está escrito en Go y TensorRT-LLM en Python.

Léela en markdown

En qué coinciden y en qué se diferencian

mudler

LocalAI

LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.

Go50.2 kLeído el 5 de noviembre de 2026, en el commit efc6f93¿Con qué está hecho LocalAI?

Solo en LocalAI

En común

NVIDIA

TensorRT-LLM

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

Python15 kLeído el 8 de noviembre de 2026, en el commit b433473¿Con qué está hecho TensorRT-LLM?

Solo en TensorRT-LLM

Lado a lado

TamañoLas líneas que escribieron personas y agentes, sin lo generado; los archivos de código, sin las pruebas.
LocalAI1,389,292 líneas escritas2,979 archivos de código
TensorRT-LLM2,884,778 líneas escritas3,120 archivos de código
Quién lo escribeUn commit cuenta como de IA cuando lleva su firma: un Co-Authored-By, su nombre de autor o el merge de su rama.
LocalAI3.7% de sus commits firmados por IACon Claude Code, GitHub Copilot y Cursor
TensorRT-LLM1.7% de sus commits firmados por IACon Claude Code, CodeRabbit, GitHub Copilot y Cursor
ActividadDe GitHub y de su historia, el día que SeeRepo lo leyó.
LocalAIÚltimo push el 5 de noviembre de 20269,317 commits50,214 estrellas
TensorRT-LLMÚltimo push el 8 de noviembre de 202610,997 commits15,038 estrellas
PruebasLos archivos que prueban el código, y la parte de los archivos de código que un test importa.
LocalAI2,911 archivos de testEl 60.8% de sus archivos de código tiene un test que lo importa
TensorRT-LLM2,703 archivos de testEl 58.6% de sus archivos de código tiene un test que lo importa

Preguntas frecuentes

¿Cuál es más grande, LocalAI o TensorRT-LLM?
TensorRT-LLM, con 2,884,778 líneas escritas; LocalAI tiene 1,389,292.

La prueba: el código de NVIDIA/TensorRT-LLM en el commit b433473

¿Cuál tiene más estrellas en GitHub, LocalAI o TensorRT-LLM?
LocalAI, con 50,214 estrellas; TensorRT-LLM tiene 15,038.

La prueba: mudler/LocalAI en GitHub

¿Cuál tiene más pruebas, LocalAI o TensorRT-LLM?
LocalAI, con 2,911 archivos de test; TensorRT-LLM tiene 2,703.

La prueba: el código de mudler/LocalAI en el commit efc6f93

¿Cuál se actualizó más recientemente, LocalAI o TensorRT-LLM?
TensorRT-LLM: su último push fue el 8 de noviembre de 2026, y el de LocalAI, el 5 de noviembre de 2026.

La prueba: los commits de NVIDIA/TensorRT-LLM en GitHub

¿Cuál tiene más commits firmados por IA, LocalAI o TensorRT-LLM?
LocalAI: una IA firmó el 3.7% de sus commits, con Claude Code, GitHub Copilot y Cursor; en TensorRT-LLM, el 1.7%.

La prueba: los commits que firmó cada herramienta en mudler/LocalAI

Mira tu código por dentro, hoy.

Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.

Gratis y sin cuenta.

O mira por dentro el de SeeRepo →