LocalAI vs vllm-omni
LocalAI y vllm-omni comparten 28 tecnologías: pyarrow, Hugging Face, FastAPI, matplotlib, accelerate, bitsandbytes, einops, llvmlite, NVIDIA, s3tokenizer, scikit-image, sentencepiece, torchvision, torch, transformers, diffusers, opencv-python, torchaudio, onnxruntime, safetensors, tokenizers, trl, av, markupsafe, pillow, imageio, jinja2 y OpenTelemetry. LocalAI está escrito en Go y vllm-omni en Python.
En qué coinciden y en qué se diferencian
LocalAI
LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.
Go50.4 kLeído el 18 de noviembre de 2026, en el commit bb42108¿Con qué está hecho LocalAI?Solo en LocalAI
React
- net/http
- Echo
- go-sqlite3
- modernc.org/sqlite
s3
- SQLite
- NATS.io
- Postgres
- github.com/glebarez/sqlite
github.com/valkey-io/valkey-go
- MCP
- Qdrant
OpenAI- anyio
- Lightning
uvicorn
- Tokio
react-router-dom
Vite
- Hono
Electron
Gradio
- github.com/schollz/progressbar/v3
- gorm.io/gorm
- github.com/nats-io/jwt/v2
- github.com/emersion/go-sasl
- golang.org/x/oauth2
github.com/aws/aws-sdk-go-v2/credentials
github.com/coreos/go-oidc/v3
- github.com/timbutler/zxcvbn
- conformer
- coqui-tts
- flash-attn
- go-openai
llama-cpp-python
- Model Context Protocol
- ModelScope
- nemo-toolkit
- neucodec
- oneccl-bind-pt
- ONNX
- onnxruntime-gpu
openai-go
- phonemizer
- rfdetr
- spacy-pkuseg
- texterrors
- tiktoken
torchao
- torchtune
- vector-quantize-pytorch
github.com/gpustack/gguf-parser-go
github.com/mudler/nib
- github.com/mudler/cogito
mlx
- github.com/mudler/localrecall
insightface
- mlx-lm
- vLLM
- github.com/yalue/onnxruntime_go
librosa
- QWen
sglang
- compel
- datasets
- faster-qwen3-tts
- faster-whisper
funasr
github.com/go-skynet/go-llama.cpp
- github.com/mudler/go-piper
- github.com/streamer45/silero-vad-go
inference
- kokoro
- mlx-audio
moonshine-voice
optimum
- optimum-quanto
- outetts
peft
- pocket-tts
- rerankers
sentence-transformers
speechbrain
- tinygrad
voxcpm
- whisperx
- sox
- torchcodec
github.com/go-audio/wav
github.com/pdfcpu/pdfcpu
- github.com/emersion/go-imap/v2
- github.com/yuin/goldmark
- golang.org/x/image
github.com/charmbracelet/glamour
- github.com/dhowden/tag
- github.com/emersion/go-smtp
github.com/go-pdf/fpdf
github.com/klippa-app/go-pdfium
imageio-ffmpeg
- github.com/google/jsonschema-go
loguru
- github.com/mudler/xlog
- github.com/mudler/go-processmanager
- containerd
- Docker
tracing
github.com/aws/aws-sdk-go-v2
github.com/aws/aws-sdk-go-v2/config
github.com/ipfs/go-log
- github.com/Microsoft/hcsshim
- go.opentelemetry.io/otel/exporters/prometheus
- Prometheus
tracing-subscriber
fontsource-variable
- CodeMirror
- @lezer/highlight
yaml
- dompurify
marked
- docx-preview
highlight.js
xlsx
En común
vllm-omni
A framework for efficient model inference with omni-modality models
Python7.8 kLeído el 18 de noviembre de 2026, en el commit 07dd3d0¿Con qué está hecho vllm-omni?Solo en vllm-omni
- lmdb
tensorboard-data-server
- pyzmq
werkzeug
- AIOHTTP
- cycler
fonttools
contourpy
- Rich
- auto-round-lib
- facexlib
- fairscale
- filterpy
- fvcore
- gguf
lmcache
- nvidia-cudnn-cu12
- nvidia-cudnn-cu13
onnxruntime-rocm
- open-clip-torch
openai-whisper
- qwen-vl-utils
timm
- torchsde
cache-dit
- triton
- x-transformers
kernels
- torchada
- markdown
markdown-it-py
- mdurl
tifffile
- decord
- Pydantic
msgspec
opentelemetry-exporter-http-transport
opentelemetry-exporter-otlp-common
opentelemetry-exporter-prometheus
opentelemetry-semantic-conventions
- opentelemetry-semantic-conventions-ai
psutil
opentelemetry-exporter-otlp-proto-grpc
Lado a lado
Preguntas frecuentes
¿Cuál es más grande, LocalAI o vllm-omni?
¿Cuál tiene más estrellas en GitHub, LocalAI o vllm-omni?
La prueba: mudler/LocalAI en GitHub
¿Cuál tiene más pruebas, LocalAI o vllm-omni?
¿Cuál se actualizó más recientemente, LocalAI o vllm-omni?
¿Cuál tiene más commits firmados por IA, LocalAI o vllm-omni?
La prueba: los commits que firmó cada herramienta en vllm-project/vllm-omni
Mira tu código por dentro, hoy.
Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.
Gratis y sin cuenta.¿Repo privado? Entra con GitHub

