Repos open source que usan apache-tvm-ffi
11 repos públicos que SeeRepo leyó usan apache-tvm-ffi. Se usa más con FastAPI, OpenAI y uvicorn.
Se usa más con
FastAPI7 repos
uvicorn5 repos
- pyzmq5 repos
flashinfer-python4 repos
OpenAI6 repos- torch5 repos
NVIDIA5 repos
- transformers4 repos
Los repos, por estrellas
- 1vllm-project/
vllm A high-throughput and memory-efficient inference and serving engine for LLMs
Python+10297.1 kIA 14.7%
- 2sgl-project/
sglang SGLang is a high-performance serving framework for large language models and multimodal models.
Python+6439 kIA 9.5%
- 6FlashML-org/
FreeToken FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.
Python
+1016.8 k - 7NVIDIA/
TensorRT-LLM TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.
Python+5815 kIA 1.7%
- 8OpenPipe/
ART Agent Reinforcement Trainer: train multi-step agents for real-world tasks using GRPO. Give your agents on-the-job training. Reinforcement learning for Qwen3.6, GPT-OSS, Llama, and more!
Python
+1810.9 kIA 6.6% - 9tile-ai/
tilelang Domain-specific language designed to streamline the development of high-performance GPU/CPU/Accelerators kernels
Python+109 kIA 4.5%
- 10InternLM/
lmdeploy LMDeploy is a toolkit for compressing, deploying, and serving LLMs.
Python
+318.1 kIA 1.2% - 11bojieli/
ai-infra-book 《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验
Python+1778 kIA 16.6%
Preguntas frecuentes
¿Cuál es el repo open source más popular que usa apache-tvm-ffi?
La prueba: vllm-project/vllm en GitHub
¿Con qué otras tecnologías se usa apache-tvm-ffi?
¿En qué lenguajes están escritos los repos que usan apache-tvm-ffi?
¿Cuántos repos que usan apache-tvm-ffi tienen commits firmados por IA?
La prueba: los commits que firmó cada herramienta en bojieli/ai-infra-book
Mira tu código por dentro, hoy.
Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.
Gratis y sin cuenta.¿Repo privado? Entra con GitHub

