Repos open source que usan apache-tvm-ffi

11 repos públicos que SeeRepo leyó usan apache-tvm-ffi. Se usa más con FastAPI, OpenAI y uvicorn.

Léela en markdown

Se usa más con

  • FastAPI7 repos
  • uvicorn5 repos
  • pyzmq5 repos
  • flashinfer-python4 repos
apache-tvm-ffi11 repos
  • OpenAI6 repos
  • torch5 repos
  • NVIDIA5 repos
  • transformers4 repos

Los repos, por estrellas

  1. 1
    vllm-project/vllm

    A high-throughput and memory-efficient inference and serving engine for LLMs

    Python+10297.1 kIA 14.7%
  2. 2
    sgl-project/sglang

    SGLang is a high-performance serving framework for large language models and multimodal models.

    Python+6439 kIA 9.5%
  3. 3
    Dao-AILab/flash-attention

    Fast and memory-efficient exact attention

    Python+425.3 kIA 1.7%
  4. 4
    mlc-ai/mlc-llm

    Universal LLM Deployment Engine with ML Compilation

    Python+1723.3 kIA 0.2%
  5. 5
    state-spaces/mamba

    Mamba SSM architecture

    Python+219 kIA 0.5%
  6. 6
    FlashML-org/FreeToken

    FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.

    Python+1016.8 k
  7. 7
    NVIDIA/TensorRT-LLM

    TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

    Python+5815 kIA 1.7%
  8. 8
    OpenPipe/ART

    Agent Reinforcement Trainer: train multi-step agents for real-world tasks using GRPO. Give your agents on-the-job training. Reinforcement learning for Qwen3.6, GPT-OSS, Llama, and more!

    Python+1810.9 kIA 6.6%
  9. 9
    tile-ai/tilelang

    Domain-specific language designed to streamline the development of high-performance GPU/CPU/Accelerators kernels

    Python+109 kIA 4.5%
  10. 10
    InternLM/lmdeploy

    LMDeploy is a toolkit for compressing, deploying, and serving LLMs.

    Python+318.1 kIA 1.2%
  11. 11
    bojieli/ai-infra-book

    《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验

    Python+1778 kIA 16.6%

Preguntas frecuentes

¿Cuál es el repo open source más popular que usa apache-tvm-ffi?
vllm-project/vllm, con 97,060 estrellas en GitHub.

La prueba: vllm-project/vllm en GitHub

¿Con qué otras tecnologías se usa apache-tvm-ffi?
Con FastAPI (7), OpenAI (6), uvicorn (5), torch (5) y pyzmq (5), de los 11 repos que la usan.
¿En qué lenguajes están escritos los repos que usan apache-tvm-ffi?
Python (11).
¿Cuántos repos que usan apache-tvm-ffi tienen commits firmados por IA?
10 de los 11; el que más, bojieli/ai-infra-book, con el 16.6% de sus commits.

La prueba: los commits que firmó cada herramienta en bojieli/ai-infra-book

Mira tu código por dentro, hoy.

Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.

Gratis y sin cuenta.¿Repo privado? Entra con GitHub

O mira por dentro el de SeeRepo →