Repos open source que usan cuda-python

10 repos públicos que SeeRepo leyó usan cuda-python. Se usa más con FastAPI, pyzmq y uvicorn.

Léela en markdown

Se usa más con

  • FastAPI5 repos
  • uvicorn4 repos
  • apache-tvm-ffi4 repos
  • matplotlib4 repos
cuda-python10 repos
  • pyzmq5 repos
  • AIOHTTP4 repos
  • NVIDIA4 repos
  • OpenAI3 repos

Los repos, por estrellas

  1. 1
    vllm-project/vllm

    A high-throughput and memory-efficient inference and serving engine for LLMs

    Python+10297.1 kIA 14.7%
  2. 2
    sgl-project/sglang

    SGLang is a high-performance serving framework for large language models and multimodal models.

    Python+6439 kIA 9.5%
  3. 3
    blakeblackshear/frigate

    NVR with realtime local object detection for IP cameras

    TypeScript+8337.6 kIA 0.3%
  4. 4
    liguodongiot/llm-action

    本项目旨在分享大模型相关技术原理以及实战经验(大模型工程化、大模型应用落地)

    HTML+9925.3 k
  5. 5
    index-tts/index-tts

    An Industrial-Level Controllable and Efficient Zero-Shot Text-To-Speech System

    Python+2125.2 kIA 5.5%
  6. 6
    NVIDIA/TensorRT-LLM

    TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

    Python+5815 kIA 1.7%
  7. 7
    LMCache/LMCache

    LMCache: Supercharge Your LLM with the Fastest KV Cache Layer

    Python+3212.3 kIA 4%
  8. 8
    tile-ai/tilelang

    Domain-specific language designed to streamline the development of high-performance GPU/CPU/Accelerators kernels

    Python+109 kIA 4.5%
  9. 9
    bojieli/ai-infra-book

    《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验

    Python+1778 kIA 16.6%
  10. 10
    Python+357.7 k

Preguntas frecuentes

¿Cuál es el repo open source más popular que usa cuda-python?
vllm-project/vllm, con 97,060 estrellas en GitHub.

La prueba: vllm-project/vllm en GitHub

¿Con qué otras tecnologías se usa cuda-python?
Con FastAPI (5), pyzmq (5), uvicorn (4), AIOHTTP (4) y apache-tvm-ffi (4), de los 10 repos que la usan.
¿En qué lenguajes están escritos los repos que usan cuda-python?
Python (8), HTML (1) y TypeScript (1).
¿Cuántos repos que usan cuda-python tienen commits firmados por IA?
8 de los 10; el que más, bojieli/ai-infra-book, con el 16.6% de sus commits.

La prueba: los commits que firmó cada herramienta en bojieli/ai-infra-book

Mira tu código por dentro, hoy.

Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.

Gratis y sin cuenta.¿Repo privado? Entra con GitHub

O mira por dentro el de SeeRepo →