Repos open source que usan flash-attn

12 repos públicos que SeeRepo leyó usan flash-attn. Se usa más con torch, transformers y einops.

Léela en markdown

Se usa más con

  • torch6 repos
  • einops5 repos
  • accelerate4 repos
  • Rich3 repos
flash-attn12 repos
  • transformers5 repos
  • matplotlib4 repos
  • peft4 repos
  • torchvision3 repos

Los repos, por estrellas

  1. 1
    RVC-Boss/GPT-SoVITS

    1 min voice data can also be used to train a good TTS model! (few shot voice cloning)

    Python+3164.9 kIA 0.2%
  2. 2
    mudler/LocalAI

    LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.

    Go+14550.3 kIA 6%
  3. 3
    hpcaitech/ColossalAI

    Making large AI models cheaper, faster and more accessible

    Python+4641.4 kIA 0.3%
  4. 4
    OpenBMB/MiniCPM-V

    See, hear, and interact on your local devices.

    Python+5527.2 kIA 1.1%
  5. 5
    Wan-Video/Wan2.2

    Wan: Open and Advanced Large-Scale Video Generative Models

    Python+2318.4 k
  6. 6
    NVIDIA/TensorRT-LLM

    TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

    Python+5815 kIA 1.7%
  7. 7
    ace-step/ACE-Step-1.5

    The most powerful local music generation model that outperforms almost all commercial alternatives, supporting Mac, AMD, Intel, and CUDA devices.

    Python+2314.5 kIA 35.8%
  8. 8
    FlagOpen/FlagEmbedding

    Retrieval and Retrieval-augmented LLMs

    Python+2012.3 k
  9. 9
    OpenRLHF/OpenRLHF

    An Easy-to-use, Scalable and High-performance Agentic RL Framework based on Ray (PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)

    Python+1510.2 kIA 1.8%
  10. 11
    X-PLUG/MobileAgent

    Mobile-Agent: The Powerful GUI Agent Family

    HTML+729.4 k
  11. 12
    tile-ai/tilelang

    Domain-specific language designed to streamline the development of high-performance GPU/CPU/Accelerators kernels

    Python+109 kIA 4.5%

Preguntas frecuentes

¿Cuál es el repo open source más popular que usa flash-attn?
RVC-Boss/GPT-SoVITS, con 64,891 estrellas en GitHub.

La prueba: RVC-Boss/GPT-SoVITS en GitHub

¿Con qué otras tecnologías se usa flash-attn?
Con torch (6), transformers (5), einops (5), matplotlib (4) y accelerate (4), de los 12 repos que la usan.
¿En qué lenguajes están escritos los repos que usan flash-attn?
Python (10), Go (1) y HTML (1).
¿Cuántos repos que usan flash-attn tienen commits firmados por IA?
8 de los 12; el que más, ace-step/ACE-Step-1.5, con el 35.8% de sus commits.

La prueba: los commits que firmó cada herramienta en ace-step/ACE-Step-1.5

Mira tu código por dentro, hoy.

Pega tu repo y lo ves dibujado, parte por parte: uno mediano, en menos de un minuto.

Gratis y sin cuenta.

O mira por dentro el de SeeRepo →