面向 CUDA 开发者的示例，用于演示 CUDA Toolkit 的各项功能
# CUDA Samples Samples for CUDA Developers which demonstrates features in CUDA Toolkit.
一款用于大语言模型的高吞吐、低内存消耗的推理与服务引擎
vllm.html) - Continuous batching of incoming requests, chunked prefill, prefix caching - Fast and flexible model execution with piecewise and full CUDA
CUDA Python：性能与效率的完美结合
# cuda-python CUDA Python is the home for accessing NVIDIA’s CUDA platform from Python.
# CUDA Course GitHub Repo for CUDA Course on FreeCodeCamp > Note: This course is designed for Ubuntu Linux.
CV-CUDA™ 是一个开源的、基于 GPU 加速的库，用于云规模的图像处理与计算机视觉任务。
with CUDA 12. - Only one CUDA version (CUDA 12.x or CUDA 13.x) of CV-CUDA packages (Debian packages, tarballs, Python Wheels) can be installed
一个由各类库和工具构成的生态系统，用于完全使用 Rust 语言编写并运行高效的 GPU 代码。
Expect bugs, safety issues, and things that > don't work. ## Documentation Please see [The Rust CUDA Guide](https://rust-gpu.github.io/rust-cuda
非 NVIDIA GPU 上的 CUDA
ZLUDA is a drop-in replacement for CUDA on non-NVIDIA GPUs.
解谜题。学习 CUDA。
If you do want to read the manual, it is here: [NUMBA CUDA Guide](https://numba.readthedocs.io/en/stable/cuda/index.html) I recommend doing
从零实现的快速 CUDA 矩阵乘法
# Fast CUDA SGEMM from Scratch Step-by-step optimization of matrix multiplication, implemented in CUDA.
针对异构量子-经典工作流，为 CUDA Quantum 编程模型提供 C++ 和 Python 支持
repo_name=cuda-quantum ## Contributing There are many ways in which you can get involved with CUDA-Q.
Burn 是一款新一代的张量库与深度学习框架，它在灵活性、效率及可移植性方面均毫不妥协。
Write kernels once in Rust, run on CUDA, ROCm, Metal, Vulkan and WebGPU.
TensorRT LLM 为用户提供了易于使用的 Python API，用于定义大型语言模型（LLMs），同时还具备先进的优化功能，可在 NVIDIA GPU 上高效地执行推理任务。此外，TensorRT LLM 还包含用于创建 Python 和 C++ 运行时的组件，这些组件能够以高性能的方式协调推理任务的执行。
[cuda](https://img.shields.io/badge/cuda-13.2.1-green)](https://developer.nvidia.com/cuda-downloads) [!
/CUDA-F-1-0-并行计算与计算机架构/) - [1.1 异构计算与CUDA](http://www.face2ai.com/CUDA-F-1-1-异构计算-CUDA/) - [2.0 CUDA编程模型概述(一)](http://www.face2ai.com/CUDA-F-
面向初学者的现代 CUDA 学习笔记（结合 PyTorch），包含 200 多个 CUDA 核函数、张量核心、HGEMM 以及 FA-2 MMA 技术。
/p/696197013)|@紫气东来|⭐️⭐️⭐️| | [[CUDA优化][实践]📖CUDA（四）：使用 CUDA 实现 Transformer 结构](https://zhuanlan.zhihu.com/p/694416583)|@紫气东来|⭐️⭐️⭐️| | [[CUDA
我那本 CUDA 编程书籍中的示例代码
在京东或者淘宝搜索“CUDA 编程 樊哲勇”可找到本书。
这款开源的 AI 语音工作室。可用于克隆、口述及创建内容。
) | Auto-downloads CUDA binary from within the app | | Linux (NVIDIA) | PyTorch (CUDA) | Use a local/remote Python backend with CUDA
Julia 中的 CUDA 编程。
to work with CUDA 10.1 (removed in v3.9) * CUDA.jl v1.3 is the last version to work with CUDA 9-10.0 (removed in v2.0) ## Selecting a CUDA