非官方指南
GPU Unlock 跑分
数据来自上游项目。输出结果逐位一致，只有速度变化。
BF16 稠密矩阵乘法，默认功耗墙
解锁前解锁后TFLOPS
* RTX 4090 是峰值 MMA 速率；默认功耗下，大矩阵乘法的实际提升小得多。
| 显卡 | 解锁前 | 解锁后 | BF16 提升 |
|---|---|---|---|
| RTX 3090 Ti | 88 | 157 | +78% |
| RTX 3090 | 75 | 125 | +67% |
| RTX 3080 | 65 | 113 | +74% |
| RTX 3070 | 40 | 72 | +80% |
| RTX 3060 Ti | 37 | 68 | +84% |
| RTX 3060 | 27 | 51 | +89% |
| RTX 4090 | 165 | 329 | +99% |
| RTX 4080 | 104 | 193 | +86% |
| RTX 4070 Ti | 81 | 150 | +85% |
哪些会变快
会变快
- LLM 预填充（vLLM、PyTorch，FP16/BF16、AWQ/GPTQ）+25–55%
- 首 token 延迟−25–30%
- BF16 下的 LoRA 与全量微调+25–50%
- 图像生成（ComfyUI 中的 SDXL、SD 1.5、DiT）+30–55%
- 视频生成（Wan 2.2，BF16）+15–20%
- FlashAttention / SDPA 内核+50–60%
不变
- llama.cpp / Ollama 量化 GGUF0–15%
- Token 生成（受显存带宽限制）0%
- INT8、FP8 和 INT4 模型0%
- 游戏与 FP32 CUDA0%
Ada 配对测试
| TFLOP/s | 解锁前 | 解锁后 | 来源 |
|---|---|---|---|
| RTX 4090 · FP16→FP32 指令速率 | 160.4 | 320.4 | JustAResearcher/gpu-unlock-ada |
| RTX 4090 · cuBLAS FP16 GEMM | — | +12–34% | JustAResearcher/gpu-unlock-ada |
| RTX 4070 Ti SUPER · FP16→FP32（240 W） | 95.0 | 189.9 | JustAResearcher/gpu-unlock-ada |
| RTX 4070 Ti SUPER · TF32→FP32 | 47.49 | 94.51 | JustAResearcher/gpu-unlock-ada |
| RTX 2080 Ti · cuBLAS FP16 8192³（250 W） | 52.8 | 77.9 | nlzy/turing-unlock |
怎么看这些数据
01
指令速率说明限速已解除；应用层速度取决于功耗余量。
02
受显存带宽限制的任务（比如 token 生成）不会变化。
03
大多数数据来自一张卡、一次开机。欢迎在上游 issue 中提交你的结果。