量化

• AI Benchmarks
• Local AI Deployment

Deploy Bonsai 2 27B on an RTX 3060 12GB

玩客 2026年9月20日 0

Deploy Bonsai 2 27B PQ2_0 on an RTX 3060...

Read More

• AI Benchmarks
• AI Programming & Agents

7.2GB 27B Agent Benchmark: Bonsai 2 PQ2_0

玩客 2026年9月20日 0

Can a 7.2GB 27B model handle real code-agent work?...

Read More

• AI Benchmarks
• Local AI Deployment

Running Qwen 3.8 27B on RTX 3060 12GB: 64K Context at 22 Tokens/s (Ubuntu 24.04 + revv / llama.cpp)

玩客 2026年9月14日 0

Running Qwen 3.8 27B on RTX 3060 12GB: 64K...

Read More

• AI Benchmarks
• Local AI Deployment

Deploy Qwen 3.8 27B on AMD Radeon RX 7900 XTX: Squeezing 53 TPS with 262K Context & KV Cache Q4

玩客 2026年9月4日 1

Deploy Qwen 3.8 27B on AMD Radeon RX 7900...

Read More