Nicksxs's Blog

6GB显存能跑35B MoE吗：FreeToken极限配置、性能压榨与实操教程

发表于 2026-09-05 分类于 LLM 阅读次数：

6GB显存可以尝试运行Qwen3.6-35B-A3B-NVFP4，但代价是更小的专家缓存和KV容量，以及对32GB以上内存、CPU与PCIe带宽的更高依赖。本文给出已验证配置、调优顺序、压测脚本和明确限制。

发表于 2026-08-30 分类于 Java ，源码阅读次数：

之前写过几篇 Java Agent 和 Javassist，也单独介绍过 Arthas 的 vmtool。这些内容放在一起看，会发现它们其实一直围绕着同一个问题：

发表于 2026-08-23 分类于 LLM 阅读次数：

前几天看到一个挺夸张的结果：FreeToken 在一台只有 8GB 显存的 RTX 4060 Laptop 上运行 Qwen3.6-35B-A3B，解码速度达到了 39.3 tok/s。

发表于 2026-08-16 分类于 LLM 阅读次数：

最近deepseek发布了harness，试用了一下结合deepseek-4-flash，用它尝试写一个php的现代版phpmyadmin，因为也是一个比较重要且有一点复杂度的应用试了下除了数据展示有点问题，修了一轮就完成了，整体表现还是不错的然后看了下它主打的是万物都是插…

发表于 2026-08-09 分类于 LLM 阅读次数：

本文拆解 Pi Agent 的核心工具系统，说明 Read、Write、Edit、Bash 的输入结构、文件读写流程、输出截断、变更队列与命令执行机制。