Qwenputer：开发者把一颗 RISC-V CPU 编进了 Qwen3.5 的权重

开发者 Divyansh Agrawal 于 10 月 22 日发布实验性模型 Qwenputer。它以阿里 Qwen3.5-4B 为底座，把一颗 32 位 RISC-V CPU“编译”进模型权重，让模型不依赖 Python 等外部工具，也能在前向计算中执行程序和精确算术。

图：Qwenputer 基准测试结果。来源：divagr.com

怎么做到的

Qwen3.5 的注意力层里，四层有三层用门控 DeltaNet（GDN），一种线性 RNN，每个头维护一个状态矩阵。作者把遗忘门和写入强度都设为 1，再配合 one-hot 键编码，每次写入只覆盖状态矩阵的一行，每次查询都能精确读回，GDN 状态因此可以当作 RAM 使用。

CPU 不靠训练，由编译器直接设定权重，把“读寄存器”“加法”“为零则跳转”等步骤翻译成注意力头、前馈单元和 DeltaNet 头。它是 RV32IM 核，外加 Zba 扩展和一个大数运算单元，占用 Qwen 原有 32 层之前新增的 11 层。每条指令对应几个生成的词元，模型生成这些词元时，CPU 就在运行。Qwen 原有权重保持不变，模型借用工具调用的格式向 CPU 发指令，由名为 RvChat 的小型驱动把固件载入 GDN 状态。

测试结果

• 大整数乘法：原版 Qwen3.5-4B 为 55%，Qwenputer 为 97.5%；作者给出的“配 Python 工具”对照为 100%。
• 大整数除法：原版 72.5%，Qwenputer 97.5%，配 Python 工具为 95%。
• 涉及多次乘除的测试：Qwenputer 为 100%。
• 长整数运算基准 NUPA：Qwenputer 100%，标准版 48.6%。
• CPU 通过官方 riscv-tests，程序结果与 qemu 一致，连续运行约 1800 万条指令未出错。

项目还加入了实验性的“模型内文件系统”，可在 GDN 状态中保存最多 512 个文件、约 5.3 万个词元。作者称，用它调取先前对话信息的回答准确率为 90%，直接把旧对话塞进输入的对照方式为 30%。

代价与限制

模型体积增至约 18.8GB，接近原版两倍。每条 CPU 指令要生成多个词元，原本几毫秒的计算可能耗时数秒。运行需要专用驱动，不能像普通模型那样直接加载。单张 24GB 显存的 GPU 即可运行，项目已在 Hugging Face、ModelScope 和 GitHub 开源。