开发者把32位CPU编进千问权重:大模型内部直接运行计算机程序

2026-10-29 1 次阅读 RSS订阅
动察 Beating AI 快讯,独立开发者 Divyansh Agrawal 基于阿里 Qwen3.5-4B 做出了 Qwenputer,把一颗 32 位 RISC-V 虚拟 CPU 直接编进模型权重,让大模型无需调用外部计算工具,也能在生成回答时进行精确计算。 作者没有重新训练 Qwen,而是在原有 32 层网络前增加 11 层,用编译器将 CPU 的运算规则直接写成模型参数。新增网络还利用 Gated DeltaNet 结构实现了可精确读写的内存,用来存放程序和数据。 这颗虚拟 CPU 已能运行编译后的 C 程序,并通过了 RISC-V 指令测试,在累计执行约 1800 万条指令的测试中未发现错误。 在 DeepMind 的 40 道大数乘法题中,原版 Qwen 答对 22 道,Qwenputer 答对 39 道;原版 Qwen 接入外部 Python 后则全部答对。CPU 本身可以准确执行指令,但大模型仍可能在调用或输出结果时出错。 这条技术路线已有先例。今年 3 月,Percepta 就用神经网络实现了一台可以运行 C 程序的虚拟计算机。不过,它是专门构建的模型。Qwenputer 则把类似的计算能力接入已经训练好的 Qwen,让语言模型在生成回答时,也能使用内部 CPU 执行计算。 不过,这套方案目前效率很低。大量零值参数将模型文件撑至 18.8GB,约为原版两倍,计算速度也远不如外部工具。

📰 来源:https://www.okx.com/zh-hans/feed/post/91336711562432

💬 引用锚点
通过将虚拟CPU直接编入模型权重,大模型可在生成回答时内部执行精确计算,无需调用外部工具。
内部CPU运算在精确性上显著优于原版大模型,但指令调用和结果输出环节仍可能出现误差。
当前方案模型体积翻倍且计算速度远低于外部工具,效率瓶颈限制其实际应用。

常见问题

Qwenputer 是什么?▼
Qwenputer 是如何实现的?▼
Qwenputer 的性能如何?▼
Qwenputer 存在哪些局限?▼