antirez发布DS4：专为DeepSeek V4 Flash打造的本地推理引擎，MacBook也能跑

Redis之父antirez（Salvatore Sanfilippo）近日发布了DS4（DwarfStar 4），这是一个专为DeepSeek V4 Flash模型设计的本地推理引擎。与其他通用推理框架不同，DS4完全自包含，针对DeepSeek V4 Flash进行了深度优化，支持Metal、CUDA和ROCm三种后端。

为什么DeepSeek V4 Flash值得单独做引擎？

antirez在项目文档中详细解释了为什么DeepSeek V4 Flash值得一个专门的推理引擎：

• 更少的活跃参数：相比其他密集模型，V4 Flash的活跃参数更少，推理速度更快
• 智能思考模式：在thinking模式下，思考部分的长度与问题复杂度成正比，比其他模型短1/5左右
• 100万token上下文窗口：支持超长上下文
• 知识更丰富：284B参数在知识边界处表现明显优于27B或35B模型
• 更好的语言质量：英语和意大利语输出质量接近前沿模型
• KV缓存极度压缩：支持本地磁盘KV缓存持久化，可在普通电脑上进行长上下文推理
• 2-bit量化可用：特殊量化方式下，128GB RAM的MacBook即可运行，甚至有用户报告96GB也能跑

技术特点

DS4不是通用的GGUF运行器，也不是其他运行时的封装。它是完全自包含的，包含：

• DS4专用的模型加载和prompt渲染
• 工具调用支持
• KV状态管理（内存和磁盘）
• 服务器API
• 集成的coding agent
• GGUF和imatrix生成工具
• 质量和速度测试工具

支持的后端

• Metal（主要目标）：从96GB RAM的MacBook开始支持
• NVIDIA CUDA：特别针对DGX Spark优化
• AMD ROCm：在rocm分支中维护，由社区负责rebase

项目背景

antirez是Redis的创始人，也是著名的开源开发者。他在项目文档中特别感谢了llama.cpp和GGML项目，表示DS4的实现离不开这些基础工作。

这个项目体现了开源社区对本地AI推理的持续投入。在云端API成本居高不下的今天，能够在本地MacBook上运行一个284B参数的模型，对开发者来说意义重大。

对站长的意义

如果你是站长或开发者，DS4提供了一个低成本的AI推理方案：

• 零API成本：完全本地运行，无需付费API
• 数据隐私：数据不出本地，适合处理敏感信息
• 离线可用：不依赖网络连接
• coding agent集成：可以直接用于代码辅助

本文参考来源：DS4 GitHub仓库