星颖资源网

 找回密码
 立即注册
查看: 22|回复: 1

GitHub 19K⭐爆火:

[复制链接]

4万

主题

1万

回帖

17万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
172079
发表于 6 天前 | 显示全部楼层 |阅读模式
【AI】

GitHub 19K⭐爆火:Redis创始人亲手写的DeepSeek 4本地引擎, MacBook就能跑744B大模型,部署服务正在变成一门生意

1. 异常值开场

上周刷 GitHub Trending,看到个挺反常的事。Redis 的创始人 antirez, 圈子里公认的活化石级开发者,最近大半年没怎么动 Redis, 倒是天天在捣鼓一个叫 ds4 的东西。

几个让人忍不住多看两眼的数字:

19,000+ GitHub Stars,出来还不到半年

346 次提交,3 天前还有更新

支持 DeepSeek V4 Flash(671B)和 GLM 5.2(744B)在普通电脑上跑

2bit 量化——只压 MoE 部分,共享层留全精度

最关键的是这玩意不是又一个 llama.cpp 的套壳。antirez 从零写的, 目标就一个:让 DeepSeek V4 能在你手边的 MacBook 上跑出能用的速度。

一个做出 Redis 的人,放下自己成名作去给别人的模型写推理引擎—— 这件事本身就够反常了。

2. 谁需要这个

说白了,很多人有同一个烦恼:LLM 的能力我需要,但数据不能出公司。 金融/律所/医院/小工厂,各有各的数据合规红线。

以前只有两条路:买大厂 API(数据得出去),或自己搭推理集群 (十几万起步)。ds4 给了第三条路——一台 Mac Studio 四万左右。

3. 钱从哪来

不是瞎猜,已经有人在挣了:

闲鱼/淘宝:帮人装 Ollama,一次 500-3000

企业级定制:8000-5 万/单

教程:小报童 99-299 元,卖几百上千份

ds4 卡在中间——不需要好显卡,但能跑 DeepSeek V4 级别。 Mac 生态尤其空白。

4. 为什么是现在

工具做好了 + 2bit 量化能用 + 硬件降价 + API 涨价, 四个窗口凑在一起。

5. 普通人怎么上手

装 ds4(2h)→ 换模型跑(1h)→ 写教程(2h)→ 发小红书验证(10min)→ 有反馈就加码。

6. 怎么放大

换工具(Ollama/vllm)、换人群(金融/法律/医疗/教育)、 换交付(教程→咨询→驻场→产品化)。

ds4 还在 beta、2bit 不是无损、硬件有门槛、这个赛道不缺人。

zsxq_396e1e1b8f904d_01.png

zsxq_396e1e1b8f904d_02.png

zsxq_396e1e1b8f904d_03.png
回复

使用道具 举报

0

主题

2463

回帖

4926

积分

大师

Rank: 8Rank: 8

积分
4926
发表于 3 天前 来自手机 | 显示全部楼层
社群怎么进?拉我拉我!!!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

微信

社群

VIP

AI

顶部

QQ|本站内容来源网友投稿或网络转载,如果有侵权的内容,请联系我们删除。|小黑屋|人人为我,我为人人!| 星颖资源网

GMT+8, 2026-7-29 11:43 , Processed in 0.124722 second(s), 29 queries .

快速回复 返回顶部 返回列表