大模型本地部署入门:从 Ollama 到 vLLM
不想把数据交给云端?本地跑大模型已经足够平民化。这篇梳理从个人玩具到服务化部署的演进路线。
不想把数据交给云端?本地跑大模型已经足够平民化。这篇梳理从个人玩具到服务化部署的演进路线。
自动补全、命令高亮、目录跳转,几个插件就能把终端提效一倍。
没走成的路未必更好,只是我们总爱美化未选的。
补全、别名、脚本,把每天敲的命令省下一大半。
把关键指标挂在大屏,一眼就知道系统健不健康。
一台笔记本、一块树莓派、几块硬盘,就撑起了整个自托管。
标注、滚动截、GIF 录制,写教程和报 bug 都靠它。
断了网的那几天,反而读完了一直没碰的书。
对照多个引擎,专业术语才翻得准。
从原型到上架,把轻量业务装进用户的微信里。