Tabby

Tabby：把 AI 编程助手搬回自己服务器上的开源方案

如果你用过 GitHub Copilot，大概能体会到那种"代码还没写完，补全已经跳出来"的爽感。但很多人也会卡在同一个地方：代码得传到别人的服务器上。对公司项目来说，这往往是条红线。Tabby 就是冲着这个痛点来的——它是一款免费开源的自托管 AI 编程助手，你可以把它部署在自己的机器或公司内网里，代码不出门，补全照样有。

官网在 tabby.tabbyml.com，第一次打开会觉得它不像那些花哨的商业产品，页面朴素得很，但文档写得很实在，从 Docker 一条命令到 Kubernetes 集群部署，路径都给你铺好了。

它到底能帮你做什么

Tabby 的核心能力其实和主流 AI 编程助手差不多，但每一项都强调"自己掌控"。

代码补全，但跑在你自己的机器上

装好之后，它会在你的 IDE 里以插件形式出现，支持 VS Code、JetBrains 全家桶、Vim/Neovim 这些常见编辑器。你敲代码的时候，它会根据上下文给出整行甚至整段的补全建议。区别在于，这些推理全部发生在你自己的服务器上，模型权重也是你自己下载的。对于金融、医疗、涉及商业机密的团队，这一点基本就是决定性的。

内置聊天，能问代码也能问报错

除了补全，Tabby 还带了一个对话式的问答界面。你可以选中一段代码问"这里为什么会有并发问题"，也可以直接把报错信息贴进去。它不像某些产品把聊天和补全做成两个割裂的入口，而是在编辑器里就能顺手调用，切换成本很低。

模型可以换，硬件可以挑

Tabby 并不绑定某一个模型。它提供了一系列预训练好的代码模型，从适合笔记本跑的小参数版本，到需要几张 A100 才能带动的大模型，你可以根据自己手头的 GPU 情况来选。CPU 也能跑，只是速度会慢一些，适合个人开发者尝鲜。

团队协作和权限管理

如果是团队用，Tabby 支持多用户、API Token 管理、使用量统计这些功能。管理员可以看到谁在用、用了多少，也能给不同的人分配不同的权限。这些在企业环境里是刚需，而很多开源工具恰恰缺这一块。

实际用起来是什么感觉

我自己的场景是在一台带 3090 的机器上跑了 Tabby 的服务端，然后本地 VS Code 装插件连上去。第一次配置大概花了二十分钟，主要是等模型下载。之后写 Python 和 TypeScript 的时候，补全的命中率大概能到七八成，尤其是写一些重复性的样板代码、日志语句、单元测试的断言部分，基本是敲几个字母它就接上了。

延迟方面，局域网内几乎是即时的，比走公网调用的商业产品还快一点，毕竟没有网络往返。聊天功能我主要用来解释别人写的祖传代码，选中一段问"这段在干什么"，回答质量中规中矩，不会惊艳，但够用。

唯一需要注意的坑是：模型越大效果越好，但显存要求也越高。如果只有一张消费级显卡，建议从官方推荐的小模型开始，别一上来就冲最大的那个。

哪些人适合用它

• 对代码隐私敏感的团队：这是 Tabby 最核心的目标用户。代码不能出内网，又想要 AI 补全，基本就剩自托管这一条路。
• 有闲置 GPU 的个人开发者：手头有卡，又不想每月付订阅费，自建一个长期用下来成本更低。
• 需要定制模型的公司：想用自己的代码库微调一个专属模型，Tabby 的开源协议允许你这么做。
• 喜欢折腾的技术爱好者：从部署到调优，整个过程本身就是个不错的折腾项目。

相对来说，如果你完全不想碰服务器、不想管模型、只想开箱即用，那 Tabby 可能不是最省心的选择，商业 SaaS 产品会更适合你。

关于收费这件事

Tabby 本身是开源的，你可以自己部署、自己维护，不花一分钱。官方也提供了一个托管版本和面向企业的付费方案，包含更省心的运维、团队管理等服务。所以它属于"部分免费"——想省钱就自己搭，想省事就付点费用，选择权在你手里。

写在最后

Tabby 解决的是一个很具体的问题：在代码不能外传的前提下，还能不能享受 AI 编程助手的便利。它的答案是可以，而且做得相当完整。它不是那种一装就惊艳全场的产品，但胜在可控、可改、可长期持有。如果你正好卡在"想用 AI 写代码，但代码不能上云"这个矛盾里，花一个下午试试 Tabby，大概率不会失望。