OpenAI

免费套壳站被刷 300 刀:OpenAI API 成本失控的原因与止血方案

编辑部阅读约 6 分钟

一个免费开放的 ChatGPT 套壳站,因为共用站点自己的 API Key、缺少硬性预算上限和限流,上线一天就被刷出 300 美元账单。本文复盘成本失控的常见原因,给出吊销 Key、设置预算硬限、改用用户自带 Key、限流与告警的具体清单,并说明哪些“省钱捷径”存在封号与合规风险。

把一个基于 OpenAI API 的 ChatGPT 套壳站免费开放给技术社区,用的是站点自己的一把 Key——这件事的结局几乎可以预测:分享出去不到一天,用量暴涨,账单冲到 300 美元,站点开始大面积返回 429。作者随后紧急上线了「用户填自己的 Key」功能,并公开征集可用额度来维持轮询。

这个故事真正的信息量不在金额,而在于它把一类问题暴露得很完整:共享 Key + 无配额 + 事后才看账单 = 成本默认由站点方兜底。做内部工具、Demo 站、群内分享的小服务时,这套组合几乎人人都会踩一遍。下面按「为什么会失控」「怎么止血」「怎么改造」「哪些办法不能碰」四块展开。

成本为什么会跑得比预期快

共享一把 Key,等于把钱包挂在公网

只要前端或后端只有一把站点 Key,所有访问者的消耗都记在你一个人头上,而你对他人的使用强度、使用时长、是否脚本化调用毫无控制力。更糟的是,如果这把 Key 曾被写进前端 bundle、环境变量被日志打印、或仓库误提交,它实际上已经处于半公开状态。

限额不等于保险丝

很多人以为在账单页设了月度上限就安全了。实际体验是:用量统计存在延迟,短时间的高并发足以在统计刷新之前冲过阈值;不同层级的限额(账户级、项目级、Key 级)作用范围不同,只设一层很容易被绕过或被延迟掩盖。限额是减速带,不是刹车片。

传播与爬虫都被低估

一个「丝滑免费」的入口,转发链路通常是:群里转一次、社交平台推一次、聚合站收录一次,然后就是各种自动化脚本。有人翻访问日志会发现单个 IP 几万次请求——这类流量不是用户,是把你当免费上游。

长对话把 token 放大数倍

带上下文的多轮对话,每一轮都要重传历史。表面上是「一个人聊了 20 句」,计费上可能是几十倍的输入 token。默认无限上下文 + 无单次 token 上限,成本曲线是指数的。

「免费额度账号池」天然不可持续

靠一批新注册账号攒出来的额度做轮询,一旦某个 Key 失效就要人工补,且额度本身有时效限制。人越多,维护成本和失效速度越快,最后必然演变成「养不起」。

止血清单:先把出血点堵上

按顺序做,不要跳步:

  1. 吊销并轮换所有可能暴露过的 Key。在控制台删除旧 Key,重新签发,并确认新 Key 只存在于服务端环境变量或密钥管理服务中。
  2. 收紧消费上限。在账单/限额页面设置账户级与项目级的硬性上限,并给不同用途拆不同项目,避免一个项目拖垮整体预算。
  3. 优先用预充值余额而非后付费。余额耗尽即停,比事后追账单可控得多。
  4. 加一层自己的 API 网关。所有请求先到你的服务,由服务做鉴权、计数、限速、日志,再转发给上游。Key 永远不出服务端。
  5. 临时降级或关闭公开入口。改成登录可见、邀请码、或仅限白名单,先稳住再谈体验。

反例很典型:

// 绝对不要这样做:打包进前端的 Key 等于公开
const client = new OpenAI({ apiKey: "sk-...", dangerouslyAllowBrowser: true });

正确姿势是浏览器只调用你自己的 /api/chat,Key 在服务端读取:

# .env 只放在服务端,且加入 .gitignore
OPENAI_API_KEY=sk-...
DAILY_BUDGET_USD=5

架构改造:把「你付钱」变成「用户付钱」

「用户自带 Key」(BYOK)是这类站点最现实的出路,但要选对存储方式:

模式 成本归属 体验 主要风险
站点统一 Key 站点方 最好 成本完全不可控
BYOK,服务端加密存储 用户 好,换设备免重填 需要可信的加密与删除机制,泄露要担责
BYOK,仅浏览器本地保存 用户 一般,换设备要重填 泄露面最小,但无法跨端
仅透传,不落盘 用户 好 需要明确告知用户,且日志必须脱敏

配套建议:

  • 未填 Key 的访客给固定次数的免费试聊,用完后引导填写自己的 Key,这是把站点成本压到接近零的关键一步。
  • 日志里对 Key 做掩码,绝不打印完整串;错误上报里同样要过滤。
  • 在页面上写清楚「Key 是否存储、存在哪、怎么删」,这直接决定用户敢不敢填。
  • 如果希望彻底打消顾虑,就提供自部署方案或开源前端,让用户在自己的环境里跑。

限流与告警:把异常变成通知,而不是账单

最基础的接入层限流:

# 按 IP 限速,配合应用层配额一起用
limit_req_zone $binary_remote_addr zone=chat:10m rate=10r/m;

location /api/chat {
    limit_req zone=chat burst=5 nodelay;
    proxy_pass http://127.0.0.1:3000;
}

再叠加应用层策略,形成多层防线:

  • 会话级:单 IP / 单账号每日请求数与 token 数双配额。
  • 请求级:限制 max_tokens、限制历史轮数、超长输入直接拒绝。
  • 模型级:非必要场景走便宜模型,把强模型留给付费或自带 Key 用户。
  • 成本级:定时拉取用量,超过日预算的 50%、80% 时推送到邮箱或 IM,而不是等月底。
  • 日志级:定期统计单 IP 请求量 Top N,出现异常量级就临时封禁并留存证据。

一个容易忽略的细节:请求失败返回 429 并不代表没产生费用,已经送进模型的请求照常计费。所以「反正会报错」不能当作省钱手段。

部署与网络:体验和稳定性的取舍

「丝滑」很大程度取决于流式响应(SSE)是否稳定。出口线路抖动、代理频繁切换、本机休眠,都会表现为断流、重复请求甚至半截回复,既影响体验也可能造成重复计费。如果需要长时间在线跑批处理、定时任务或常驻服务,把服务放在一台网络出口稳定的机器上会省掉很多排查时间;例如整台托管在新加坡机房的独享远程 Mac、按月租用、远程连接使用,适合需要长期在线运行 AI 工具且对出口稳定性有要求的场景,但这属于基础设施选项之一,先把限流和预算做完更关键。

哪些「省钱办法」不能碰

讨论里出现频率最高的几类做法,风险远大于收益:

  • 靠批量注册免费账号堆额度、购买所谓「带免费额度的号」:违反平台服务条款,账号随时被封,额度可能过期清零,来源不明的账号还伴随支付与凭据安全问题。合规替代是 BYOK、预充值、或按量向用户收费。
  • 欠费不付、换号重开:账户会被限制,绑定的支付方式可能被追缴,长期看会连带影响你其他的正常使用。
  • 买卖或共享账号、绕过地区限制注册:同样属于条款禁区,且共享账号意味着你的对话与 Key 暴露给陌生人。

把这些当作「不可用选项」,剩下的方案其实只有三个:让用户自带 Key、让用户付费、或者把免费范围严格限制在白名单和小额度试用内。

小结

给自己留一份可执行的上线前检查清单:

  • 服务端持有 Key,前端零 Key,仓库零 Key
  • 账户级 + 项目级消费硬限已设置,并已用预充值余额兜底
  • 已接入统一网关,具备会话级请求数与 token 双配额
  • 单次请求有 max_tokens 与历史轮数上限
  • 用量告警已打通到 IM / 邮箱,阈值不是月底
  • 未登录用户只有有限试用,之后引导 BYOK
  • 日志对 Key 与敏感内容脱敏
  • 已准备「紧急关停开关」,一条命令可切断上游调用

免费是最贵的定价方式,因为它把不确定性全部留给了自己。把「限额、限流、告警、成本归属」四件事提前设计好,再谈丝滑也不迟。涉及平台计费规则、免费额度时效与限额机制的具体细节,请以官方控制台与文档的最新说明为准。

成本控制BYOKOpenAI API接口限流账单告警