免费 API key 被压到每分钟个位数调用,批量脚本和文档处理类工具几乎跑不动。本文梳理这类频率限制的常见原因,区分限流、超时与网络慢三种现象,并给出客户端限流、指数退避重试、请求合并、缓存、分层用模型等可落地方案,同时说明免费镜像站与代绑卡等偏方的风险。
用免费额度做开发测试,最难受的往往不是总量少,而是频率被卡死:批量脚本刚跑起来就撞上「每分钟 3 次」这类上限,日志里全是限流错误,连验证一段业务逻辑都要分好几次跑完。有开发者反馈,免费 key 的每分钟调用数被压到个位数,文档处理、批量摘要这类小工具直接跑不动;也有人觉得日常一问一答完全够用,几乎感觉不到变化。
分歧的关键在于用途不同:交互式对话是「人等人」,一分钟三次绰绰有余;而脚本、爬取整理、Agent 循环是「机器等机器」,同样的限制就是灾难。免费额度本质是体验额度而非生产额度,理解这一点之后,问题就从「有没有办法突破」变成「怎么在自己的代码里体面地适配」。
限制为什么会被收得这么紧
从讨论中能归纳出几条常见原因,它们通常叠加出现:
- 免费额度被批量滥用。有人用大量低质量账号批量申请免费 key,再包装成所谓的「免费中转站」对外提供甚至收费,把公共额度当成生意。平台收紧频率是最直接、成本最低的止损手段。
- 免费层定位就是试用。它用来让开发者跑通接入流程,不承诺并发和吞吐,因此限制通常按账号(而非按 IP)维度计算,换网络、换设备都绕不开。
- 风险与成本控制。免费流量没有付费关系约束,滥用带来的算力成本只能由平台承担,限流是常规做法。
需要提醒的是,具体的每分钟次数、每日额度、是否区分模型,都会随平台策略调整。讨论中出现的数字只能当作「某段时间内某个账号的观察值」,实际以官方速率限制文档和控制台里看到的错误信息为准。
先分清是哪一种「慢」
很多人把三种完全不同的现象混为一谈,导致排查方向跑偏:
| 现象 | 典型表现 | 大致原因 |
|---|---|---|
| 限流 | 请求很快返回错误,提示请求过多或需要等待 | 触发了频率或配额限制 |
| 排队 | 请求能成功,但耗时明显变长 | 服务端负载高,或免费层被降优先级 |
| 网络慢 | DNS、TLS 握手、首字节耗时长,偶发超时 | 本地链路、代理、跨境网络抖动 |
区分方法很朴素:在客户端记录每个请求的「连接耗时、首字节耗时、总耗时」和返回码。如果错误在几百毫秒内就回来了,那基本是限流,加重试和排队有用;如果连接阶段就慢,那是网络问题,改代码没用。讨论里提到付费额度较高的账号同样感觉变慢,这类情况更可能是服务端负载或链路问题,和每分钟调用次数不是一回事。
可落地的应对方案
1. 在客户端做主动限流
不要等平台返回限流错误再退避,自己在发出请求前就把节奏压住。令牌桶或滑动窗口都可以,几十行代码即可:
import time
class RateLimiter:
def __init__(self, max_calls: int, period: float):
self.max_calls = max_calls
self.period = period
self.calls = []
def acquire(self):
while True:
now = time.monotonic()
self.calls = [t for t in self.calls if now - t < self.period]
if len(self.calls) < self.max_calls:
self.calls.append(now)
return
time.sleep(max(self.period - (now - self.calls[0]), 0.05))
limiter = RateLimiter(max_calls=3, period=60)
把上限设成比官方额度略低(比如留 10%~20% 余量),可以显著减少撞墙次数,尤其是在多个进程共用同一个 key 的情况下。
2. 指数退避 + 随机抖动
限流错误必须重试,但重试要有礼貌。固定间隔重试会在同一时刻再次撞墙:
import random, time
def call_with_retry(fn, max_retries=5):
for i in range(max_retries):
limiter.acquire()
try:
return fn()
except RateLimitError: # 换成所用 SDK 的限流异常类型
if i == max_retries - 1:
raise
time.sleep(min(2 ** i + random.random(), 30))
如果服务端返回了建议等待时间(例如响应头里的重试提示),优先按它来,比盲目退避更准。同时给整个任务设置总超时和失败兜底,避免无限挂起。
3. 合并请求、减少调用次数
限流是按请求数算的,不是按字数算的。能合并的批量任务就合并:一次请求里放入多条待处理文本,让模型按编号输出;长文档先切片再合并摘要;能本地规则判断的先在本地过滤,只把真正需要模型的片段发出去。这一步往往比任何重试技巧都有效。
4. 加一层结果缓存
开发调试阶段大量请求是重复的:同一段 prompt 反复跑、同一批测试用例反复执行。用 SQLite 或本地文件按「prompt 哈希 + 模型名」缓存结果,调试期的调用量能降一个数量级,也顺带让测试结果可复现。
5. 按任务分层选模型
不是所有环节都需要最强模型。分类、抽取、格式校验用便宜快速的小模型,只在关键环节用大模型;对稳定性要求高的链路准备降级路径。这样既省额度,也降低撞限流的概率。
6. 需要长时间在线的场景
如果任务本身就是批量跑几小时、或者要一直轮询等待结果,那么执行端不稳定同样会让「限流 + 重试」的节奏全乱:本地机器休眠、断网、代理掉线,都会让已经排好的队列中断。把执行端放在一台长期在线的机器上是常见做法。本站提供的新加坡独享远程 Mac 属于这一类:整台 Mac mini 放在机房、按月远程使用,可以长期挂着 Claude Code 之类的工具跑任务,网络环境相对稳定。它改变的是任务运行的稳定性,并不能提高账号本身的调用额度,限流规则仍然照旧生效。
那些「偏方」值不值得试
讨论里出现了两种绕路思路,需要冷静看待:
- 收集大量免费站点或代理轮流用。这类站点质量参差、随时可能下线,更现实的问题是你发送的 prompt 和业务数据会经过不受你控制的第三方,存在泄露与合规风险;同时它通常也违反服务条款。作为个人临时试用可以理解,但不要接入任何包含真实数据的工作流。
- 通过批量注册、共享 key、代绑支付方式解除限制。这属于明确的高风险操作:账号可能被判定为滥用而封禁,支付信息交给第三方更是直接的财产风险。讨论中「绑定信用卡就能解除限制」的说法是用户间的传闻,是否成立、生效范围多大都不确定,且一旦进入按量计费,成本结构完全不同。建议以官方文档与控制台的说明为准,走正规升级路径。
对个人开发者来说,更稳妥的路线是:用免费额度做接口连通性和逻辑验证,把频率压到限制以下;真正需要跑量时,评估是否值得升级为付费使用,或者把非实时任务改成离线批处理,用时间换额度。
一份排查清单
遇到调用受限时,按顺序过一遍:
- 记录每个请求的返回码、耗时分布、错误文案,确认是限流还是网络慢。
- 核对官方速率限制文档,确认当前账号层级对应的真实上限。
- 检查是否多个进程、多个服务共用一个 key,导致实际速率被放大。
- 给客户端加主动限流,上限设为官方额度的 80% 左右。
- 加重试退避与抖动,并设置最大重试次数和任务总超时。
- 合并批量请求、加结果缓存,从源头减少调用量。
- 关键链路准备降级模型与失败兜底,保证任务可继续。
- 需要长跑的批处理任务,检查执行机是否会休眠、断网,必要时换到长期在线环境。
小结
把免费 API 的频繁限流理解成「平台在用价格信号告诉你免费层不是生产环境」,心态会好很多。技术上真正有效的三件事是:先分清限流与网络问题,再用主动限流和退避重试把调用节奏做平滑,最后用请求合并与缓存把调用次数降下来。至于各种绕开限制的偏方,短期看似省事,长期往往用数据安全和账号稳定性来还账,不建议用在正经项目里。具体额度与计费规则变化较快,动手前请以官方最新文档为准。