限制维度
AIsa 在三个维度上限制容量:| 维度 | 适用范围 | 衡量内容 |
|---|---|---|
| RPM | 所有端点 | 每分钟请求数 |
| TPM | LLM 推理端点 | 每分钟输入和输出 Token 总数 |
| 并发数 | 流式和长时间运行的端点 | 同时进行中的请求数 |
TPM 会合并计算输入和输出 Token。发送 10K Token 并生成 5K Token 的请求会消耗 15K TPM。
各套餐的默认限制
| 套餐 | RPM | TPM | 并发数 | 适用条件 |
|---|---|---|---|---|
| 免费版 | 60 | 60,000 | 5 | 包含 2 美元注册额度的新账户 |
| 入门版 | 600 | 600,000 | 20 | 首次付费充值后 |
| 成长版 | 3,000 | 3,000,000 | 50 | 累计充值 500 美元以上或申请获批 |
| 企业版 | 自定义 | 自定义 | 自定义 | 联系销售团队 |
端点级覆盖限制
由于上游提供商会限制吞吐量,部分端点的默认限制比账户套餐更严格:| 端点组 | 默认覆盖限制 |
|---|---|
POST /chat/completions(GPT-5.4) | RPM 不超过上游额度 |
POST /messages(Claude Opus) | RPM 不超过上游额度 |
POST /perplexity/sonar-deep-research | 每个密钥 5 RPM(长时间运行) |
/v1beta/models/*:generateContent | 每个密钥 30 RPM |
读取速率限制响应头
每个响应(包括429)都会包含以下响应头:
| 响应头 | 含义 |
|---|---|
X-RateLimit-Limit-Requests | RPM 上限 |
X-RateLimit-Remaining-Requests | 本分钟剩余请求数 |
X-RateLimit-Limit-Tokens | TPM 上限 |
X-RateLimit-Remaining-Tokens | 本分钟剩余 Token 数 |
X-RateLimit-Reset-Requests | 请求计数器重置时的 UNIX 时间戳 |
X-RateLimit-Reset-Tokens | Token 计数器重置时的 UNIX 时间戳 |
Retry-After | 仅用于 429;允许重试前需要等待的秒数 |
处理 429 响应
检测 429
响应体遵循标准错误结构,其中
error.type = "rate_limit_error",code 为 rate_limit_exceeded、upstream_rate_limit 或 quota_exceeded。使用指数退避和抖动
完成首次等待后,每次再次遇到 429 都将延迟翻倍,并添加 ±25% 抖动,上限为 30 秒。请参阅重试示例。
示例:保持在限制以内
申请提高额度
如果生产流量需要更高限制:- 为 Wallet 充值,系统会自动从免费版升级到入门版。
- 如需成长版或企业版,请发送邮件至 developer@aisa.one,并提供:
- 工作区 ID
- 预期的峰值 RPM 和 TPM
- 需要提高额度的模型或端点
- 使用场景的简要说明
相关页面
错误代码
HTTP 状态码完整列表和建议的处理方式。
用量日志
控制台中的单次请求计费和速率限制遥测数据。