并发设置
适用角色:组织(顶层用户) 更新日期:2026-07-02
并发数决定同一时刻可以向模型发起多少个并行请求,是控制用量、保证服务稳定的重要参数。本文解释并发概念,并说明新版控制台里组织级并发上限由平台统一配置、需联系官方调整的口径。
一、什么是并发
「并发数」指同一时刻允许进行的并行请求数量。并发越高,瞬时可处理的请求越多,但对资源的瞬时占用也越大;超过限制的请求会被限流。
新版控制台中,并发以组织级并发上限的形式管理:它约束本组织的并行请求能力。出于安全和资源管控考虑,该上限属于平台级配置,组织不能自行修改,由平台统一设置和调整。
关于"给每个子用户单独分配并发数"的细粒度能力:目前并发简化为组织级统一,用户级细粒度并发分配暂不支持。
二、组织级并发上限(由平台统一配置)
| 名词 | 含义 |
|---|---|
| 组织级并发上限 | 本组织允许达到的最大并行请求能力,由平台统一设置 |
- 组织级并发上限由平台统一配置,组织在控制台内无法自助修改。
- 需要调整时,请联系 CloudRouter 官方申请调额(见下一节)。
当前控制台是否直接展示并发上限的具体数值,以实际界面为准;如未显示,可在申请时一并向官方确认当前上限。
三、什么时候需要申请调额
出现以下情况时,建议申请提升组织级并发上限:
- 业务请求经常被限流,影响正常使用
- 即将接入新业务,预计并发量显著上升
- 高峰期并行调用需求超过当前上限
四、如何申请调额(联系官方)
- 整理需求,准备好以下信息:
- 组织名称
- 当前上限(如已知)
- 希望调整到的目标数值
- 简要业务背景(例如"新增客户,预计高峰每秒数十个并行调用")
- 通过任一渠道联系 CloudRouter:提交工单 / 联系对接商务 / 发送邮件至官方客服邮箱 / 官网公布的联系方式。
- 等待处理:官方核实后为你的组织调整并发上限。
- 生效后即按新上限执行,调用立即受益,无需重新登录或重建 Key。
请在提交前确认确有并发瓶颈,避免过度申请。每次调额均需单独联系。
五、常见问题
Q:我在控制台里找不到能改并发上限的地方? A:组织级并发上限是平台级配置,由平台统一管理,组织界面没有自助修改入口。需调整请按上文联系 CloudRouter。
Q:能给不同子用户分配不同的并发数吗? A:目前并发简化为组织级统一,子用户级细粒度分配暂不支持。如有此类需求,可在联系官方时一并说明。
Q:并发上限调整后需要重新登录或重建 Key 吗? A:不需要。调整生效后,后续请求即按新上限执行。
Q:并发是不是越高越好? A:不是。并发越高瞬时资源占用越大,建议结合业务实际需要合理申请,避免浪费。
Q:并发被限流和余额/额度不足是一回事吗? A:不是。并发限流是同一时刻并行请求过多;余额/额度不足是资金或配额问题(见 余额预警与欠费)。两者的报错与处理方式不同。
联系我们
- 电子邮箱:support_cloudrouter@clouditera.com
- QQ 社群:712273971
- 平台网址:cloudrouter.online