Skip to main content
目前仅在 langchainjs(JavaScript/TypeScript)中使用。
您已达到模型提供商在给定时间段内允许的最大请求数,并被暂时阻止。 当您在特定时间范围内超出模型提供商允许的最大请求数时,会发生此错误,导致暂时被阻止。此限制通常是临时的,并在限制重置后解除。

故障排除

要解决此错误,您可以:
  1. 实施速率限制:部署速率限制器以调节向模型发送请求的频率。
  2. 实施响应缓存:使用模型响应缓存,当传入查询重复时减少冗余请求。
  3. 使用多个提供商:如果您的应用程序架构支持此方法,请将请求分发到多个提供商。
  4. 联系您的提供商:联系您的模型提供商,请求提高您的速率限制。