langchain_core.rate_limiters.BaseRateLimiter

class langchain_core.rate_limiters.BaseRateLimiter(*args, **kwargs)[source]

测试版本

在0.2.24版本中引入。API可能发生变化。

限速器的基类。

根据运行在同步或异步上下文中,通过acquire和aacquire方法使用基本限制器。

实现可以自由地向其initialize方法添加超时参数,以允许用户在使用阻塞调用时指定获取必要令牌的超时时间。

当前限制

  • 速率限制信息不会在跟踪或回调中公开。这意味着调用聊天模型所需的总时间将包括等待令牌的时间和发送请求的时间。

新功能自版本0.2.24起。

方法

__init__(*args, **kwargs)

aacquire(*[, blocking])

尝试获取速率限制器所需的令牌。

acquire(*[, blocking])

尝试获取速率限制器所需的令牌。

__init__(*args: Any, **kwargs: Any) Any
参数
  • self (Any) –

  • args (Any) –

  • kwargs (Any) –

返回类型

Any

abstract async aacquire(*, blocking: bool = True) bool[source]

尝试获取速率限制器所需的令牌。

如果将blocking设置为True,此方法将阻塞,直到有可用令牌。

如果将blocking设置为False,该方法将立即返回尝试获取令牌的结果。

参数

blocking (bool) – 如果为True,则该方法将阻塞直到令牌可用。如果为False,则该方法将立即返回尝试的结果。默认为True。

返回

如果成功获取令牌则返回True,否则返回False。

返回类型

bool

abstract acquire(*, blocking: bool = True) bool[source]

尝试获取速率限制器所需的令牌。

如果将blocking设置为True,此方法将阻塞,直到有可用令牌。

如果将blocking设置为False,该方法将立即返回尝试获取令牌的结果。

参数

blocking (bool) – 如果为True,则该方法将阻塞直到令牌可用。如果为False,则该方法将立即返回尝试的结果。默认为True。

返回

如果成功获取令牌则返回True,否则返回False。

返回类型

bool