langchain_core.rate_limiters
.BaseRateLimiter¶
- class langchain_core.rate_limiters.BaseRateLimiter(*args, **kwargs)[source]¶
测试版本
在0.2.24版本中引入。API可能发生变化。
限速器的基类。
根据运行在同步或异步上下文中,通过acquire和aacquire方法使用基本限制器。
实现可以自由地向其initialize方法添加超时参数,以允许用户在使用阻塞调用时指定获取必要令牌的超时时间。
当前限制
速率限制信息不会在跟踪或回调中公开。这意味着调用聊天模型所需的总时间将包括等待令牌的时间和发送请求的时间。
新功能自版本0.2.24起。
方法
__init__
(*args, **kwargs)aacquire
(*[, blocking])尝试获取速率限制器所需的令牌。
acquire
(*[, blocking])尝试获取速率限制器所需的令牌。
- __init__(*args: Any, **kwargs: Any) Any ¶
- 参数
self (Any) –
args (Any) –
kwargs (Any) –
- 返回类型
Any