langchain_core.callbacks.manager.AsyncCallbackManagerForLLMRun

class langchain_core.callbacks.manager.AsyncCallbackManagerForLLMRun(*, run_id: UUID, handlers: List[BaseCallbackHandler], inheritable_handlers: List[BaseCallbackHandler], parent_run_id: Optional[UUID] = None, tags: Optional[List[str]] = None, inheritable_tags: Optional[List[str]] = None, metadata: Optional[Dict[str, Any]] = None, inheritable_metadata: Optional[Dict[str, Any]] = None)

LLM 运行异步回调管理器。

初始化运行管理器。

参数

• run_id (UUID) – 运行的ID。

• handlers (List[BaseCallbackHandler]) – 处理器列表。

• inheritable_handlers (List[BaseCallbackHandler]) – 可继承处理器列表。

• parent_run_id (UUID, 可选) – 父运行ID。默认为None。

• 标签 (可选[列表[字符串]]) – 标签列表。默认为None。

• 可继承标签 (可选[列表[字符串]]) – 可继承标签列表。默认为None。

• 元数据 (可选[字典[字符串, 任何类型]]) – 元数据。默认为None。

• 可继承元数据 (可选[字典[字符串, 任何类型]]) – 可继承元数据。默认为None。

方法

__init__(*, run_id, handlers, ...[, ...])	初始化运行管理器。
get_noop_manager()	返回一个不执行任何操作的管理器。
get_sync()	获取等价的同步RunManager。
on_custom_event(name, data, *, run_id[, ...])	覆盖以定义自定义事件的处理器。
on_llm_end(response, **kwargs)	当LLM运行结束时执行。
on_llm_error(error, **kwargs)	当LLM发生错误时执行。
on_llm_new_token(token, *[, chunk])	当LLM生成新令牌时执行。
on_retry(retry_state, **kwargs)	接收到重试时的异步运行。
on_text(text, **kwargs)	当接收到文本时执行。

__init__(*, run_id: UUID, handlers: List[BaseCallbackHandler], inheritable_handlers: List[BaseCallbackHandler], parent_run_id: Optional[UUID] = None, tags: Optional[List[str]] = None, inheritable_tags: Optional[List[str]] = None, metadata: Optional[Dict[str, Any]] = None, inheritable_metadata: Optional[Dict[str, Any]] = None) → None

初始化运行管理器。

参数

• run_id (UUID) – 运行的ID。

• handlers (List[BaseCallbackHandler]) – 处理器列表。

• inheritable_handlers (List[BaseCallbackHandler]) – 可继承处理器列表。

• parent_run_id (UUID, 可选) – 父运行ID。默认为None。

• 标签 (可选[列表[字符串]]) – 标签列表。默认为None。

• 可继承标签 (可选[列表[字符串]]) – 可继承标签列表。默认为None。

• 元数据 (可选[字典[字符串, 任何类型]]) – 元数据。默认为None。

• 可继承元数据 (可选[字典[字符串, 任何类型]]) – 可继承元数据。默认为None。

返回类型

None

classmethod get_noop_manager() → BRM

返回一个不执行任何操作的经理。

返回

空操作经理。

返回类型

BaseRunManager

get_sync() → CallbackManagerForLLMRun

获取等价的同步RunManager。

返回

同步运行管理器。

返回类型

CallbackManagerForLLMRun

on_custom_event(name: str, data: Any, *, run_id: UUID, tags: Optional[List[str]] = None, metadata: Optional[Dict[str, Any]] = None, **kwargs: Any) → Any

覆盖以定义自定义事件的处理器。

参数

• name (str) – 自定义事件的名称。

• data (Any) – 自定义事件的数据。格式将与用户指定的格式匹配。

• run_id (UUID) – 运行的ID。

• tags (Optional[List[str]]) – 与自定义事件关联的标签（包括继承的标签）。

• metadata (Optional[Dict[str, Any]]) – 与自定义事件关联的元数据（包括继承的元数据）。

• kwargs (Any) –

返回类型

Any

新增于版本 0.2.15。

async on_llm_end(response: LLMResult, **kwargs: Any) → None

当LLM运行结束时执行。

参数

• response (LLMResult) – LLM 结果。

• **kwargs (Any) – 其他关键字参数。

返回类型

None

async on_llm_error(error: BaseException, **kwargs: Any) → None

当LLM发生错误时执行。

参数

• error (Exception 或 KeyboardInterrupt) – 出现的错误。

• kwargs (Any) –

  其他关键字参数。

  - response (LLMResult): 在错误发生之前生成的响应。

返回类型

None

async on_llm_new_token(token: str, **kwargs: Any) → None

当LLM生成新令牌时执行。

参数

• token (str) – 新的标记。

• chunk (Optional[Union[GenerationChunk, ChatGenerationChunk]], optional) – 数据块。默认为 None。

• **kwargs (Any) – 其他关键字参数。

返回类型

None

async on_retry(retry_state: RetryCallState, **kwargs: Any) → None

接收到重试时的异步运行。

参数

• retry_state (RetryCallState) – 重试状态。

• **kwargs (Any) – 其他关键字参数。

返回类型

None

async on_text(text: str, **kwargs: Any) → Any

当接收到文本时执行。

参数

• text (str) – 收到的文本。

• **kwargs (Any) – 其他关键字参数。

返回

回调的结果。

返回类型

Any

使用AsyncCallbackManagerForLLMRun的示例

• 如何创建自定义聊天模型类