langchain_aws.llms.sagemaker_endpoint.ContentHandlerBase

class langchain_aws.llms.sagemaker_endpoint.ContentHandlerBase

一个处理类，用于将 LLM 的输入转换为 SageMaker 端点期望的格式。

同样，该类处理将 SageMaker 端点的输出转换为 LLM 类期望的格式。

属性

accepts	端点返回的响应数据的 MIME 类型
content_type	传递给端点的输入数据的 MIME 类型

方法

__init__()
transform_input(prompt, model_kwargs)	将输入转换为模型可以接受的请求体格式。
transform_output(output)	将模型的输出转换为LLM类期望的字符串。

__init__()

抽象 transform_input(prompt: INPUT_TYPE, model_kwargs: Dict) → bytes

将输入转换为模型可以接受的请求体格式。应返回指定的 content_type 请求头中的格式所要求的字节或可查找文件对象。

参数

• prompt (INPUT_TYPE) –

• model_kwargs (Dict) –

返回类型

bytes

抽象 transform_output(output: bytes) → OUTPUT_TYPE

将模型的输出转换为LLM类期望的字符串。

参数

output (bytes) –

返回类型

OUTPUT_TYPE

使用ContentHandlerBase的示例

• AWS