langchain_community.llms.sagemaker_endpoint.ContentHandlerBase

class langchain_community.llms.sagemaker_endpoint.ContentHandlerBase

用于将LLM输入转换为SageMaker端点期望的格式的处理类。

同样，该类还处理将SageMaker端点的输出转换为LLM类期望的格式。

属性

accepts	端点返回的数据的MIME类型
content_type	传递给端点的输入数据的MIME类型

方法

__init__()
transform_input(prompt, model_kwargs)	将输入转换为模型可以接受作为请求体的格式。
transform_output(output)	将模型的输出转换为LLM类期望的字符串。

__init__()

abstract transform_input(prompt: INPUT_TYPE, model_kwargs: Dict) → bytes

将输入转换为模型可以接受作为请求体的格式。应返回符合content_type请求头中指定格式的bytes或可查找文件对象。

参数

• prompt (INPUT_TYPE) –

• model_kwargs (Dict) –

返回类型

bytes

abstract transform_output(output: bytes) → OUTPUT_TYPE

将模型的输出转换为LLM类期望的字符串。

参数

output (bytes) –

返回类型

OUTPUT_TYPE

使用ContentHandlerBase的示例

• AWS