langchain_aws.llms.sagemaker_endpoint.LLMContentHandler

class langchain_aws.llms.sagemaker_endpoint.LLMContentHandler[source]

LLM类的内容处理器。

属性

accepts

端点返回的响应数据的MIME类型

content_type

传递到端点的输入数据的MIME类型

方法

__init__()

transform_input(prompt, model_kwargs)

将输入转换为模型可以接受作为请求体的格式。

transform_output(输出)

将模型输出转换为LLM类所期望的字符串。

__init__()
abstract transform_input(prompt: INPUT_TYPE, model_kwargs: Dict)) bytes

将输入转换为模型可以接受作为请求体的格式。应返回 bytes 或可定位文件对象,格式由 content_type 请求头中指定。

参数
  • prompt (INPUT_TYPE) –

  • model_kwargs (Dict) –

返回类型

bytes

abstract transform_output(output: bytes)) OUTPUT_TYPE

将模型输出转换为LLM类所期望的字符串。

参数

output (bytes) –

返回类型

OUTPUT_TYPE

使用LLMContentHandler的示例