langchain_community.llms.azureml_endpoint.HFContentFormatter

class langchain_community.llms.azureml_endpoint.HFContentFormatter

HuggingFace目录中LLMs的内容处理程序。

属性

accepts	从端点返回的响应数据的MIME类型
content_type	向终端传递的输入数据的MIME类型
format_error_msg
supported_api_types	给定格式化程序支持的字节码。

方法

__init__()
escape_special_characters(prompt)	将prompt中的任何特殊字符转换为转义字符
format_request_payload(prompt, model_kwargs, ...)	根据模型的输入模式格式化请求主体。
format_response_payload(output, api_type)	根据模型的输出模式格式化响应主体。

__init__()

static escape_special_characters(prompt: str) → str

将prompt中的任何特殊字符转换为转义字符

参数

prompt (str) –

返回类型

str

format_request_payload(prompt: str, model_kwargs: Dict, api_type: AzureMLEndpointApiType) → bytes

根据模型的输入模式格式化请求主体。返回指定在content_type请求头中的格式指定的bytes或可查找文件对象。

参数

• prompt (str) –

• model_kwargs (Dict) –

• api_type (AzureMLEndpointApiType) –

返回类型

bytes

format_response_payload(output: bytes, api_type: AzureMLEndpointApiType) → Generation

根据模型的输出模式格式化响应体。返回从响应中接收到的数据类型。

参数

• output (bytes) –

• api_type (AzureMLEndpointApiType) –

返回类型

生成内容