langchain_community.chat_models.azureml_endpoint.LlamaContentFormatter

class langchain_community.chat_models.azureml_endpoint.LlamaContentFormatter

LLaMA内容格式化器。

属性

accepts	端点返回的响应数据的MIME类型
内容类型	输入数据传递到端点时的MIME类型
format_error_msg
支持的API类型	支持的API类型。

方法

__init__()
escape_special_characters(prompt)	转义 prompt 中的任何特殊字符
format_request_payload(prompt, model_kwargs)	根据模型的输入模式格式化请求体。
format_response_payload(output[, api_type])	根据模型的输出模式格式化响应体。

__init__() → None

返回类型

None

static escape_special_characters(prompt: str) → str

转义 prompt 中的任何特殊字符

参数

prompt (str) –

返回类型

str

format_request_payload(prompt: str, model_kwargs: Dict, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → Any

根据模型的输入模式格式化请求身。返回header中指定格式的bytes或可寻找文件对象。

参数

• prompt (str) –

• model_kwargs (Dict) –

• api_type (AzureMLEndpointApiType) –

返回类型

Any

摘要 format_response_payload(output: bytes, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → Generation

按照模型输出的架构格式化响应体。返回从响应中接收到的数据类型。

参数

• 输出 (bytes) –

• api_type (AzureMLEndpointApiType) –

返回类型

生成