langchain_community.chat_models.azureml_endpoint.LlamaChatContentFormatter

class langchain_community.chat_models.azureml_endpoint.LlamaChatContentFormatter

已废弃：保留以支持向后兼容

Llama的聊天内容格式化器。

属性

SUPPORTED_ROLES
接受	从端点返回的响应数据的MIME类型
content_type	传递给端点输入数据的MIME类型
format_error_msg
supported_api_types	支持给定格式器的API。

方法

__init__()
escape_special_characters(prompt)	转义prompt中的任何特殊字符
format_messages_request_payload(messages, ...)	根据所选api格式化请求
format_request_payload(prompt, model_kwargs)	根据模型的输入模式格式化请求正文
format_response_payload(output[, api_type])	格式化响应

__init__() → None

返回类型

None

static escape_special_characters(prompt: str) → str

转义prompt中的任何特殊字符

参数

prompt (str) –

返回类型

str

format_messages_request_payload(messages: List[BaseMessage], model_kwargs: Dict, api_type: AzureMLEndpointApiType) → bytes

根据所选api格式化请求

参数

• messages (List[BaseMessage]) –

• model_kwargs (Dict) –

• api_type (AzureMLEndpointApiType) –

返回类型

bytes

format_request_payload(prompt: str, model_kwargs: Dict, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → Any

根据模型的输入模式格式化请求体。返回指定在 content_type 请求头中的格式下的字节或可寻址文件对象。

参数

• prompt (str) –

• model_kwargs (Dict) –

• api_type (AzureMLEndpointApiType) –

返回类型

Any

format_response_payload(output: bytes, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → ChatGeneration

格式化响应

参数

• output (bytes) –

• api_type (AzureMLEndpointApiType) –

返回类型

ChatGeneration