langchain_community.chat_models.azureml_endpoint.CustomOpenAIChatContentFormatter

class langchain_community.chat_models.azureml_endpoint.CustomOpenAIChatContentFormatter

类似OpenAI API方案的聊天内容格式化器。

属性

SUPPORTED_ROLES
accepts	端点返回的数据的MIME类型
content_type	传递到端点的输入数据的MIME类型
format_error_msg
supported_api_types	给定格式化器的支持API。

方法

__init__()
escape_special_characters(prompt)	转义 prompt 中的任何特殊字符
format_messages_request_payload(messages, ...)	根据选择的API格式化请求
format_request_payload(prompt, model_kwargs)	根据模型的输入模式格式化请求体。
format_response_payload(output[, api_type])	格式化响应

__init__()

static escape_special_characters(prompt: str) → str

转义

prompt

中的任何特殊字符

参数

prompt (str) –

返回类型

str

format_messages_request_payload(messages: List[BaseMessage], model_kwargs: Dict, api_type: AzureMLEndpointApiType) → bytes

根据选择的API格式化请求

参数

• messages (List[BaseMessage]) –

• model_kwargs (Dict) –

• api_type (AzureMLEndpointApiType) –

返回类型

bytes

format_request_payload(prompt: str, model_kwargs: Dict, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → Any

根据模型的输入模式格式化请求体。返回由 content_type 请求头中指定的格式的字节或可 seek 的文件对象。

参数

• prompt (str) –

• model_kwargs (Dict) –

• api_type (AzureMLEndpointApiType) –

返回类型

Any

format_response_payload(output: bytes, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → ChatGeneration

格式化响应

参数

• output (bytes) –

• api_type (AzureMLEndpointApiType) –

返回类型

ChatGeneration

使用 CustomOpenAIChatContentFormatter 的示例

• AzureMLChatOnlineEndpoint