langchain_community.cross_encoders.sagemaker_endpoint.SagemakerEndpointCrossEncoder

class langchain_community.cross_encoders.sagemaker_endpoint.SagemakerEndpointCrossEncoder[source]

基础:BaseModelBaseCrossEncoder

SageMaker推理CrossEncoder端点。

要使用,您必须提供已部署Sagemaker模型的端点名称及其部署所在的区域。

为了认证,AWS客户端使用以下方法自动加载凭证:https://boto3.amazonaws.com/v1/documentation/api/latest/guide/credentials.html

如果应使用特定的凭证配置文件,则必须从用于的~/.aws/credentials文件中传递该配置文件的名称。

确保使用的凭证/角色拥有访问Sagemaker端点所需的策略。参见:https://docs.aws.amazon.com/IAM/latest/UserGuide/access_policies.html

通过解析和验证关键字参数中的输入数据来创建新的模型。

如果输入数据无法解析为有效的模型,则抛出ValidationError。

参数 content_handler: CrossEncoderContentHandler = <langchain_community.cross_encoders.sagemaker_endpoint.CrossEncoderContentHandler 对象>
参数 credentials_profile_name: Optional[str] = None

在~/.aws/credentials或~/.aws/config文件中的配置文件名称,其中指定了访问密钥或角色信息。如果没有指定,将使用默认凭证配置文件,或者在EC2实例上,将使用IMDS的凭证。参见:https://boto3.amazonaws.com/v1/documentation/api/latest/guide/credentials.html

参数 endpoint_kwargs: Optional[Dict] = None

传递给invoke_endpoint函数的可选属性。有关更多信息,请参阅`boto3`_文档。.. _boto3: <https://boto3.amazonaws.com/v1/documentation/api/latest/index.html>

参数 endpoint_name: str = ''

已部署Sagemaker模型的端点名称。必须在AWS区域内是唯一的。

参数 model_kwargs: Optional[Dict] = None

传递给模型的参数关键字。

参数 region_name: str = ''

SageMaker模型部署的AWS区域,例如 us-west-2

score(text_pairs: List[Tuple[str, str]]) List[float][源代码]

调用SageMaker Inference CrossEncoder端点。

参数

text_pairs (列表[元组[字符串, 字符串]]) –

返回类型

列表[浮点数]