langchain_community.cross_encoders.sagemaker_endpoint
.SagemakerEndpointCrossEncoder¶
- class langchain_community.cross_encoders.sagemaker_endpoint.SagemakerEndpointCrossEncoder[source]¶
基础:
BaseModel
,BaseCrossEncoder
SageMaker推理CrossEncoder端点。
要使用,您必须提供已部署Sagemaker模型的端点名称及其部署所在的区域。
为了认证,AWS客户端使用以下方法自动加载凭证:https://boto3.amazonaws.com/v1/documentation/api/latest/guide/credentials.html
如果应使用特定的凭证配置文件,则必须从用于的~/.aws/credentials文件中传递该配置文件的名称。
确保使用的凭证/角色拥有访问Sagemaker端点所需的策略。参见:https://docs.aws.amazon.com/IAM/latest/UserGuide/access_policies.html
通过解析和验证关键字参数中的输入数据来创建新的模型。
如果输入数据无法解析为有效的模型,则抛出ValidationError。
- 参数 content_handler: CrossEncoderContentHandler = <langchain_community.cross_encoders.sagemaker_endpoint.CrossEncoderContentHandler 对象>¶
- 参数 credentials_profile_name: Optional[str] = None¶
在~/.aws/credentials或~/.aws/config文件中的配置文件名称,其中指定了访问密钥或角色信息。如果没有指定,将使用默认凭证配置文件,或者在EC2实例上,将使用IMDS的凭证。参见:https://boto3.amazonaws.com/v1/documentation/api/latest/guide/credentials.html
- 参数 endpoint_kwargs: Optional[Dict] = None¶
传递给invoke_endpoint函数的可选属性。有关更多信息,请参阅`boto3`_文档。.. _boto3: <https://boto3.amazonaws.com/v1/documentation/api/latest/index.html>
- 参数 endpoint_name: str = ''¶
已部署Sagemaker模型的端点名称。必须在AWS区域内是唯一的。
- 参数 model_kwargs: Optional[Dict] = None¶
传递给模型的参数关键字。
- 参数 region_name: str = ''¶
SageMaker模型部署的AWS区域,例如 us-west-2。