langchain_community.llms.sambanova.SSEndpointHandler

class langchain_community.llms.sambanova.SSEndpointHandler(host_url: str, api_base_uri: str)

SambaNova Systems为SambaStudio模型端点提供的接口。

参数

• host_url (str) – DaaS API服务的基URL

• api_base_uri (str) –

初始化SSEndpointHandler。

参数

• host_url (str) – DaaS API服务的基URL

• api_base_uri (str) – DaaS API服务的基URI

方法

__init__(host_url, api_base_uri)	初始化SSEndpointHandler。
nlp_predict(project, endpoint, key, input[, ...])	使用内联输入字符串进行NLP预测。
nlp_predict_stream(project, endpoint, key, input)	使用内联输入字符串进行NLP预测。

__init__(host_url: str, api_base_uri: str)

初始化SSEndpointHandler。

参数

• host_url (str) – DaaS API服务的基URL

• api_base_uri (str) – DaaS API服务的基URI

nlp_predict(project: str, endpoint: str, key: str, input: Union[List[str], str], params: Optional[str] = '', stream: bool = False) → Dict

使用内联输入字符串进行NLP预测。

参数

• project (str) – 端点存在的项目ID

• endpoint (str) – 端点ID

• key (str) – API密钥

• input_str (str) – 输入字符串

• params (str) – 输入参数字符串

• input (Union[str[str], str]) –

• stream (bool) –

返回

预测结果

类型

dict

返回类型

Dict

nlp_predict_stream(project: str, endpoint: str, key: str, input: Union[List[str], str], params: Optional[str] = '') → Iterator[Dict]

使用内联输入字符串进行NLP预测。

参数

• project (str) – 端点存在的项目ID

• endpoint (str) – 端点ID

• key (str) – API密钥

• input_str (str) – 输入字符串

• params (str) – 输入参数字符串

• input (Union[str[str], str]) –

返回

预测结果

类型

dict

返回类型

列表[字典]