`langchain_community.llms.sambanova`.SVEndpointHandler¶

class langchain_community.llms.sambanova.SVEndpointHandler(host_url: str)[source]¶

SambaNova Systems接口，用于Sambaverse端点。

参数: host_url (str) – DaaS API服务的根URL

初始化SVEndpointHandler。

参数: host_url (str) – DaaS API服务的根URL

属性

API_BASE_PATH

方法

`__init__`(host_url)	初始化SVEndpointHandler。
`nlp_predict`(key, sambaverse_model_name, input)	使用内联输入字符串进行NLP预测。
`nlp_predict_stream`(key, ...[, params])	使用内联输入字符串进行NLP预测。

__init__(host_url: str)[source]¶

初始化SVEndpointHandler。

参数: host_url (str) – DaaS API服务的根URL

nlp_predict(key: str, sambaverse_model_name: Optional[str], input: Union[List[str], str], params: Optional[str] = '', stream: bool = False) → Dict[source]¶

使用内联输入字符串进行NLP预测。

参数

project (str) – 端点存在的项目ID
endpoint (str) – 端点ID
key (str) – API密钥
input_str (str) – 输入字符串
params (str) – 输入参数字符串
sambaverse_model_name (Optional[str]) –
input (Union[List[str], str]) –
stream (bool) –

返回值

预测结果

类型

dict

返回类型

Dict

nlp_predict_stream(key: str, sambaverse_model_name: Optional[str], input: Union[List[str], str], params: Optional[str] = '') → Iterator[Dict][source]¶