langchain_nvidia_ai_endpoints.callbacks
.get_token_cost_for_model¶
- langchain_nvidia_ai_endpoints.callbacks.get_token_cost_for_model(model_name: str, num_tokens: int, price_map: dict, is_completion: bool = False) float [源码]¶
获取指定模型和字符数对应的成本(美元)。
- 参数:
model_name (str) – 模型名称
num_tokens (int) – 字符数。
price_map (dict) – 模型名称到每1000字符成本的映射。默认为 AI 基金端点定价,可参考 https://www.together.ai/pricing。
is_completion (bool) – 模型是否用于补全。默认为 False。
- 返回值:
成本(美元)。
- 返回类型:
float