langchain_nvidia_ai_endpoints.callbacks.get_token_cost_for_model

langchain_nvidia_ai_endpoints.callbacks.get_token_cost_for_model(model_name: str, num_tokens: int, price_map: dict, is_completion: bool = False) float[源码]

获取指定模型和字符数对应的成本(美元)。

参数:
  • model_namestr) – 模型名称

  • num_tokensint) – 字符数。

  • price_mapdict) – 模型名称到每1000字符成本的映射。默认为 AI 基金端点定价,可参考 https://www.together.ai/pricing

  • is_completionbool) – 模型是否用于补全。默认为 False。

返回值:

成本(美元)。

返回类型:

float