langchain_google_vertexai.utils.create_context_cache

langchain_google_vertexai.utils.create_context_cache(model: ChatVertexAI, messages: List[BaseMessage], expire_time: Optional[datetime] = None, time_to_live: Optional[timedelta] = None, tools: Optional[Sequence[Union[Tool, Tool, _ToolDictLike, BaseTool, Type[BaseModel], FunctionDescription, Callable, FunctionDeclaration, Dict[str, Any]]]] = None, tool_config: Optional[_ToolConfigDict] = None) str[来源代码]

在某个模型中创建内容缓存。

参数
  • model (ChatVertexAI) – ChatVertexAI 模型。必须是 gemini-1.5 pro 或 flash 版本。

  • 消息 (列表[BaseMessage]) – 要缓存的邮件列表。

  • 过期时间 (可选[datetime]) – 资源被认为是过期的日期和时间。

  • 设置 (最多可设置过期时间和 TTL 中的一个。如果没有设置任) – 在 API 端使用(目前为 1 小时)。

  • TTL (默认值) – 在 API 端使用(目前为 1 小时)。

  • 有效期 (可选[timedelta]) – 该资源的 TTL。如果提供,则有效期是

  • 计算 – 创建时间 + TTL。

  • 设置 – 在 API 端使用(目前为 1 小时)。

  • TTL – 在 API 端使用(目前为 1 小时)。

  • 工具 (可选[序列[任意联合体[工具, 工具, _ToolDictLike, BaseTool, 类型[BaseModel], FunctionDescription, Callable, 函数声明, 字典[str, Any]]]) – 绑定到此聊天模型的工具定义列表。可以是 pydantic 模型、可调用对象或 BaseTool。Pydantic 模型、可调用对象和 BaseTools 将自动转换为它们的模式字典表示。

  • 工具配置 (可选[_ToolConfigDict]) – 可选。不可变。工具配置。此配置适用于所有工具。

抛出

ValueError – 如果模型不支持上下文捕获。

返回

包含创建的缓存标识符的字符串。

返回类型

str