langchain_google_vertexai.utils
.create_context_cache¶
- langchain_google_vertexai.utils.create_context_cache(model: ChatVertexAI, messages: List[BaseMessage], expire_time: Optional[datetime] = None, time_to_live: Optional[timedelta] = None, tools: Optional[Sequence[Union[Tool, Tool, _ToolDictLike, BaseTool, Type[BaseModel], FunctionDescription, Callable, FunctionDeclaration, Dict[str, Any]]]] = None, tool_config: Optional[_ToolConfigDict] = None) str [来源代码]¶
在某个模型中创建内容缓存。
- 参数
model (ChatVertexAI) – ChatVertexAI 模型。必须是 gemini-1.5 pro 或 flash 版本。
消息 (列表[BaseMessage]) – 要缓存的邮件列表。
过期时间 (可选[datetime]) – 资源被认为是过期的日期和时间。
设置 (最多可设置过期时间和 TTL 中的一个。如果没有设置任) – 在 API 端使用(目前为 1 小时)。
TTL (默认值) – 在 API 端使用(目前为 1 小时)。
有效期 (可选[timedelta]) – 该资源的 TTL。如果提供,则有效期是
计算 – 创建时间 + TTL。
设置 – 在 API 端使用(目前为 1 小时)。
TTL – 在 API 端使用(目前为 1 小时)。
工具 (可选[序列[任意联合体[工具, 工具, _ToolDictLike, BaseTool, 类型[BaseModel], FunctionDescription, Callable, 函数声明, 字典[str, Any]]]) – 绑定到此聊天模型的工具定义列表。可以是 pydantic 模型、可调用对象或 BaseTool。Pydantic 模型、可调用对象和 BaseTools 将自动转换为它们的模式字典表示。
工具配置 (可选[_ToolConfigDict]) – 可选。不可变。工具配置。此配置适用于所有工具。
- 抛出
ValueError – 如果模型不支持上下文捕获。
- 返回
包含创建的缓存标识符的字符串。
- 返回类型
str