langchain_community.cache.AstraDBCache

class langchain_community.cache.AstraDBCache(*, collection_name: str = 'langchain_astradb_cache', token: Optional[str] = None, api_endpoint: Optional[str] = None, astra_db_client: Optional[AstraDB] = None, async_astra_db_client: Optional[AsyncAstraDB] = None, namespace: Optional[str] = None, pre_delete_collection: bool = False, setup_mode: AstraSetupMode = SetupMode.SYNC)[源代码]热链接

自版本 0.0.28 起已弃用： 请使用 langchain_astradb.AstraDBCache 代替。

使用 Astra DB 作为后端的缓存。

它使用一个集合作为 kv 存储，查找键，通过文档的 _id 组合。

  • 提示，一个字符串

  • llm_string，模型参数的确定字符串表示。 （需要防止相同的提示不同模型的冲突）

参数

  • collection_name (str) – 创建/使用的 Astra DB 集合名。

  • token (可选[str]) – Astra DB 使用 API 令牌。

  • api_endpoint (可选[str]) – API 端点的完整 URL，例如 https://<DB-ID>-us-east1.apps.astra.datastax.com。

  • astra_db_client (可选[AstraDB]) – 代替 token+api_endpoint，可以传递已创建的’t ArrayAdapter instances。

  • async_astra_db_client (可选[AsyncAstraDB]) – 作为token+api_endpoint的替代方案，您可以传递已创建的‘astrapy.db.AsyncAstraDB’实例。

  • namespace (可选[str]) – 创建集合的命名空间（也称为键空间）。默认为数据库的“默认命名空间”。

  • setup_mode (AstraSetupMode) – 创建Astra DB集合时使用的模式（SYNC、ASYNC或OFF）。

  • pre_delete_collection (bool) – 在创建之前是否删除集合。如果为False且集合已存在，则将使用现有集合。

方法

__init__(*[, collection_name, token, ...])

使用 Astra DB 作为后端的缓存。

aclear(**kwargs)

异步清除缓存，可以接受额外的关键字参数。

adelete(prompt, llm_string)

如果存在条目，则从缓存中删除。

adelete_through_llm(prompt, llm[, stop])

使用传递给LLM的包装器circumventing adelete。

alookup(prompt, llm_string)

基于提示和llm_string的异步查找。

aupdate(prompt, llm_string, return_val)

基于提示和llm_string异步更新缓存。

clear(**kwargs)

可接受额外关键字参数的清除缓存。

delete(prompt, llm_string)

如果存在条目，则从缓存中删除。

delete_through_llm(prompt, llm[, stop])

带有传递给LLM的包装器的>circumventing delete。

lookup(prompt, llm_string)

基于提示和llm_string进行查找。

update(prompt, llm_string, return_val)

基于提示和llm_string更新缓存。
__init__(*, collection_name: str = 'langchain_astradb_cache', token: Optional[str] = None, api_endpoint: Optional[str] = None, astra_db_client: Optional[AstraDB] = None, async_astra_db_client: Optional[AsyncAstraDB] = None, namespace: Optional[str] = None, pre_delete_collection: bool = False, setup_mode: AstraSetupMode = SetupMode.SYNC)[源代码]§

使用 Astra DB 作为后端的缓存。

它使用一个集合作为 kv 存储，查找键，通过文档的 _id 组合。

  • 提示，一个字符串

  • llm_string，模型参数的确定字符串表示。 （需要防止相同的提示不同模型的冲突）

参数

  • collection_name (str) – 创建/使用的 Astra DB 集合名。

  • token (可选[str]) – Astra DB 使用 API 令牌。

  • api_endpoint (可选[str]) – API 端点的完整 URL，例如 https://<DB-ID>-us-east1.apps.astra.datastax.com。

  • astra_db_client (可选[AstraDB]) – 代替 token+api_endpoint，可以传递已创建的’t ArrayAdapter instances。

  • async_astra_db_client (可选[AsyncAstraDB]) – 作为token+api_endpoint的替代方案，您可以传递已创建的‘astrapy.db.AsyncAstraDB’实例。

  • namespace (可选[str]) – 创建集合的命名空间（也称为键空间）。默认为数据库的“默认命名空间”。

  • setup_mode (AstraSetupMode) – 创建Astra DB集合时使用的模式（SYNC、ASYNC或OFF）。

  • pre_delete_collection (bool) – 在创建之前是否删除集合。如果为False且集合已存在，则将使用现有集合。

async aclear(**kwargs: Any) → None[源代码]§

异步清除缓存，可以接受额外的关键字参数。

参数

kwargs (Any) –

返回类型

None

async adelete(prompt: str, llm_string: str) → None[source]

如果缓存中有条目，则从缓存中删除。

参数

  • prompt (str) –

  • llm_string (str) –

返回类型

None

async adelete_through_llm(prompt: str, llm: LLM, stop: Optional[List[str]] = None) → None[source]

是adelete的包装器，其中传入了LLM。如果在调用llm.invoke(prompt)时有stop参数，您应在此处将其传递。

参数

  • prompt (str) –

  • llm (LLM) –

  • stop (Optional[List[str]]) –

返回类型

None

async alookup(prompt: str, llm_string: str) → Optional[Sequence[Generation]][source]

基于提示和llm_string的异步查找。

缓存实现应生成键，从提示和llm_string的二元组中（例如，通过分隔符连接它们）。

参数

  • prompt (str) – 提示的字符串表示形式。在聊天模型的例子中，提示的非平凡序列化到语言模型。

  • llm_string (str) – LLM配置的字符串表示。这用于捕获LLM的调用参数（例如，模型名称、温度、停止令牌、最大令牌等）。这些调用参数被序列化成字符串表示。

返回值

在缓存未命中时，返回None。在缓存命中时，返回缓存的值。缓存的值是一个生成器列表（或子类）。

返回类型

可选[Sequence[Generation]]

async aupdate(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None[源代码]

基于提示和llm_string异步更新缓存。

提示和llm_string用于生成缓存的键。键应与查找方法匹配。

参数

  • prompt (str) – 提示的字符串表示形式。在聊天模型的例子中，提示的非平凡序列化到语言模型。

  • llm_string (str) – LLM配置的字符串表示。这用于捕获LLM的调用参数（例如，模型名称、温度、停止令牌、最大令牌等）。这些调用参数被序列化成字符串表示。

  • return_val (Sequence[Generation]) – 要缓存的值。这个值是一个生成器列表（或子类）。

返回类型

None

clear(**kwargs: Any) → None[源代码]

可接受额外关键字参数的清除缓存。

参数

kwargs (Any) –

返回类型

None

delete(prompt: str, llm_string: str) → None[源代码]

如果缓存中有条目，则从缓存中删除。

参数

  • prompt (str) –

  • llm_string (str) –

返回类型

None

delete_through_llm(prompt: str, llm: Optional[LLM] = None, stop: None: None) → None[源代码]

对 delete 的封装，传入LLM。如果llm.invoke(prompt) 的调用包括 stop 参数，您应该在这里传递它。

参数

  • prompt (str) –

  • llm (LLM) –

  • stop (Optional[List[str]]) –

返回类型

None

lookup(prompt: str, llm_string: str) → Optional[Sequence[List[str]][源代码]

基于提示和llm_string进行查找。

缓存实现应生成键，从提示和llm_string的二元组中（例如，通过分隔符连接它们）。

参数

  • prompt (str) – 提示的字符串表示形式。在聊天模型的例子中，提示的非平凡序列化到语言模型。

  • llm_string (str) – LLM配置的字符串表示。这用于捕获LLM的调用参数（例如，模型名称、温度、停止令牌、最大令牌等）。这些调用参数被序列化成字符串表示。

返回值

在缓存未命中时，返回None。在缓存命中时，返回缓存的值。缓存的值是一个生成器列表（或子类）。

返回类型

可选[Sequence[Generation]]

update(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None[源代码]

基于提示和llm_string更新缓存。

提示和 llm_string 用于生成缓存的关键字。关键字应与查找方法中的关键字匹配。

参数

  • prompt (str) – 提示的字符串表示形式。在聊天模型的例子中，提示的非平凡序列化到语言模型。

  • llm_string (str) – LLM配置的字符串表示。这用于捕获LLM的调用参数（例如，模型名称、温度、停止令牌、最大令牌等）。这些调用参数被序列化成字符串表示。

  • return_val (Sequence[Generation]) – 要缓存的值。这个值是一个生成器列表（或子类）。

返回类型

None