langchain_community.cache.RedisCache

class langchain_community.cache.RedisCache(redis_: Any, *, ttl: Optional[int] = None)

使用Redis作为后端的缓存。允许使用同步的redis.Redis客户端。

初始化RedisCache实例。

此方法初始化具有Redis缓存功能的对象。它接受一个

参数

• redis (Any) – 用于缓存的自定义Redis客户端类（《redis.Redis》）的实例。这允许对象通过与Redis服务器通信进行缓存操作。

• ttl (int, 可选) – 缓存项的TTL（有效期）该

• redis_ (Any) –

方法

__init__(redis_, *[, ttl])	初始化RedisCache实例。
aclear(**kwargs)	可以接受额外的关键字参数的异步清空缓存。
alookup(prompt, llm_string)	基于提示和llm_string进行异步查找。
aupdate(prompt, llm_string, return_val)	基于提示和llm_string异步更新缓存。
clear(**kwargs)	清空缓存。
lookup(prompt, llm_string)	根据提示和llm_string进行查找。
update(prompt, llm_string, return_val)	基于提示和llm_string更新缓存。

__init__(redis_: Any, *, ttl: Optional[int] = None)

初始化RedisCache实例。

此方法初始化具有Redis缓存功能的对象。它接受一个

参数

• redis (Any) – 用于缓存的自定义Redis客户端类（《redis.Redis》）的实例。这允许对象通过与Redis服务器通信进行缓存操作。

• ttl (int, 可选) – 缓存项的TTL（有效期）该

• redis_ (Any) –

async aclear(**kwargs: Any) → None

可以接受额外的关键字参数的异步清空缓存。

参数

kwargs (Any) –

返回类型

None

async alookup(prompt: str, llm_string: str) → Optional[Sequence[Generation]]

基于提示和llm_string进行异步查找。

期望缓存实现从提示和 llm_string 的元组（例如，通过连接符连接它们）生成一个键。

参数

• prompt (str) – 提示的字符串表示。在 Chat 模型的情况下，提示是对提示非平凡序列化为语言模型的过程。

• llm_string (str) – LLM 配置的字符串表示。这用于捕获 LLM 的调用参数（例如，模型名称、温度、停用词、最大令牌数等）。这些调用参数序列化为字符串表示。

返回

在缓存未命中时返回 None。在缓存命中时，返回缓存的值。缓存的值是一个 Generations（或其子类）列表。

返回类型

Optional[Sequence[Generation]]

async aupdate(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None

基于提示和llm_string异步更新缓存。

提示和 llm_string 用于生成缓存键。键应与查找方法的键匹配。

参数

• prompt (str) – 提示的字符串表示。在 Chat 模型的情况下，提示是对提示非平凡序列化为语言模型的过程。

• llm_string (str) – LLM 配置的字符串表示。这用于捕获 LLM 的调用参数（例如，模型名称、温度、停用词、最大令牌数等）。这些调用参数序列化为字符串表示。

• return_val (Sequence[Generation]) – 要缓存的值。值是 Generations（或其子类）的列表。

返回类型

None

clear(**kwargs: Any) → None

清除缓存。如果 异步 设置为 True，则异步刷新。

参数

kwargs (Any) –

返回类型

None

lookup(prompt: str, llm_string: str) → Optional[Sequence[Generation]]

根据提示和llm_string进行查找。

参数

• prompt (str) –

• llm_string (str) –

返回类型

Optional[Sequence[Generation]]

update(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None

基于提示和llm_string更新缓存。

参数

• prompt (str) –

• llm_string (str) –

• return_val (Sequence[Generation]) –

返回类型

None

RedisCache 的使用示例

• 模型缓存

• Redis