langchain_community.cache.SQLAlchemyCache

class langchain_community.cache.SQLAlchemyCache(engine: ~sqlalchemy.engine.base.Engine, cache_schema: ~typing.Type[~langchain_community.cache.FullLLMCache] = <class 'langchain_community.cache.FullLLMCache'>)

使用 SQAlchemy 作为后端的缓存。

通过创建所有表来初始化。

方法

__init__(engine[, cache_schema])	通过创建所有表来初始化。
aclear(**kwargs)	异步清除缓存，可以接受额外的键值参数。
alookup(prompt, llm_string)	基于提示和llm_string异步查找。
aupdate(prompt, llm_string, return_val)	基于提示和llm_string异步更新缓存。
clear(**kwargs)	清除缓存。
lookup(prompt, llm_string)	基于提示和llm_string查找。
update(prompt, llm_string, return_val)	基于提示和llm_string更新。

参数

• engine (Engine) –

• cache_schema (Type[FullLLMCache]) –

__init__(engine: ~sqlalchemy.engine.base.Engine, cache_schema: ~typing.Type[~langchain_community.cache.FullLLMCache] = <class 'langchain_community.cache.FullLLMCache'>)

通过创建所有表来初始化。

参数

• engine (Engine) –

• cache_schema (Type[FullLLMCache]) –

async aclear(**kwargs: Any) → None

异步清除缓存，可以接受额外的键值参数。

参数

kwargs (Any) –

返回类型

None

async alookup(prompt: str, llm_string: str) → Optional[Sequence[Generation]]

基于提示和llm_string异步查找。

预期的缓存实现应从提示和llm_string的二元素（例如，通过使用分隔符连接它们）生成键。

参数

• prompt (str) – 提示的字符串表示。在Chat模型的情况下，提示是将提示串行化为语言模型的过程。

• llm_string (str) – LLM配置的字符串表示。这用于捕获LLM的调用参数（例如，模型名称、温度、停止令牌、最大令牌数等）。这些调用参数序列化为字符串表示。

返回值

在缓存未命中时返回None。在缓存命中时，返回缓存的值。缓存的值是一系列生成（或子类）。

返回类型

可选[序列[生成]]

async aupdate(prompt: str, llm_string: str, return_val: 序列[生成]) → None

基于提示和llm_string异步更新缓存。

提示和llm_string用于生成缓存键。键应与查找方法的键匹配。

参数

• prompt (str) – 提示的字符串表示。在Chat模型的情况下，提示是将提示串行化为语言模型的过程。

• llm_string (str) – LLM配置的字符串表示。这用于捕获LLM的调用参数（例如，模型名称、温度、停止令牌、最大令牌数等）。这些调用参数序列化为字符串表示。

• return_val (序列[生成]) – 要缓存的值。值是一系列生成（或子类）。

返回类型

None

clear(**kwargs: Any) → None

清除缓存。

参数

kwargs (Any) –

返回类型

None

lookup(prompt: str, llm_string: str) → Optional[序列[生成]]

基于提示和llm_string查找。

参数

• prompt (str) –

• llm_string (str) –

返回类型

可选[序列[生成]]

update(prompt: str, llm_string: str, return_val: Sequence[Generation]) → None

基于提示和llm_string更新。

参数

• prompt (str) –

• llm_string (str) –

• return_val (Sequence[Generation]) –

返回类型

None

使用 SQLAlchemyCache 的示例

• 模型缓存