Skip to main content
Redis(远程字典服务) 是一个开源的内存存储, 用作分布式、内存键值数据库、缓存和消息代理,具有可选的持久性。 因为它将所有数据保存在内存中并且凭借其设计,Redis 提供低延迟读写, 使其特别适合需要缓存的使用场景。Redis 是最受欢迎的 NoSQL 数据库, 也是最受欢迎的数据库之一。
本页面介绍如何在 LangChain 中使用 Redis 生态系统。 分为两部分:安装与设置,以及特定 Redis 封装的参考。

安装与设置

安装 Python SDK 和 LangChain Redis 集成:
pip install redis langchain-redis
要在本地运行 Redis,您可以使用 Docker:
docker run --name langchain-redis -d -p 6379:6379 redis redis-server --save 60 1 --loglevel warning
停止容器:
docker stop langchain-redis
重新启动:
docker start langchain-redis

连接

我们需要一个 Redis URL 连接字符串来连接数据库,支持独立 Redis 服务器 或具有复制和 Redis Sentinel 的高可用性设置。

Redis 独立连接 URL

对于独立 Redis 服务器,可以使用 Python redis 模块 “from_url()” 方法中描述的官方 Redis 连接 URL 格式 Redis.from_url 示例:redis_url = "redis://:secret-pass@localhost:6379/0"

Redis Sentinel 连接 URL

对于 Redis sentinel 设置,连接方案为 “redis+sentinel”。 这是对 IANA 注册协议方案的非官方扩展,因为目前还没有 Sentinel 的连接 URL。 示例:redis_url = "redis+sentinel://:secret-pass@sentinel-host:26379/mymaster/0" 格式为 redis+sentinel://$USERNAME:$PASSWORD@$HOST_OR_IP:$PORT/$SERVICE_NAME/$DB_NUMBER, 如果未明确设置,默认值为 “service-name = mymaster” 和 “db-number = 0”。 service-name 是 Sentinel 中配置的 Redis 服务器监控组名称。 当前 URL 格式将连接字符串限制为仅一个 sentinel 主机(不能提供列表), 且 Redis 服务器和 sentinel 必须设置相同的密码(如果使用)。

Redis 集群连接 URL

Redis 集群目前不支持所有需要 “redis_url” 参数的方法。 使用 Redis 集群的唯一方式是使用接受预配置 Redis 客户端(如下面示例中的 RedisCache)的 LangChain 类。

缓存

缓存封装允许将 Redis 用作 LLM 提示和响应的远程、低延迟、内存缓存。

标准缓存

标准缓存是 Redis 在生产中为全球 开源企业 用户服务的核心使用场景。
from langchain_redis import RedisCache
与您的 LLMs 一起使用此缓存:
from langchain.globals import set_llm_cache
import redis

redis_client = redis.Redis.from_url(...)
set_llm_cache(RedisCache(redis_client))

语义缓存

语义缓存允许用户根据用户输入和之前缓存结果之间的语义相似性检索缓存的提示。在底层,它将 Redis 同时用作缓存和向量存储。
from langchain_redis import RedisSemanticCache
与您的 LLMs 一起使用此缓存:
from langchain.globals import set_llm_cache
import redis

# 使用任何嵌入提供商...
from tests.integration_tests.vectorstores.fake_embeddings import FakeEmbeddings

redis_url = "redis://localhost:6379"

set_llm_cache(RedisSemanticCache(
    embedding=FakeEmbeddings(),
    redis_url=redis_url
))

向量存储

向量存储封装将 Redis 变成一个用于语义搜索或 LLM 内容检索的低延迟 向量数据库
from langchain_community.vectorstores import Redis

检索器

Redis 向量存储检索器封装对向量存储类进行泛化,以执行 低延迟文档检索。要创建检索器,只需在基础向量存储类上调用 .as_retriever()