Skip to main content
Redis (Remote Dictionary Server) 是一个开源的内存存储, 用作分布式内存键值数据库、缓存和消息代理,具有可选的持久性。 由于它将所有数据保存在内存中,并且其设计原因,Redis 提供低延迟的读写操作, 特别适合需要缓存的用例。Redis 是最流行的 NoSQL 数据库, 也是整体上最受欢迎的数据库之一。
本页介绍如何在 LangChain 中使用 Redis 生态系统。 它分为两部分:安装和设置,然后是特定 Redis 包装器的参考。

安装和设置

安装 Python SDK 和 LangChain Redis 集成:
pip install redis langchain-redis
要在本地运行 Redis,可以使用 Docker:
docker run --name langchain-redis -d -p 6379:6379 redis redis-server --save 60 1 --loglevel warning
停止容器:
docker stop langchain-redis
并再次启动它:
docker start langchain-redis

连接

我们需要一个 redis url 连接字符串来连接到数据库,支持独立的 Redis 服务器或具有复制和 Redis Sentinel 的高可用性设置。

Redis 独立连接 url

对于独立的 Redis 服务器,可以使用官方的 redis 连接 url 格式,如 Python redis 模块的 “from_url()” 方法所述 Redis.from_url 示例:redis_url = "redis://:secret-pass@localhost:6379/0"

Redis Sentinel 连接 url

对于 Redis sentinel 设置,连接方案是 “redis+sentinel”。 这是对官方 IANA 注册协议方案的非官方扩展,因为目前没有可用的 Sentinel 连接 url。 示例:redis_url = "redis+sentinel://:secret-pass@sentinel-host:26379/mymaster/0" 格式为 redis+sentinel://$USERNAME:$PASSWORD@$HOST_OR_IP:$PORT/$SERVICE_NAME/$DB_NUMBER, 如果未显式设置,默认值为 “service-name = mymaster” 和 “db-number = 0”。 service-name 是 Sentinel 中配置的 Redis 服务器监控组名称。 当前 url 格式将连接字符串限制为仅一个 sentinel 主机(不能给出列表), 并且 Redis 服务器和 sentinel 必须设置相同的密码(如果使用)。

Redis 集群连接 url

目前,所有需要 “redis_url” 参数的方法都不支持 Redis 集群。 使用 Redis 集群的唯一方法是使用接受预配置 Redis 客户端的 LangChain 类,如 RedisCache (下面的示例)。

缓存

缓存包装器允许将 Redis 用作 LLM 提示和响应的远程、低延迟内存缓存。

标准缓存

标准缓存是 Redis 在生产中用于 开源企业 用户的典型案例。
from langchain_redis import RedisCache
要将此缓存与您的 LLM 一起使用:
from langchain.globals import set_llm_cache
import redis

redis_client = redis.Redis.from_url(...)
set_llm_cache(RedisCache(redis_client))

语义缓存

语义缓存允许用户根据用户输入和先前缓存结果之间的语义相似性检索缓存的提示。在底层,它将 Redis 混合用作缓存和向量存储。
from langchain_redis import RedisSemanticCache
要将此缓存与您的 LLM 一起使用:
from langchain.globals import set_llm_cache
import redis

# 使用任何嵌入提供程序...
from tests.integration_tests.vectorstores.fake_embeddings import FakeEmbeddings

redis_url = "redis://localhost:6379"

set_llm_cache(RedisSemanticCache(
    embedding=FakeEmbeddings(),
    redis_url=redis_url
))

向量存储

向量存储包装器将 Redis 转换为用于语义搜索或 LLM 内容检索的低延迟向量数据库
from langchain_community.vectorstores import Redis

检索器

Redis 向量存储检索器包装器将向量存储类泛化以执行低延迟文档检索。要创建检索器,只需在基础向量存储类上调用 .as_retriever()