Skip to main content
缓存 LLM 调用 对于测试、节省成本和提高速度非常有用。 以下是一些集成,允许您使用不同的缓存和不同的策略来缓存单个 LLM 调用的结果。

Azure Cosmos DB NoSQL 语义缓存