Skip to main content
Anyscale 是一个通过生产就绪 API 运行、微调和扩展 LLM 的平台。 Anyscale Endpoints 以具有成本效益的方式提供众多开源模型服务。
Anyscale 还提供了一个示例， 展示如何将 LangChain 与 Anyscale 配合使用以构建高级聊天 Agent。

​
安装与设置

  • 获取 Anyscale 服务 URL、路由和 API 密钥，并将其设置为环境变量（ANYSCALE_SERVICE_URL、ANYSCALE_SERVICE_ROUTE、ANYSCALE_SERVICE_TOKEN）。
  • 请参阅 Anyscale 文档 了解更多详情。
我们需要安装 openai 包： 
pip install openai

​
LLM

查看使用示例。 
from langchain_community.llms.anyscale import Anyscale

​
嵌入

查看使用示例。 
from langchain_community.embeddings import AnyscaleEmbeddings
在 GitHub 上编辑此页面 或 提交问题。
通过 MCP 将这些文档接入 Claude、VSCode 等工具，获取实时解答。