DeepInfra 允许我们轻松运行 最新的机器学习模型。 DeepInfra 负责处理运行、扩展和监控模型的所有繁重工作。用户可以专注于应用, 并通过简单的 REST API 调用集成模型。
DeepInfra 提供了与 LangChain 集成的示例。本页介绍如何在
LangChain 中使用 DeepInfra 生态系统。
分为两部分:安装与设置,以及特定 DeepInfra 封装的参考。
安装与设置
- 从此链接获取您的 DeepInfra API 密钥。
- 获取 DeepInfra API 密钥并将其设置为环境变量(
DEEPINFRA_API_TOKEN)
可用模型
DeepInfra 提供一系列开源 LLM,随时可供部署。 您可以查看支持 文本生成和 嵌入的模型。 您可以查看请求和响应参数列表。 聊天模型遵循 OpenAI APILLM
查看使用示例。嵌入
查看使用示例。聊天模型
查看使用示例。通过 MCP 将这些文档连接到 Claude、VSCode 等,获取实时答案。

