Skip to main content
DeepInfra 允许我们轻松运行 最新的机器学习模型。 DeepInfra 负责处理运行、扩展和监控模型的所有繁重工作。用户可以专注于应用, 并通过简单的 REST API 调用集成模型。
DeepInfra 提供了与 LangChain 集成的示例
本页介绍如何在 LangChain 中使用 DeepInfra 生态系统。 分为两部分:安装与设置,以及特定 DeepInfra 封装的参考。

安装与设置

  • 此链接获取您的 DeepInfra API 密钥。
  • 获取 DeepInfra API 密钥并将其设置为环境变量(DEEPINFRA_API_TOKEN

可用模型

DeepInfra 提供一系列开源 LLM,随时可供部署。 您可以查看支持 文本生成嵌入的模型。 您可以查看请求和响应参数列表 聊天模型遵循 OpenAI API

LLM

查看使用示例
from langchain_community.llms import DeepInfra

嵌入

查看使用示例
from langchain_community.embeddings import DeepInfraEmbeddings

聊天模型

查看使用示例
from langchain_community.chat_models import ChatDeepInfra