Skip to main content
LangChain 通过 ChatDeepInfra 包装器支持由 Deep Infra 托管的聊天模型。 首先，你需要安装 @langchain/community 包：
请参阅 此部分以获取有关安装 LangChain 包的通用说明。
npm
npm install @langchain/community @langchain/core
你需要获取 API 密钥并将其设置为名为 DEEPINFRA_API_TOKEN 的环境变量 （或将其传递给构造函数），然后按如下所示调用模型： 
import { ChatDeepInfra } from "@langchain/community/chat_models/deepinfra";
import { HumanMessage } from "@langchain/core/messages";

const apiKey = process.env.DEEPINFRA_API_TOKEN;

const model = "meta-llama/Meta-Llama-3-70B-Instruct";

const chat = new ChatDeepInfra({
  model,
  apiKey,
});

const messages = [new HumanMessage("Hello")];

const res = await chat.invoke(messages);

console.log(res);

​
相关

在 GitHub 上编辑此页面 或 提交 issue。
将这些文档连接 到 Claude、VSCode 等，通过 MCP 获取实时解答。