Bedrock 集成

您当前正在查看的是关于将 Amazon Bedrock 模型用作文本补全模型的文档。Bedrock 上提供的许多流行模型是聊天补全模型。您可能想查看的是此页面。

Amazon Bedrock 是一项完全托管的服务，可通过 API 提供来自领先 AI 初创公司和 Amazon 的基础模型 (FMs)。您可以从广泛的 FMs 中进行选择，以找到最适合您用例的模型。

这将帮助您开始使用 LangChain 的 Bedrock 补全模型（大语言模型）。有关 Bedrock 功能和配置选项的详细文档，请参阅 API 参考。

概述

集成详情

类	包	本地	可序列化	Python 支持	下载量	版本
`Bedrock`	`@langchain/community`	❌	✅	✅

设置

要访问 Bedrock 模型，您需要创建一个 AWS 账户、获取 API 密钥，并安装 @langchain/community 集成包以及一些对等依赖项。

凭证

前往 aws.amazon.com 注册 AWS Bedrock 并生成 API 密钥。完成此操作后，设置环境变量：

export BEDROCK_AWS_REGION="your-region-url"
export BEDROCK_AWS_ACCESS_KEY_ID="your-access-key-id"
export BEDROCK_AWS_SECRET_ACCESS_KEY="your-secret-access-key"

如果您想获得模型调用的自动跟踪，也可以通过取消注释以下内容来设置您的 LangSmith API 密钥：

# export LANGSMITH_TRACING="true"
# export LANGSMITH_API_KEY="your-api-key"

安装

LangChain Bedrock 集成包位于 @langchain/community 包中：

npm install @langchain/community @langchain/core

yarn add @langchain/community @langchain/core

pnpm add @langchain/community @langchain/core

并安装对等依赖项：

npm install @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

yarn add @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

pnpm add @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

您也可以在 Web 环境（如 Edge 函数或 Cloudflare Workers）中使用 Bedrock，方法是省略 @aws-sdk/credential-provider-node 依赖项并使用 web 入口点：

npm install @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

yarn add @langchain/community @langchain/core

yarn add @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

yarn add @langchain/community @langchain/core

pnpm add @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

yarn add @langchain/community @langchain/core

并安装对等依赖项：

npm install @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

yarn add @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

pnpm add @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

您也可以在 Web 环境（如 Edge 函数或 Cloudflare Workers）中使用 Bedrock，方法是省略 @aws-sdk/credential-provider-node 依赖项并使用 web 入口点：

npm install @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

pnpm add @langchain/community @langchain/core

yarn add @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

pnpm add @langchain/community @langchain/core

pnpm add @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

pnpm add @langchain/community @langchain/core

并安装对等依赖项：

npm install @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

yarn add @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

pnpm add @aws-crypto/sha256-js @aws-sdk/credential-provider-node @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

您也可以在 Web 环境（如 Edge 函数或 Cloudflare Workers）中使用 Bedrock，方法是省略 @aws-sdk/credential-provider-node 依赖项并使用 web 入口点：

npm install @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

yarn add @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

pnpm add @aws-crypto/sha256-js @smithy/protocol-http @smithy/signature-v4 @smithy/eventstream-codec @smithy/util-utf8 @aws-sdk/types

实例化

现在我们可以实例化模型对象并生成聊天补全：

// @lc-docs-hide-cell
// Deno 需要这些导入以及加载环境变量的方式。
// 我们不想在文档中暴露这些。
// 在此单元格下方，我们有一个包含 Node 代码的 typescript markdown 代码块。
import "@aws-sdk/credential-provider-node";
import "@smithy/protocol-http";
import "@aws-crypto/sha256-js";
import "@smithy/protocol-http";
import "@smithy/signature-v4";
import "@smithy/eventstream-codec";
import "@smithy/util-utf8";
import "@aws-sdk/types";
import { Bedrock } from "@langchain/community/llms/bedrock"
import { getEnvironmentVariable } from "@langchain/core/utils/env";

const llm = new Bedrock({
  model: "anthropic.claude-v2",
  region: "us-east-1",
  // endpointUrl: "custom.amazonaws.com",
  credentials: {
    accessKeyId: getEnvironmentVariable("BEDROCK_AWS_ACCESS_KEY_ID"),
    secretAccessKey: getEnvironmentVariable("BEDROCK_AWS_SECRET_ACCESS_KEY"),
  },
  temperature: 0,
  maxTokens: undefined,
  maxRetries: 2,
  // 其他参数...
})

import { Bedrock } from "@langchain/community/llms/bedrock"

const llm = new Bedrock({
  model: "anthropic.claude-v2",
  region: process.env.BEDROCK_AWS_REGION ?? "us-east-1",
  // endpointUrl: "custom.amazonaws.com",
  credentials: {
    accessKeyId: process.env.BEDROCK_AWS_ACCESS_KEY_ID,
    secretAccessKey: process.env.BEDROCK_AWS_SECRET_ACCESS_KEY,
  },
  temperature: 0,
  maxTokens: undefined,
  maxRetries: 2,
  // 其他参数...
})

调用

请注意，某些模型需要特定的提示技巧。例如，如果提示不以 Human: 开头，Anthropic 的 Claude-v2 模型将抛出错误。

const inputText = "Human: Bedrock is an AI company that\nAssistant: "

const completion = await llm.invoke(inputText)
completion

" Here are a few key points about Bedrock AI:\n" +
  "\n" +
  "- Bedrock was founded in 2021 and is based in San Fran"... 116 more characters

API 参考

有关所有 Bedrock 功能和配置的详细文档，请前往 API 参考。

将这些文档通过 MCP 连接到 Claude、VSCode 等，以获取实时答案。

在 GitHub 上编辑此页面或提交问题。

Popular Providers

General integrations

RAG integrations

概述

集成详情

设置

凭证

安装

实例化

调用

API 参考

​概述

​集成详情

​设置

​凭证

​安装

​实例化

​调用

​API 参考

概述

集成详情

设置

凭证

安装

实例化

调用

API 参考