Skip to main content
Amazon Bedrock Converse 是一项完全托管的服务,通过 API 提供来自领先 AI 初创公司和 Amazon 的基础模型 (FMs)。您可以从广泛的 FMs 中选择最适合您用例的模型。它为 Bedrock 模型提供了统一的对话界面,但尚未具备旧版 Bedrock 模型服务 中所有功能的同等特性。 这将帮助您开始使用 ChatBedrockConverse 聊天模型。有关所有 ChatBedrockConverse 功能和配置的详细文档,请前往 API 参考

概述

集成详情

可序列化PY 支持下载量版本
ChatBedrockConverse@langchain/awsNPM - DownloadsNPM - Version

模型功能

请参阅下表标题中的链接,了解如何使用特定功能的指南。

设置

要访问 Bedrock 模型,您需要创建一个 AWS 账户、设置 Bedrock API 服务、获取访问密钥 ID 和密钥,并安装 @langchain/community 集成包。

凭证

前往 AWS 文档 注册 AWS 并设置您的凭证。您还需要为您的账户启用模型访问,可以通过遵循这些说明来完成。 如果您想自动跟踪模型调用,还可以通过取消注释以下内容来设置您的 LangSmith API 密钥:
# export LANGSMITH_TRACING="true"
# export LANGSMITH_API_KEY="your-api-key"

安装

LangChain ChatBedrockConverse 集成位于 @langchain/aws 包中:
npm install @langchain/aws @langchain/core

实例化

现在我们可以实例化我们的模型对象并生成聊天补全。 有几种不同的方式可以与 AWS 进行身份验证 - 以下示例依赖于环境变量中设置的访问密钥、秘密访问密钥和区域:
import { ChatBedrockConverse } from "@langchain/aws";

const llm = new ChatBedrockConverse({
  model: "anthropic.claude-3-5-sonnet-20240620-v1:0",
  region: process.env.BEDROCK_AWS_REGION,
  credentials: {
    accessKeyId: process.env.BEDROCK_AWS_ACCESS_KEY_ID!,
    secretAccessKey: process.env.BEDROCK_AWS_SECRET_ACCESS_KEY!,
  },
});

调用

const aiMsg = await llm.invoke([
  [
    "system",
    "You are a helpful assistant that translates English to French. Translate the user sentence.",
  ],
  ["human", "I love programming."],
])
aiMsg
AIMessage {
  "id": "f5dc5791-224e-4fe5-ba2e-4cc51d9e7795",
  "content": "J'adore la programmation.",
  "additional_kwargs": {},
  "response_metadata": {
    "$metadata": {
      "httpStatusCode": 200,
      "requestId": "f5dc5791-224e-4fe5-ba2e-4cc51d9e7795",
      "attempts": 1,
      "totalRetryDelay": 0
    },
    "metrics": {
      "latencyMs": 584
    },
    "stopReason": "end_turn",
    "usage": {
      "inputTokens": 29,
      "outputTokens": 11,
      "totalTokens": 40
    }
  },
  "tool_calls": [],
  "invalid_tool_calls": [],
  "usage_metadata": {
    "input_tokens": 29,
    "output_tokens": 11,
    "total_tokens": 40
  }
}
console.log(aiMsg.content)
J'adore la programmation.

工具调用

使用 Bedrock 模型进行工具调用的方式与其他模型类似,但请注意并非所有 Bedrock 模型都支持工具调用。请参阅 AWS 模型文档 以获取更多信息。

API 参考

有关所有 ChatBedrockConverse 功能和配置的详细文档,请前往 API 参考