聊天模型
Bedrock 聊天
Amazon Bedrock 是一项完全托管的服务,通过单一 API 提供来自查看使用示例。AI21 Labs、Anthropic、Cohere、Meta、Stability AI和Amazon等领先 AI 公司的高性能基础模型(FMs)选择,以及构建安全、隐私和负责任 AI 的生成式 AI 应用程序所需的广泛功能集。使用Amazon Bedrock,您可以轻松地为您的用例试验和评估顶级基础模型,使用微调和检索增强生成(RAG)等技术使用您的数据对其进行私有定制,并构建使用您的企业系统和数据源执行任务的代理。由于Amazon Bedrock是无服务器的,您无需管理任何基础设施,并且可以使用您已经熟悉的 AWS 服务安全地将生成式 AI 功能集成并部署到您的应用程序中。
Bedrock 对话
AWS Bedrock 维护着一个 Converse API,为 Bedrock 模型提供统一的对话接口。此 API 尚不支持自定义模型。您可以在此处查看所有支持的模型列表。我们建议不需要使用自定义模型的用户使用 Converse API。可以使用 ChatBedrockConverse 访问它。
大语言模型
Bedrock
查看使用示例。Amazon API Gateway
Amazon API Gateway 是一项完全托管的服务,使开发人员能够轻松地在任何规模下创建、发布、维护、监控和保护 API。API 充当应用程序访问后端服务数据、业务逻辑或功能的“前门”。使用查看使用示例。API Gateway,您可以创建 RESTful API 和 WebSocket API,以实现实时双向通信应用程序。API Gateway支持容器化和无服务器工作负载,以及 Web 应用程序。API Gateway处理接受和处理多达数十万个并发 API 调用所涉及的所有任务,包括流量管理、CORS 支持、授权和访问控制、节流、监控和 API 版本管理。API Gateway没有最低费用或启动成本。您只需为收到的 API 调用和传出的数据量付费,并且通过API Gateway的分层定价模型,您可以随着 API 使用量的扩展而降低成本。
SageMaker 端点
Amazon SageMaker 是一个可以使用完全托管的基础设施、工具和工作流来构建、训练和部署机器学习(ML)模型的系统。我们使用
SageMaker 来托管我们的模型并将其作为 SageMaker Endpoint 暴露出来。
查看使用示例。
嵌入模型
Bedrock
查看使用示例。SageMaker 端点
查看使用示例。文档加载器
AWS S3 目录和文件
Amazon Simple Storage Service (Amazon S3) 是一项对象存储服务。 AWS S3 目录 AWS S3 存储桶查看 S3DirectoryLoader 使用示例。 查看 S3FileLoader 使用示例。
Amazon textract
Amazon Textract 是一项机器学习(ML)服务,可自动从扫描的文档中提取文本、手写内容和数据。查看使用示例。
Amazon athena
Amazon Athena 是一项基于开源框架构建的无服务器交互式分析服务,支持开放表和文件格式。查看使用示例。
AWS glue
AWS Glue Data Catalog 是一个集中式元数据存储库,允许您管理、访问和共享存储在 AWS 中的数据的元数据。它充当您数据资产的元数据存储,使各种 AWS 服务和您的应用程序能够高效地查询和连接所需的数据。查看使用示例。
向量存储
Amazon OpenSearch Service
Amazon OpenSearch Service 执行交互式日志分析、实时应用程序监控、网站搜索等。我们需要安装几个 Python 库。OpenSearch是一个源自Elasticsearch的开源分布式搜索和分析套件。Amazon OpenSearch Service提供最新版本的OpenSearch,支持多个版本的Elasticsearch,以及由OpenSearch Dashboards和Kibana提供支持的可视化功能。
Amazon DocumentDB 向量搜索
Amazon DocumentDB (with MongoDB Compatibility) 使得在云中设置、操作和扩展与 MongoDB 兼容的数据库变得非常简单。 使用 Amazon DocumentDB,您可以运行相同的应用程序代码,并使用与 MongoDB 相同的驱动程序和工具。 Amazon DocumentDB 的向量搜索结合了基于 JSON 的文档数据库的灵活性和丰富的查询能力,以及向量搜索的强大功能。
安装与设置
查看详细配置说明。 我们需要安装pymongo Python 包。
在 AWS 上部署 DocumentDB
Amazon DocumentDB (with MongoDB Compatibility) 是一个快速、可靠且完全托管的数据库服务。Amazon DocumentDB 使得在云中设置、操作和扩展与 MongoDB 兼容的数据库变得非常简单。 AWS 提供计算、数据库、存储、分析和其他功能的服务。有关所有 AWS 服务的概述,请参阅 Amazon Web Services 云计算。 查看使用示例。Amazon MemoryDB
Amazon MemoryDB 是一个持久的内存数据库服务,提供超快的性能。MemoryDB 与流行的开源数据存储 Redis OSS 兼容,使您能够使用与今天相同的灵活且友好的 Redis OSS API 和命令快速构建应用程序。 InMemoryVectorStore 类提供了一个用于连接 Amazon MemoryDB 的向量存储。Valkey
Valkey 是一个开源、高性能的键/值数据存储,支持缓存、消息队列等工作负载,并可作为主数据库使用。使用 ValkeyVectorStore 连接 Amazon ElastiCache for Valkey 或 Amazon MemoryDB for Valkey。检索器
Amazon kendra
Amazon Kendra 是由Amazon Web Services(AWS)提供的智能搜索服务。它利用先进的自然语言处理(NLP)和机器学习算法,实现跨组织内各种数据源的强大搜索功能。Kendra旨在帮助用户快速准确地找到所需信息,提高生产力和决策能力。
使用 Kendra,我们可以搜索多种内容类型,包括文档、常见问题解答、知识库、手册和网站。它支持多种语言,可以理解复杂的查询、同义词和上下文含义,以提供高度相关的搜索结果。
我们需要安装 langchain-aws 库。
Amazon Bedrock(知识库)
Knowledge bases for Amazon Bedrock 是一项我们需要安装Amazon Web Services(AWS)服务,允许您使用私有数据定制基础模型响应,从而快速构建 RAG 应用程序。
langchain-aws 库。
工具
AWS lambda
我们需要安装Amazon AWS Lambda是由Amazon Web Services(AWS)提供的无服务器计算服务。它帮助开发人员构建和运行应用程序和服务,无需预置或管理服务器。这种无服务器架构使您能够专注于编写和部署代码,而 AWS 自动负责扩展、修补和管理运行应用程序所需的基础设施。
boto3 Python 库。
Amazon Bedrock AgentCore 浏览器
Amazon Bedrock AgentCore Browser 使代理能够通过托管的 Chrome 浏览器与网页进行交互,用于导航、内容提取和 Web 自动化。
Amazon Bedrock AgentCore 代码解释器
Amazon Bedrock AgentCore Code Interpreter 使代理能够在安全、托管的沙箱环境中执行 Python、JavaScript 和 TypeScript 代码,用于计算、数据分析和可视化。
沙箱
AgentCoreSandbox
Amazon Bedrock AgentCore 代码解释器沙箱后端,用于深度代理。
图
Amazon neptune
Amazon Neptune 是一个高性能图分析和无服务器数据库,提供卓越的可扩展性和可用性。对于下面的 Cypher 和 SPARQL 集成,我们需要安装
langchain-aws 库。
使用 Cypher 的 Amazon neptune
查看使用示例。使用 SPARQL 的 Amazon neptune
记忆
Amazon Bedrock AgentCore 记忆
Amazon Bedrock AgentCore Memory 为 LangGraph 代理提供托管持久化,支持跨会话的对话历史和状态管理,具有自动扩展和高可用性。
- 托管基础设施,无需设置数据库
- 自动扩展和高可用性
- 通过
actor_id隔离支持多代理 - 静态和传输中加密
Amazon Bedrock AgentCore 记忆存储
Amazon Bedrock AgentCore Memory Store 为 LangGraph 代理提供具有语义搜索功能的长期记忆,支持跨会话存储和检索用户偏好、事实和提取的记忆。
回调
Bedrock 令牌使用
SageMaker 跟踪
Amazon SageMaker 是一项完全托管的服务,用于快速轻松地构建、训练和部署机器学习(ML)模型。
Amazon SageMaker Experiments 是 Amazon SageMaker 的一项功能,允许您组织、跟踪、比较和评估 ML 实验和模型版本。
我们需要安装几个 Python 库。
链
Amazon Comprehend 审核链
Amazon Comprehend 是一项自然语言处理(NLP)服务,使用机器学习从文本中发现有价值的见解和关联。我们需要安装
boto3 和 nltk 库。
运行时
Amazon Bedrock AgentCore 运行时
Amazon Bedrock AgentCore Runtime 为 LangGraph 代理提供托管、无服务器的执行环境,具有内置的可观测性、自动扩展以及与其他 AgentCore 服务的无缝集成。
将这些文档通过 MCP 连接到 Claude、VSCode 等,以获取实时答案。

