Skip to main content
Azure Blob Storage 是 Microsoft 的云端对象存储解决方案。Blob Storage 针对存储大量非结构化数据进行了优化。非结构化数据是指不遵循特定数据模型或定义的数据,例如文本或二进制数据。
Azure Blob Storage 设计用于:
  • 直接向浏览器提供图像或文档。
  • 存储文件以供分布式访问。
  • 流式传输视频和音频。
  • 写入日志文件。
  • 存储用于备份和恢复、灾难恢复和归档的数据。
  • 存储用于本地或 Azure 托管服务分析的数据。
本笔记本介绍如何从 Azure Blob Storage 上的容器加载文档对象。有关文档加载器的更详细文档,请参阅 Azure Blob Storage Loader API 参考
建议使用此新加载器,而不是之前来自 langchain_communityAzureBlobStorageFileLoaderAzureBlobStorageContainerLoader。有关迁移到新加载器的详细说明,请参阅迁移指南

设置

pip install -qU langchain-azure-storage
from langchain_azure_storage.document_loaders import AzureBlobStorageLoader

从容器加载

AzureBlobStorageLoader 从 Azure Blob Storage 中的给定容器加载所有 Blob,并需要一个账户 URL 和容器名称。加载器返回包含 Blob 内容(默认为 UTF-8 编码)和元数据(包括 Blob URL)的 Document 对象,如下例所示。 无需显式配置凭据,因为它使用 DefaultAzureCredential,该凭据会根据当前环境自动检索 Microsoft Entra ID 令牌
loader = AzureBlobStorageLoader(
    "https://<storage-account-name>.blob.core.windows.net",
    "<container-name>",
)

for doc in loader.load():
    print(doc)
page_content='Lorem ipsum dolor sit amet.' metadata={'source': 'https://<storage-account-name>.blob.core.windows.net/<container-name>/<blob-name>'}
您还可以指定一个前缀,以仅返回以该前缀开头的 Blob。
loader = AzureBlobStorageLoader(
    "https://<storage-account-name>.blob.core.windows.net",
    "<container-name>",
    prefix="<prefix>",
)

按 Blob 名称从容器加载

您可以从 Blob 名称列表加载文档,这仅使用提供的 Blob,而无需调用 API 来列出 Blob。
loader = AzureBlobStorageLoader(
    "https://<storage-account-name>.blob.core.windows.net",
    "<container-name>",
    blob_names=["blob-1", "blob-2", "blob-3"],
)

覆盖默认凭据

默认情况下,文档加载器使用 DefaultAzureCredential。以下示例显示了如何覆盖此设置:
from azure.core.credentials import AzureSasCredential
from azure.identity import ManagedIdentityCredential
from langchain_azure_storage.document_loaders import AzureBlobStorageLoader

# 使用 SAS 令牌覆盖
loader = AzureBlobStorageLoader(
    "https://<storage-account-name>.blob.core.windows.net",
    "<container-name>",
    credential=AzureSasCredential("<sas-token>")
)

# 使用比整个默认凭据链更具体的令牌凭据覆盖(例如,系统分配的托管标识)
loader = AzureBlobStorageLoader(
    "https://<storage-account-name>.blob.core.windows.net",
    "<container-name>",
    credential=ManagedIdentityCredential()
)

自定义 Blob 内容解析

目前,解析每个 Blob 时的默认行为是返回内容作为单个 Document 对象,使用 UTF-8 编码,无论文件类型如何。对于需要特定解析的文件类型(例如 PDF、CSV 等)或当您想要控制文档内容格式时,您可以提供 loader_factory 参数,以接收已存在的文档加载器(例如 PyPDFLoader、CSVLoader 等)或自定义加载器。 这通过将 Blob 内容下载到临时文件来实现。然后使用文件路径调用 loader_factory,以使用指定的文档加载器加载/解析文件并返回 Document 对象。 下面显示了如何使用 PyPDFLoader 覆盖用于将 Blob 解析为 PDF 的默认加载器:
from langchain_azure_storage.document_loaders import AzureBlobStorageLoader
from langchain_community.document_loaders import PyPDFLoader  # 此示例需要安装 `langchain-community` 和 `pypdf`

loader = AzureBlobStorageLoader(
    "https://<storage-account-name>.blob.core.windows.net",
    "<container-name>",
    blob_names="<pdf-file.pdf>",
    loader_factory=PyPDFLoader,
)

for doc in loader.lazy_load():
    print(doc.page_content)  # 打印每个页面的内容作为单独的文档
要提供额外配置,您可以定义一个可调用对象,该对象返回一个已实例化的文档加载器,如下所示:
from langchain_azure_storage.document_loaders import AzureBlobStorageLoader
from langchain_community.document_loaders import PyPDFLoader  # 此示例需要安装 `langchain-community` 和 `pypdf`

def loader_factory(file_path: str) -> PyPDFLoader:
    return PyPDFLoader(
        file_path,
        mode="single",  # 以单个文档形式返回 PDF,而不是按页面提取文档
    )

loader = AzureBlobStorageLoader(
    "https://<storage-account-name>.blob.core.windows.net",
    "<container-name>",
    blob_names="<pdf-file.pdf>",
    loader_factory=loader_factory,
)

for doc in loader.lazy_load():
    print(doc.page_content)