Skip to main content
Unstructured.IO 提供的 unstructured 包可从 PDF、Word 文档等原始源文档中提取干净的文本。 本页介绍如何在 LangChain 中使用 unstructured 生态系统。

安装与设置

如果你使用的是在本地运行的加载器,请按照以下步骤运行 unstructured 及其依赖项。
  • 为了最小化安装体积并使用开源 unstructured 包中没有的功能,可通过 pip install unstructured-client 安装 Python SDK, 并配合 pip install langchain-unstructured 使用 UnstructuredLoader,在 Unstructured API 上远程进行文档分区处理。 该加载器位于 LangChain 合作伙伴仓库而非 langchain-community 仓库,你需要一个 api_key,可在此处免费生成密钥。
  • 若要在本地运行所有内容,可通过 pip install unstructured 安装开源 Python 包, 并配合 pip install langchain-community 使用上述相同的 UnstructuredLoader
    • 可以通过 extras 安装特定文档类型的依赖,例如 pip install "unstructured[docx]"。更多关于 extras 的信息请参阅此处
    • 若要安装所有文档类型的依赖,可使用 pip install "unstructured[all-docs]"
  • 如果以下系统依赖尚未在你的系统上安装,请使用如 brew install(Mac)等方式安装。根据你需要解析的文档类型,可能不需要全部安装。
    • libmagic-dev(文件类型检测)
    • poppler-utils(图像和 PDF)
    • tesseract-ocr(图像和 PDF)
    • qpdf(PDF)
    • libreoffice(MS Office 文档)
    • pandoc(EPUB)
  • 在本地运行时,Unstructured 还建议按照此指南使用 Docker,以确保所有系统依赖正确安装。
Unstructured API 需要 API 密钥才能发出请求。 你可以在此处申请 API 密钥并立即开始使用! 查看此处的 README 开始进行 API 调用。 我们非常希望听到你的反馈,欢迎在我们的社区 Slack中告知进展。 并请持续关注质量和性能方面的改进! 如果你想自托管 Unstructured API 或在本地运行,请查看此处的说明。

数据加载器

Unstructured 的主要用途是数据加载器。

UnstructuredLoader

查看使用示例,了解如何使用此加载器进行本地分区处理以及通过无服务器 Unstructured API 远程处理。
from langchain_unstructured import UnstructuredLoader

UnstructuredCHMLoader

CHM 代表 Microsoft Compiled HTML Help(微软编译 HTML 帮助文件)。
from langchain_community.document_loaders import UnstructuredCHMLoader

UnstructuredCSVLoader

逗号分隔值CSV)文件是一种使用逗号分隔值的定界文本文件。文件的每一行是一条数据记录,每条记录由一个或多个字段组成,字段之间用逗号分隔。 查看使用示例
from langchain_community.document_loaders import UnstructuredCSVLoader

UnstructuredEmailLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredEmailLoader

UnstructuredEPubLoader

EPUB 是一种使用 “.epub” 文件扩展名的电子书文件格式,是 “electronic publication” 的缩写,有时也写作 ePubEPUB 受许多电子书阅读器支持,大多数智能手机、平板电脑和计算机都有兼容的软件。 查看使用示例
from langchain_community.document_loaders import UnstructuredEPubLoader

UnstructuredExcelLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredExcelLoader

UnstructuredFileIOLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredFileIOLoader

UnstructuredHTMLLoader

from langchain_community.document_loaders import UnstructuredHTMLLoader

UnstructuredImageLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredImageLoader

UnstructuredMarkdownLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredMarkdownLoader

UnstructuredODTLoader

办公应用程序开放文档格式(ODF),也称为 OpenDocument,是一种用于文字处理文档、电子表格、演示文稿和图形的开放文件格式,使用 ZIP 压缩的 XML 文件。它的开发目标是为办公应用程序提供一种开放的、基于 XML 的文件格式规范。 查看使用示例
from langchain_community.document_loaders import UnstructuredODTLoader

UnstructuredOrgModeLoader

Org Mode 文档是一种在免费软件文本编辑器 Emacs 中用于笔记、规划和写作的文档编辑、格式化和组织模式。 查看使用示例
from langchain_community.document_loaders import UnstructuredOrgModeLoader

UnstructuredPDFLoader

from langchain_community.document_loaders import UnstructuredPDFLoader

UnstructuredPowerPointLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredPowerPointLoader

UnstructuredRSTLoader

reStructured TextRST)文件是一种文本数据文件格式,主要在 Python 编程语言社区中用于技术文档。 查看使用示例
from langchain_community.document_loaders import UnstructuredRSTLoader

UnstructuredRTFLoader

查看 API 文档中的使用示例。
from langchain_community.document_loaders import UnstructuredRTFLoader

UnstructuredTSVLoader

制表符分隔值TSV)文件是一种用于存储表格数据的简单文本文件格式。记录之间用换行符分隔,记录中的值之间用制表符分隔。 查看使用示例
from langchain_community.document_loaders import UnstructuredTSVLoader

UnstructuredURLLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredURLLoader

UnstructuredWordDocumentLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredWordDocumentLoader

UnstructuredXMLLoader

查看使用示例
from langchain_community.document_loaders import UnstructuredXMLLoader