Skip to main content
AgentQL 的文档加载器使用 AgentQL 查询从任意网页中提取结构化数据。AgentQL 可跨多种语言和网页使用，不会随时间和变化而失效。

​
概述

AgentQLLoader 需要以下两个必填参数： 以下参数为可选项：
  • api_key：您在 dev.agentql.com 获取的 AgentQL API key。可选。
  • timeout：请求超时前等待的秒数。默认为 900。
  • is_stealth_mode_enabled：是否启用实验性反机器人规避策略。此功能可能并非在所有网站上始终有效。启用此模式后数据提取可能需要更长时间。默认为 False。
  • wait_for：提取数据前等待页面加载的秒数。默认为 0。
  • is_scroll_to_bottom_enabled：是否在提取数据前滚动到页面底部。默认为 False。
  • mode："standard" 使用深度数据分析，而 "fast" 以牺牲部分分析深度换取速度，适用于大多数用例。在此指南中了解更多关于模式的信息。 默认为 "fast"。
  • is_screenshot_enabled：是否在提取数据前截图。以 Base64 字符串形式返回在 ‘metadata’ 中。默认为 False。
AgentQLLoader 使用 AgentQL 的 REST API 实现。

​
集成详情

类包本地可序列化JS 支持
AgentQLLoaderlangchain-agentql✅❌❌

​
加载器功能

来源文档惰性加载原生异步支持
AgentQLLoader✅❌

​
设置

要使用 AgentQL 文档加载器，您需要配置 AGENTQL_API_KEY 环境变量，或使用 api_key 参数。您可以从我们的开发者门户获取 API key。

​
安装

安装 langchain-agentql。 
pip install -qU langchain-agentql

​
设置凭据

import os

os.environ["AGENTQL_API_KEY"] = "YOUR_AGENTQL_API_KEY"

​
初始化

接下来实例化模型对象： 
from langchain_agentql.document_loaders import AgentQLLoader

loader = AgentQLLoader(
    url="https://www.agentql.com/blog",
    query="""
    {
        posts[] {
            title
            url
            date
            author
        }
    }
    """,
    is_scroll_to_bottom_enabled=True,
)

​
加载

docs = loader.load()
docs[0]

Document(metadata={'request_id': 'bdb9dbe7-8a7f-427f-bc16-839ccc02cae6', 'generated_query': None, 'screenshot': None}, page_content="{'posts': [{'title': 'Launch Week Recap—make the web AI-ready', 'url': 'https://www.agentql.com/blog/2024-launch-week-recap', 'date': 'Nov 18, 2024', 'author': 'Rachel-Lee Nabors'}, {'title': 'Accurate data extraction from PDFs and images with AgentQL', 'url': 'https://www.agentql.com/blog/accurate-data-extraction-pdfs-images', 'date': 'Feb 1, 2025', 'author': 'Rachel-Lee Nabors'}, {'title': 'Introducing Scheduled Scraping Workflows', 'url': 'https://www.agentql.com/blog/scheduling', 'date': 'Dec 2, 2024', 'author': 'Rachel-Lee Nabors'}, {'title': 'Updates to Our Pricing Model', 'url': 'https://www.agentql.com/blog/2024-pricing-update', 'date': 'Nov 19, 2024', 'author': 'Rachel-Lee Nabors'}, {'title': 'Get data from any page: AgentQL's REST API Endpoint—Launch week day 5', 'url': 'https://www.agentql.com/blog/data-rest-api', 'date': 'Nov 15, 2024', 'author': 'Rachel-Lee Nabors'}]}")

print(docs[0].metadata)

{'request_id': 'bdb9dbe7-8a7f-427f-bc16-839ccc02cae6', 'generated_query': None, 'screenshot': None}

​
惰性加载

AgentQLLoader 目前每次只加载一个 Document。因此，load() 和 lazy_load() 的行为相同： 
pages = [doc for doc in loader.lazy_load()]
pages

[Document(metadata={'request_id': '06273abd-b2ef-4e15-b0ec-901cba7b4825', 'generated_query': None, 'screenshot': None}, page_content="{'posts': [{'title': 'Launch Week Recap—make the web AI-ready', 'url': 'https://www.agentql.com/blog/2024-launch-week-recap', 'date': 'Nov 18, 2024', 'author': 'Rachel-Lee Nabors'}, {'title': 'Accurate data extraction from PDFs and images with AgentQL', 'url': 'https://www.agentql.com/blog/accurate-data-extraction-pdfs-images', 'date': 'Feb 1, 2025', 'author': 'Rachel-Lee Nabors'}, {'title': 'Introducing Scheduled Scraping Workflows', 'url': 'https://www.agentql.com/blog/scheduling', 'date': 'Dec 2, 2024', 'author': 'Rachel-Lee Nabors'}, {'title': 'Updates to Our Pricing Model', 'url': 'https://www.agentql.com/blog/2024-pricing-update', 'date': 'Nov 19, 2024', 'author': 'Rachel-Lee Nabors'}, {'title': 'Get data from any page: AgentQL's REST API Endpoint—Launch week day 5', 'url': 'https://www.agentql.com/blog/data-rest-api', 'date': 'Nov 15, 2024', 'author': 'Rachel-Lee Nabors'}]}")]

​
API 参考

有关如何使用此集成的更多信息，请参阅 git 仓库 或 langchain 集成文档
在 GitHub 上编辑此页面 或 提交问题。
通过 MCP 将这些文档连接到 Claude、VSCode 等以获得实时解答。