Skip to main content
LangChain 拥有一个庞大的集成生态系统,可连接各种外部资源,如本地和远程文件系统、API 和数据库。这些集成使开发者能够创建功能多样的应用程序,将大语言模型(LLM)的强大能力与访问、交互和操作外部资源的能力相结合。

最佳实践

在构建此类应用程序时,开发者应遵循良好的安全实践:
  • 限制权限:将权限范围严格限定于应用程序的特定需求。授予广泛或过度的权限可能引入重大安全漏洞。为避免此类漏洞,请考虑根据应用程序的实际情况,使用只读凭据、禁止访问敏感资源、采用沙箱技术(例如在容器内运行)、指定代理配置以控制外部请求等。
  • 预判潜在的误用:正如人类会犯错一样,大语言模型(LLM)也可能出错。应始终假定任何系统访问权限或凭据都可能以其被授予的任何允许方式被使用。例如,如果一对数据库凭据允许删除数据,最安全的做法是假定任何能够使用这些凭据的 LLM 都可能实际删除数据。
  • 纵深防御:没有任何安全技术是完美的。微调和良好的链设计可以降低但无法完全消除大语言模型(LLM)出错的可能性。最好结合多种分层安全方法,而不是依赖任何单一防御层来确保安全。例如:同时使用只读权限和沙箱技术,以确保 LLM 只能访问明确为其设计的数据。
不这样做带来的风险包括但不限于:
  • 数据损坏或丢失。
  • 未经授权访问机密信息。
  • 关键资源的性能或可用性受损。
带有缓解策略的示例场景:
  • 用户可能要求具有文件系统访问权限的代理删除不应删除的文件或读取包含敏感信息的文件内容。为缓解此风险,应将代理限制为仅使用特定目录,并仅允许其读取或写入安全的文件。考虑通过在容器中运行代理来进一步实施沙箱隔离。
  • 用户可能要求具有外部 API 写入权限的代理向该 API 写入恶意数据或从中删除数据。为缓解此风险,应向代理提供只读 API 密钥,或将其限制为仅使用已能抵御此类误用的端点。
  • 用户可能要求具有数据库访问权限的代理删除表或修改模式。为缓解此风险,应将凭据范围限定为代理需要访问的表,并考虑颁发只读凭据。
如果您正在构建访问外部资源(如文件系统、API 或数据库)的应用程序,请考虑与贵公司的安全团队沟通,以确定如何最好地设计和保护您的应用程序。

报告开源漏洞

请使用以下流程报告与 LangChain 开源项目相关的安全漏洞:
  1. 提交安全公告:在存在漏洞的 GitHub 仓库的“Security”选项卡上提交。
  2. 发送电子邮件:发送邮件至 security@langchain.dev,通知我们您已提交安全问题,并说明提交至哪个仓库。
在报告漏洞之前,请查阅上方的最佳实践,以了解我们对安全漏洞与开发者责任的界定。

漏洞赏金资格

我们欢迎针对所有 LangChain 库的安全漏洞报告。但是,我们可能仅为以下软件包中的漏洞提供临时漏洞赏金:
  • 由 LangChain 团队拥有和维护的核心库:langchain-corelangchain(v1)、langgraph 及相关的检查点软件包(或其 JavaScript 等效版本)
  • 由 LangChain 团队维护的流行集成(例如 langchain-openailangchain-anthropic 等,或其 JavaScript 等效版本)
漏洞必须存在于库代码本身,而非示例代码或示例应用程序中。 我们欢迎针对所有其他 LangChain 软件包的报告,并将处理有效的安全问题,但不会为超出此范围的软件包提供漏洞赏金。这包括 langchain-community,由于其社区驱动的性质,不符合漏洞赏金资格,但我们会接受并处理相关报告。

范围外目标

以下内容不在安全漏洞报告范围内:
  • langchain-experimental:此仓库用于实验性代码,不在安全报告范围内(参见软件包警告)。
  • 示例和示例应用程序:示例代码和演示应用程序不在安全报告范围内。
  • 带有安全通知文档的代码:这将根据具体情况决定,但很可能不在范围内,因为代码已附有开发者应遵循的指南,以确保其应用程序的安全。
  • LangSmith 相关仓库或 API:请参阅下方的报告 LangSmith 漏洞

报告 LangSmith 漏洞

请通过电子邮件 security@langchain.dev 报告与 LangSmith 相关的安全漏洞。

其他安全问题

如有任何其他安全问题,请通过 security@langchain.dev 联系我们。