安全策略 - Docs by LangChain

LangChain 拥有一个庞大的集成生态系统，可与各种外部资源（如本地和远程文件系统、API 和数据库）进行连接。这些集成使开发者能够创建功能多样的应用程序，将大语言模型（LLM）的强大能力与访问、交互和操作外部资源的能力相结合。

最佳实践

在构建此类应用程序时，开发者应遵循良好的安全实践：

限制权限：将权限范围严格限定于应用程序的特定需求。授予广泛或过度的权限可能引入重大安全漏洞。为避免此类漏洞，请考虑使用只读凭据、禁止访问敏感资源、使用沙箱技术（例如在容器内运行）、指定代理配置以控制外部请求等，具体取决于您的应用程序。
预想潜在的误用：正如人类会犯错一样，大语言模型（LLM）也可能出错。始终假设任何系统访问权限或凭据都可能以其被授予的任何允许方式被使用。例如，如果一对数据库凭据允许删除数据，最安全的做法是假设任何能够使用这些凭据的 LLM 都可能实际删除数据。
纵深防御：没有完美的安全技术。微调和良好的链设计可以降低但无法消除大语言模型（LLM）出错的可能性。最好结合多种分层安全方法，而不是依赖任何单一防御层来确保安全。例如：同时使用只读权限和沙箱技术，以确保 LLM 只能访问明确为其设计的数据。

不这样做带来的风险包括但不限于：

带有缓解策略的示例场景：

用户可能会要求具有文件系统访问权限的代理删除不应删除的文件或读取包含敏感信息的文件内容。为缓解此风险，将代理限制为仅使用特定目录，并仅允许其读取或写入安全的文件。考虑通过在容器中运行代理来进一步对其进行沙箱隔离。
用户可能会要求具有外部 API 写入权限的代理向该 API 写入恶意数据或从中删除数据。为缓解此风险，为代理提供只读 API 密钥，或将其限制为仅使用已能抵御此类误用的端点。
用户可能会要求具有数据库访问权限的代理删除表或修改模式。为缓解此风险，将凭据范围限定为代理需要访问的特定表，并考虑颁发只读凭据。

如果您正在构建访问外部资源（如文件系统、API 或数据库）的应用程序，请考虑与贵公司的安全团队沟通，以确定如何最好地设计和保护您的应用程序。

请使用以下流程报告与 LangChain 开源项目相关的安全漏洞：

在报告漏洞之前，请查阅上方的最佳实践，以了解我们对安全漏洞与开发者责任的界定。

我们欢迎针对所有 LangChain 库的安全漏洞报告。但是，我们可能仅为以下软件包中的漏洞提供临时漏洞赏金：

由 LangChain 团队拥有和维护的核心库：langchain-core、langchain（v1）、langgraph 及相关的检查点软件包（或其 JavaScript 等效版本）
由 LangChain 团队维护的流行集成（例如 langchain-openai、langchain-anthropic 等，或其 JavaScript 等效版本）

漏洞必须存在于库代码本身，而非示例代码或示例应用程序中。我们欢迎针对所有其他 LangChain 软件包的报告，并将处理有效的安全问题，但不会为超出此范围的软件包提供漏洞赏金。这包括 langchain-community，由于其社区驱动的性质，不符合漏洞赏金资格，但我们将接受并处理报告。

以下内容不在安全漏洞报告范围内：

请通过电子邮件 security@langchain.dev 报告与 LangSmith 相关的安全漏洞。

如有任何其他安全问题，请通过 security@langchain.dev 联系我们。

将这些文档通过 MCP 连接到 Claude、VSCode 等，以获取实时答案。