Skip to main content
Guardrails 是一种用于约束生成式 AI 输出的工具。它允许开发人员定义规则和约束，确保生成的内容符合预期。

​
安装

pip install guardrails

​
示例

以下是一个简单的 Guardrails 示例： 
from guardrails import Guardrails

# 定义规则
rules = {
    "max_length": 100,
    "no_profanity": True
}

# 初始化 Guardrails
rails = Guardrails(rules)

# 应用规则
output = rails.apply("生成的文本内容")
print(output)

​
集成到 LangChain

Guardrails 可以与 LangChain 集成，以确保代理生成的输出符合规则。 
from langchain.chains import LLMChain
from guardrails import Guardrails

# 定义规则
rules = {
    "max_length": 100,
    "no_profanity": True
}

# 初始化 Guardrails
rails = Guardrails(rules)

# 创建 LangChain
chain = LLMChain(llm=llm, guardrails=rails)

# 运行链
result = chain.run("输入内容")
print(result)
使用 Guardrails 可以显著提高生成式 AI 的可靠性和安全性。