EdenAI 不仅仅是模型调用,它还为您提供了高级功能,包括:
- 多家提供商:访问多家提供商提供的多种语言模型,让您可以自由选择最适合您使用场景的模型。
- 回退机制:设置回退机制,即使主提供商不可用也能确保无缝运行,可轻松切换到备用提供商。
- 用量追踪:按项目和 API 密钥维度追踪用量统计数据。此功能让您可以有效监控和管理资源消耗。
-
监控与可观测性:
EdenAI在平台上提供全面的监控和可观测性工具。监控语言模型的性能、分析使用模式,并获取有价值的洞察以优化您的应用。
流式输出与批处理
ChatEdenAI 支持流式输出和批处理,以下是示例。
回退机制
通过 Eden AI,您可以设置回退机制,即使主提供商不可用也能确保无缝运行,可轻松切换到备用提供商。链式调用
工具
bind_tools()
使用ChatEdenAI.bind_tools,我们可以轻松地将 Pydantic 类、dict 模式、LangChain 工具甚至函数作为工具传递给模型。
with_structured_output()
BaseChatModel.with_structured_output 接口使得从聊天模型获取结构化输出变得简单。您可以使用 ChatEdenAI.with_structured_output(底层使用工具调用)让模型更可靠地以特定格式返回输出:
将工具结果传递给模型
以下是如何使用工具的完整示例。将工具输出传递给模型,并从模型获取结果:流式输出
Eden AI 目前不支持流式工具调用。尝试流式输出将返回一条最终消息。将这些文档连接 到 Claude、VSCode 等,通过 MCP 获取实时解答。

