Baseten 提供了部署和服务机器学习模型所需的全部基础设施,具备高性能、可靠性和可扩展性。
作为模型推理平台,Baseten在 LangChain 生态系统中是一个Provider。Baseten集成目前实现了聊天模型和嵌入组件。
Baseten允许您通过指定模型 slug 访问 Kimi K2 或 GPT OSS 等开源模型的 API, 也支持通过指定model_url在专用 GPU 上运行专有或微调模型。
安装与设置
在 LangChain 中使用 Baseten 模型需要两样东西:- 一个 Baseten 账户
- 一个 API 密钥
BASETEN_API_KEY 的环境变量。
聊天模型(模型 API 和专用部署)
查看使用示例。嵌入(仅限专用部署)
查看使用示例。通过 MCP 将这些文档接入 Claude、VSCode 等工具,获取实时解答。

