Skip to main content
客户正在转向 SambaNova,以快速部署最先进的 AI 能力,从而获得竞争优势。我们专为企业级 AI 构建的平台是下一代 AI 计算的技术支柱。我们为基础模型提供动力,挖掘数据中蕴藏的宝贵商业洞察。 SambaNova RDU 专为 AI 而设计,采用革命性的数据流架构。与 GPU 相比,这种设计使 RDU 对这些工作负载更加高效,因为它消除了对内存的冗余调用——这是 GPU 工作方式的固有限制。这种内置效率是使 RDU 能够在更小的占用空间内实现远超 GPU 性能的特性之一。 在我们的架构之上,我们开发了一些平台,让企业和开发者能够充分利用 RDU 处理器和开源模型。

安装与设置

安装集成包:
pip install langchain-sambanova

API 密钥

将您的 API 密钥设置为环境变量: 如果您是 SambaCloud 用户,请申请 API 密钥 并将其设置为环境变量:
export SAMBANOVA_API_KEY="your-sambacloud-api-key-here"
如果您是 SambaStack 用户,请将您的 Base URL 和 API 密钥设置为环境变量:
export SAMBANOVA_API_BASE="your-sambastack-envirronment-base-url-here"
export SAMBANOVA_API_KEY="your-sambastack-api-key-here"

聊天模型

有关 ChatSambaNova 组件的详细演练,请参阅使用示例
from langchain_sambanova import ChatSambaNova

嵌入模型

有关 SambaNovaEmbeddings 组件的详细演练,请参阅使用示例
from langchain_sambanova import SambaNovaEmbeddings
SambaNova API 参考