Skip to main content
Together AI 提供 API，只需几行代码即可查询 50 多个领先开源模型。 本示例介绍如何使用 LangChain 与 Together AI 模型进行交互。

​
安装

pip install -U langchain-together

​
环境配置

要使用 Together AI，您需要一个 API 密钥，可在以下位置获取： api.together.ai/settings/api-keys。可以作为初始化参数 together_api_key 传入， 或设置为环境变量 TOGETHER_API_KEY。

​
示例

# Querying chat models with Together AI

from langchain_together import ChatTogether

# choose from our 50+ models here: https://docs.together.ai/docs/inference-models
chat = ChatTogether(
    # together_api_key="YOUR_API_KEY",
    model="meta-llama/Llama-3-70b-chat-hf",
)

# stream the response back from the model
for m in chat.stream("Tell me fun things to do in NYC"):
    print(m.content, end="", flush=True)

# if you don't want to do streaming, you can use the invoke method
# chat.invoke("Tell me fun things to do in NYC")

# Querying code and language models with Together AI

from langchain_together import Together

llm = Together(
    model="codellama/CodeLlama-70b-Python-hf",
    # together_api_key="..."
)

print(llm.invoke("def bubble_sort(): "))
在 GitHub 上编辑此页面 或 提交问题。
连接这些文档 到 Claude、VSCode 等，通过 MCP 获取实时答案。