Cohere 集成

您当前所在的页面记录的是将 Cohere 模型用作文本补全模型的用法。许多流行的 Cohere 模型是聊天补全模型。您可能正在寻找此页面。

Cohere 是一家加拿大初创公司，提供自然语言处理模型，帮助企业改善人机交互。

有关所有属性和方法的详细文档，请前往 API 参考查看。

概述

类	包	本地	可序列化	JS 支持	下载量	版本
`Cohere`	`langchain-community`	❌	beta	✅

该集成位于 langchain-community 包中。我们还需要安装 cohere 包本身。我们可以通过以下方式安装这些依赖：

我们需要获取一个 Cohere API 密钥并设置 COHERE_API_KEY 环境变量：

import getpass
import os

if "COHERE_API_KEY" not in os.environ:
    os.environ["COHERE_API_KEY"] = getpass.getpass()

pip install -U langchain-community langchain-cohere

设置 LangSmith 以获取业界领先的观测能力也很有帮助（但非必需）：

os.environ["LANGSMITH_TRACING"] = "true"
# os.environ["LANGSMITH_API_KEY"] = getpass.getpass()

Cohere 支持所有 LLM 功能：

from langchain_cohere import Cohere
from langchain.messages import HumanMessage

model = Cohere(max_tokens=256, temperature=0.75)

message = "Knock knock"
model.invoke(message)

" Who's there?"

await model.ainvoke(message)

" Who's there?"

for chunk in model.stream(message):
    print(chunk, end="", flush=True)

 Who's there?

model.batch([message])

[" Who's there?"]

有关所有 Cohere LLM 功能和配置的详细文档，请前往 API 参考查看。

通过 MCP 将这些文档连接到 Claude、VSCode 等工具，以获取实时答案。