Skip to main content
01.AI 由李开复博士创立，是一家处于 AI 2.0 前沿的全球性公司。他们提供尖端的大型语言模型，包括 Yi 系列，参数量从 60 亿到数千亿不等。01.AI 还提供多模态模型、开放 API 平台以及 Yi-34B/9B/6B 和 Yi-VL 等开源选项。 
## 安装集成所需的 langchain 包
pip install -qU langchain-community

​
前置条件

访问 Yi LLM API 需要 API 密钥。访问 www.lingyiwanwu.com/ 获取您的 API 密钥。申请 API 密钥时，需要指定是用于国内（中国）还是国际使用。

​
使用 Yi LLM

import os

os.environ["YI_API_KEY"] = "YOUR_API_KEY"

from langchain_community.llms import YiLLM

# 加载模型
llm = YiLLM(model="yi-large")

# 如需指定区域（默认为 "auto"）
# llm = YiLLM(model="yi-large", region="domestic")  # 或 "international"

# 基本使用
res = llm.invoke("What's your name?")
print(res)

# generate 方法
res = llm.generate(
    prompts=[
        "Explain the concept of large language models.",
        "What are the potential applications of AI in healthcare?",
    ]
)
print(res)

# 流式传输
for chunk in llm.stream("Describe the key features of the Yi language model series."):
    print(chunk, end="", flush=True)

# 异步流式传输
import asyncio


async def run_aio_stream():
    async for chunk in llm.astream(
        "Write a brief on the future of AI according to Dr. Kai-Fu Lee's vision."
    ):
        print(chunk, end="", flush=True)


asyncio.run(run_aio_stream())

# 调整参数
llm_with_params = YiLLM(
    model="yi-large",
    temperature=0.7,
    top_p=0.9,
)

res = llm_with_params(
    "Propose an innovative AI application that could benefit society."
)
print(res)
在 GitHub 上编辑此页面 或提交问题。
连接这些文档到 Claude、VSCode 等，通过 MCP 获取实时答案。