Skip to main content
本页介绍如何在 LangChain 中通过 Replicate 运行模型。

安装与设置

调用模型

Replicate 探索页面 找到一个模型,然后按以下格式粘贴模型名称和版本:owner-name/model-name:version 例如,对于这个 dolly 模型,点击 API 标签,模型名称/版本为:"replicate/dolly-v2-12b:ef0e1aefc61f8e096ebe4db6b2bacc297daf2ef6899f0f7e001ec445893500e5" 只有 model 参数是必填的,但也可以使用格式 input={model_param: value, ...} 传入任何其他模型参数。 例如,如果我们运行 stable diffusion 并希望更改图像尺寸:
Replicate(model="stability-ai/stable-diffusion:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf", input={'image_dimensions': '512x512'})
注意:模型只会返回第一个输出结果。 从这里我们可以初始化模型:
llm = Replicate(model="replicate/dolly-v2-12b:ef0e1aefc61f8e096ebe4db6b2bacc297daf2ef6899f0f7e001ec445893500e5")
然后运行它:
prompt = """
Answer the following yes/no question by reasoning step by step.
Can a dog drive a car?
"""
llm(prompt)
我们可以使用这种语法调用任何 Replicate 模型(不仅限于 LLM)。例如,可以调用 Stable Diffusion
text2image = Replicate(model="stability-ai/stable-diffusion:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf", input={'image_dimensions':'512x512'})

image_output = text2image("A cat riding a motorcycle by Picasso")