ChatLiteLLM 和 ChatLiteLLMRouter 集成

## 设置环境变量
import os

os.environ["OPENAI_API_KEY"] = "your-openai-key"
os.environ["ANTHROPIC_API_KEY"] = "your-anthropic-key"

pip install -qU langchain-litellm

from langchain_litellm import ChatLiteLLM

llm = ChatLiteLLM(model="gpt-5.4-nano", temperature=0.1)

from langchain_litellm import ChatLiteLLMRouter
from litellm import Router

model_list = [
    {
        "model_name": "gpt-5.4",
        "litellm_params": {
            "model": "azure/gpt-5.4",
            "api_key": "<your-api-key>",
            "api_version": "2024-10-21",
            "api_base": "https://<your-endpoint>.openai.azure.com/",
        },
    },
    {
        "model_name": "gpt-5.4",
        "litellm_params": {
            "model": "azure/gpt-5.4",
            "api_key": "<your-api-key>",
            "api_version": "2024-10-21",
            "api_base": "https://<your-endpoint>.openai.azure.com/",
        },
    },
]
litellm_router = Router(model_list=model_list)
llm = ChatLiteLLMRouter(router=litellm_router, model_name="gpt-5.4", temperature=0.1)

response = await llm.ainvoke(
    "将文本分类为中性、负面或正面。文本：我觉得食物还可以。情感："
)
print(response)

content='Neutral' additional_kwargs={} response_metadata={'token_usage': Usage(completion_tokens=2, prompt_tokens=30, total_tokens=32, completion_tokens_details=CompletionTokensDetailsWrapper(accepted_prediction_tokens=0, audio_tokens=0, reasoning_tokens=0, rejected_prediction_tokens=0, text_tokens=None), prompt_tokens_details=PromptTokensDetailsWrapper(audio_tokens=0, cached_tokens=0, text_tokens=None, image_tokens=None)), 'model': 'gpt-3.5-turbo', 'finish_reason': 'stop', 'model_name': 'gpt-3.5-turbo'} id='run-ab6a3b21-eae8-4c27-acb2-add65a38221a-0' usage_metadata={'input_tokens': 30, 'output_tokens': 2, 'total_tokens': 32}

async for token in llm.astream("你好，请解释一下抗生素是如何工作的"):
    print(token.text(), end="")

抗生素是治疗体内细菌感染的药物。它们通过靶向特定细菌并杀死它们或阻止其生长和繁殖来发挥作用。

抗生素有几种不同的作用机制。一些抗生素通过破坏细菌的细胞壁，导致它们破裂死亡。另一些则干扰细菌的蛋白质合成，阻止其生长和繁殖。一些抗生素靶向细菌的 DNA 或 RNA，破坏其复制能力。

需要注意的是，抗生素仅对细菌感染有效，对病毒感染无效。同样重要的是，要按照医疗专业人员的指示服用抗生素，并完成整个疗程，即使症状在药物用完之前有所改善。这有助于防止抗生素耐药性的产生，即细菌对抗生素的作用产生抵抗力。