聊天模型（Chat models）

聊天模型是使用一系列消息作为输入，并返回消息作为输出的语言模型。
与传统的 LLM（即输入字符串、输出字符串的模型）不同，聊天模型使用消息接口进行交互。

特色提供商

虽然以下所有 LangChain 类都支持所列出的高级功能，但某些功能的可用性仍取决于模型提供商或后台服务。
详细信息请参阅各自的提供商文档。

提供商	工具调用	结构化输出	JSON 模式	本地运行	多模态	对应的包
ChatAnthropic	✅	✅	❌	❌	✅	langchain-anthropic
ChatOpenAI	✅	✅	✅	❌	✅	langchain-openai
AzureChatOpenAI	✅	✅	✅	❌	✅	langchain-openai
ChatVertexAI	✅	✅	❌	❌	✅	langchain-google-vertexai
ChatGoogleGenerativeAI	✅	✅	❌	❌	✅	langchain-google-genai
ChatGroq	✅	✅	✅	❌	❌	langchain-groq
ChatBedrock	✅	✅	❌	❌	❌	langchain-aws
ChatHuggingFace	✅	✅	❌	✅	❌	langchain-huggingface
ChatOllama	✅	✅	✅	✅	❌	langchain-ollama
ChatXAI	✅	✅	❌	❌	❌	langchain-xai
ChatNVIDIA	✅	✅	✅	✅	✅	langchain-nvidia-ai-endpoints
ChatCohere	✅	✅	❌	❌	❌	langchain-cohere
ChatMistralAI	✅	✅	❌	❌	❌	langchain-mistralai
ChatTogether	✅	✅	✅	❌	❌	langchain-together
ChatFireworks	✅	✅	✅	❌	❌	langchain-fireworks
ChatLlamaCpp	✅	✅	❌	✅	❌	langchain-community
ChatDatabricks	✅	✅	❌	❌	❌	databricks-langchain
ChatPerplexity	❌	✅	✅	❌	✅	langchain-perplexity

聊天补全 API（Chat Completions API）

一些模型提供商提供了兼容 OpenAI Chat Completions API 的端点。
在这种情况下，你可以通过设置自定义 base_url，使用 ChatOpenAI 连接这些端点。

示例：使用 OpenRouter

要使用 OpenRouter，你需要注册一个账户并获取 API 密钥。

from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model="...",  # 指定一个在 OpenRouter 上可用的模型
    api_key="OPENROUTER_API_KEY",
    base_url="https://openrouter.ai/api/v1",
)

更多信息请参阅 OpenRouter 官方文档。

注意：如果你希望捕获 reasoning tokens（推理令牌），请执行以下操作：
将导入从 langchain_openai 改为 langchain_deepseek；
使用 ChatDeepSeek 替代 ChatOpenAI，并将参数 base_url 改为 api_base；
根据需要在 extra_body 中启用推理选项，例如：
model = ChatDeepSeek(
    model="...",
    api_key="...",
    api_base="https://openrouter.ai/api/v1",
    extra_body={"reasoning": {"enabled": True}},
)
这是当前 ChatOpenAI 的已知限制，未来版本会修复。

所有可用聊天模型

以下列出了 LangChain 支持的所有聊天模型（点击名称可查看使用指南）：

贡献

如果你希望贡献一个新的模型集成，请参阅：添加新的集成