更新 MultiAgentOptions.md
This commit is contained in:
parent
34e13ef40b
commit
d2662586f9
@ -1,8 +1,22 @@
|
||||
# 横评构建企业级 LLM 应用,主流的、开源框架
|
||||
## LLM基础应用框架评测对象
|
||||
|
||||
## 基础能力
|
||||
- Spring AI Alibaba
|
||||
- Spring AI
|
||||
- LangChain4J
|
||||
- LangChain
|
||||
|
||||
| 对比项 | SAA| Spring AI | LangChain4J | LangChain |
|
||||
## 多智能体框架评测对象
|
||||
|
||||
- LangGraph
|
||||
- Spring AI Alibaba Graph
|
||||
- AutoGen
|
||||
- CrewAI
|
||||
|
||||
## 第一部分:LLM基础应用框架
|
||||
|
||||
> 💡SAA 是 Spring AI Alibaba 的官方简称。**SAA 在对 MCP 工具、提示词模板的管理具有明显优势,尤其适合企业级 LLM 应用的构建。**
|
||||
|
||||
| - | SAA| Spring AI | LangChain4J | LangChain |
|
||||
|:-----|:-----|:-----|:-----|:-----|
|
||||
| 语言 | Java | Java | Java | Python |
|
||||
| 聊天模型 | ✅ | ✅ | ✅ | ✅ |
|
||||
@ -16,36 +30,36 @@
|
||||
| 聊天记忆 | ✅ | ✅ | ✅ | ✅ |
|
||||
| 模型评估 | ✅ | ✅ | ✅ | ✅ |
|
||||
|
||||
> 💡SAA 是 Spring AI Alibaba 的官方简称。**SAA 在对 MCP 工具、提示词模板的管理具有明显优势,尤其适合企业级 LLM 应用的构建。**
|
||||
## 第二部分:应用框架与模型提供商之间的适配程度
|
||||
|
||||
## 可观测性(OpenTelemetry)
|
||||
> 打❌号的不代表无法自定义模型提供商,只是官方没有适配,要自己踩坑、费点劲才行
|
||||
|
||||
| 对比项 | Open AI | Anthropic | 阿里百炼 | 百度千帆 | Xinference |
|
||||
|:-----|:-----|:-----|:-----|:-----|:-----|
|
||||
| SAA | ✅ | ✅ | ✅ | ✅ | ✅ |
|
||||
| Spring AI | ✅ | ✅ | ✅ | ✅ | ✅ |
|
||||
| LangChain4J | ✅ | ✅ | ✅ | ✅ | ✅ |
|
||||
| LangChain | ✅ | ✅ | ❌ | ✅ | ✅ |
|
||||
| AutoGen | ✅ | ✅ | ❌ | ❌ | ❌ |
|
||||
| CrewAI | ✅ | ✅ | ✅ | ✅ | ✅ |
|
||||
|
||||
> 💡阿里百炼和百度千帆都是通过 langchain-openai 组件适配了 LangChain 框架,但是阿里百炼是残血版,**不支持多模态模型**,百度千帆则是**支持多模态模型的**。**AutoGen**和**CrewAI**对于模型提供商的支持在下文有详细说明。
|
||||
|
||||
## 第三部分:可观测性(OpenTelemetry)
|
||||
|
||||
**OpenTelemetry** 通常缩写为**OTel**,是一个开源的、厂商中立的可观测性框架,旨在实现遥测数据的标准化生成、收集和管理。遥测数据包括日志、指标和追踪,这些数据对于监控和理解软件系统的行为至关重要。
|
||||
|
||||
| Spring AI | SAA | LangChain4J | LangChain |
|
||||
|:-----|:-----|:-----|:-----|
|
||||
| ✅ | ✅ | ❌ | ✅ |
|
||||
| Spring AI | SAA | LangChain4J | LangChain | AutoGen | CrewAI |
|
||||
|:-----|:-----|:-----|:-----|:-----|:-----|
|
||||
| ✅ | ✅ | ❌ | ✅ | ✅| ✅ |
|
||||
|
||||
**Spring AI**框架定义了一系列endpoint,为其核心组件提供了指标和追踪能力,例如 ChatClient(包括 Advisor)、ChatModel、EmbeddingModel、ImageModel 和 VectorStore 等。**SAA**除了拥有**Spring AI**的能力,还提供了配套工具,无需额外编写代码,即可扇出至阿里云ARMS。**LangChain4J**提供了一系列**Listener**,通过 OTel 扇出数据,需要自行实现。**LangChain**自带**LangSmith**,并且支持了OTel,仅需少量代码即可扇出数据。
|
||||
- **Spring AI**为其核心组件提供了指标和追踪能力,例如 ChatClient(包括 Advisor)、ChatModel、EmbeddingModel、ImageModel 和 VectorStore 等。
|
||||
- **SAA**除了拥有**Spring AI**的能力,还提供了配套工具,无需额外编写代码,即可扇出至阿里云ARMS。
|
||||
- **LangChain4J**提供了一系列**Listener**,通过 OTel 扇出数据,需要自行实现或借助三方工具。
|
||||
- **LangChain**自带**LangSmith**,并且支持了OTel,仅需少量代码即可扇出数据。
|
||||
- **AutoGen和CrewAI**官方均提供了对 OTel 的支持。
|
||||
|
||||
#### Spring AI 对于 ChatModel 仅适配了部分模型提供商,未提到的厂商,官方宣称将在未来支持。
|
||||
|
||||
| 阿里百炼 | 百度千帆 | 月之暗面 | 智谱 | Anthropic | OpenAI | Ollama | Xinference | GPUStack |
|
||||
|:-----|:-----|:-----|:-----|:-----|:-----|:-----|:-----|:-----|
|
||||
| ❌ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ❌ |
|
||||
|
||||
## 云计算平台模型提供商对开源框架的适配
|
||||
|
||||
| 对比项 | Open AI | Anthropic | 阿里百炼 | 百度千帆 |
|
||||
|:-----|:-----|:-----|:-----|:-----|
|
||||
| SAA | ✅ | ✅ | 深度适配 | ✅ |
|
||||
| Spring AI | ✅ | ✅ | ✅ | ✅ |
|
||||
| LangChain4J | ✅ | ✅ | ✅ | ✅ |
|
||||
| LangChain | ✅ | ✅ | 部分适配 | ✅ |
|
||||
|
||||
> 💡阿里百炼对于**LangChain**仅通过 langchain-openai 适配了部分模型:聊天模型、嵌入模型、重排序模型,**不支持多模态模型**。
|
||||
|
||||
## 适合用于智能体开发的框架对比
|
||||
## 第三部分:适合用于智能体开发的框架对比
|
||||
|
||||
#### 一、LangGraph
|
||||
|
||||
|
||||
Loading…
Reference in New Issue
Block a user