doc/md
1
0
Fork 0
Code
8617dc7e84
md/多智能体开发技术方案对比.md

139 lines
9.1 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

## LLM基础应用框架评测对象
- Spring AI Alibaba（SAA）
- Spring AI
- LangChain4J
- LangChain
## 多智能体框架评测对象
- LangGraph
- Spring AI Alibaba Graph
- AutoGen
- CrewAI
## 第一部分：LLM基础应用框架
| - | SAA| Spring AI | LangChain4J | LangChain |
|:-----|:-----|:-----|:-----|:-----|
| 语言 | Java | Java | Java | Python |
| 聊天模型 | ✅ | ✅ | ✅ | ✅ |
| 嵌入模型 | ✅ | ✅ | ✅ | ✅ |
| 图片、音视频模型 | ✅ | ✅ | ✅ | ✅ |
| RAG | ✅ | ✅ | ✅ | ✅ |
| 向量数据库 | ✅ | ✅ | ✅ | ✅ |
| MCP | ✅ | ✅ | ✅ | ✅ |
| 函数调用 | ✅ | ✅ | ✅ | ✅ |
| 提示词模板 | ✅ | ✅ | ✅ | ✅ |
| 聊天记忆 | ✅ | ✅ | ✅ | ✅ |
| 模型评估 | ✅ | ✅ | ✅ | ✅ |
> 💡SAA 在向量数据库的支持上扩展了 AnalyticDB (ADB)、OpenSearch，支持 Nacos MCP Registry，支持 Nacos 配置提示词模板，同时支持热更新。
## 第二部分：与模型提供商之间的适配程度
> 打❌号的只能通过OpenAI API 兼容
| 对比项 | Open AI | Anthropic | 阿里百炼 | 百度千帆 | Xinference |
|:-----|:-----|:-----|:-----|:-----|:-----|
| SAA | ✅ | ✅ | ✅ | ✅ | ✅ |
| Spring AI | ✅ | ✅ | ✅ | ✅ | ✅ |
| LangChain4J | ✅ | ✅ | ✅ | ✅ | ✅ |
| LangChain | ✅ | ✅ | ❌ | ✅ | ✅ |
| AutoGen | ✅ | ✅ | ❌ | ❌ | ❌ |
| CrewAI | ✅ | ✅ | ❌ | ❌ | ✅ |
> 💡阿里百炼和百度千帆都是通过 langchain-openai 组件适配了 LangChain 框架，但是阿里百炼是残血版，**不支持多模态模型**，百度千帆则是**支持多模态模型的**。**AutoGen**和**CrewAI**对于模型提供商的支持在下文有详细说明。
## 第三部分：可观测性（OpenTelemetry）
**OpenTelemetry** 通常缩写为**OTel**，是一个开源的、厂商中立的可观测性框架，旨在实现遥测数据的标准化生成、收集和管理。遥测数据包括日志、指标和追踪，对于监控和理解软件系统的行为至关重要。
| Spring AI | SAA | LangChain4J | LangChain | AutoGen | CrewAI |
|:-----|:-----|:-----|:-----|:-----|:-----|
| ✅ | ✅ | ❌ | ✅ | ✅| ✅ |
- **Spring AI**为其核心组件提供了指标和追踪能力，例如 ChatClient（包括 Advisor）、ChatModel、EmbeddingModel、ImageModel 和 VectorStore 等。
- **SAA**除了拥有**Spring AI**的能力，还提供了配套工具，无需额外编写代码，即可扇出至阿里云ARMS。
- **LangChain4J**提供了一系列**Listener**，通过 OTel 扇出数据，需要自行实现或借助三方工具。
- **LangChain**自带**LangSmith**，并且支持了OTel，仅需少量代码即可扇出数据。
- **AutoGen和CrewAI**官方均提供了对 OTel 的支持。
## 第四部分：多智能体框架对比
#### 一、LangGraph
- 开源协议：MIT
- 语言：Python
- 核心：使用图结构编排智能体，相比链式调用，能够应对更多场景、更复杂的任务。
- 亮点：内置 Checkpoint 和中断、持久化机制，在执行期间发生中断，恢复时可以从 Checkpoint 继续执行。适合通过**人工干预**保障执行过程的正确性，以及**长时间运行的任务**发生异常中断从 Checkpoint 恢复执行，而不必重新开始。
- 补充：官方的 LangGraph Platform 还提供了配套的 LangGraph Studio 用于开发智能体的 IDE，它支持可视化、交互和调试，还与 LangSmith 集成，以实现追踪、评估和提示工程。
- 模型：参见上文对于 LangChain 支持的模型提供商说明
> 💡LangGraph Platform 是**收费**的，适合企业部署的自托管版本仅支持 AWS。
#### 二、Spring AI Alibaba Graph
- 开源协议：Apache 2.0
- 语言：Java
- 亮点：LangGraph 的核心能力基本上都抄了
- 模型：参见上文对于 SAA 支持的模型提供商说明
官方原话：Spring AI Alibaba Graph 是社区核心实现之一，也是整个框架在设计理念上区别于 Spring AI 只做底层原子抽象的地方，Spring AI Alibaba 期望帮助开发者更容易的构建智能体应用。基于 Graph 开发者可以构建工作流、多智能体应用。**Spring AI Alibaba Graph 在设计理念上借鉴 LangGraph，因此在一定程度上可以理解为是 Java 版的 LangGraph 实现**，社区在此基础上增加了大量预置 Node、简化了 State 定义过程等，让开发者更容易编写对等低代码平台的工作流、多智能体等。
#### 三、AutoGen
- 开源协议：MIT
- 语言：Python、.NET
- 核心：用多个智能体扮演不同的角色，让其更专注于细粒度的任务。使用团队去关联多个智能体，用消息作为团队成员之间的通信方式，让团队之间"沟通"并共同完成任务。
- 亮点：命令行代码执行器能够将Python代码块打包成1个文件，丢到 Docker 容器执行，或者在本机开启1个新的进程执行。这种方式更安全，也是 LangGraph
不具备的特性。除此之外，官方提供了一系列多智能体的设计模式，来辅助开发者设计与开发多智能体。AutoGen 还提供了一个免费的、本地化部署的 AutoGen Studio 可视化工具，旨在帮助开发团队快速原型化多智能体。
- 模型：OpenAI API 兼容的模型提供商、托管在 Azure 上的模型、Ollama、Anthropic，通过 SKChatCompletionAdapter 已适配的其它 LLM 提供商有：Google、MistralAI、AWS、Hugging
Face。暂未支持阿里百炼和百度千帆平台，只能通过 OpenAI API 兼容。
官方提供了多种多智能体设计模式：Concurrent Agents（并发智能体）、Sequential Workflow（顺序工作流）、Group Chat（群聊）、Handoffs（交接，源自OpenAI Swarm）、Mixture of Agents（混合代理）、Multi-Agent
Debate（多智能体辩论）、Reflection（反思）、Code Execution（代码执行）
#### 四、Crew AI
- 开源协议：MIT
- 语言：Python
- 核心：与 AutoGen 类似，也是用角色扮演和团队去组织多个智能体，也支持使用流程编排。
- 亮点：相比 AutoGen 来说 CrewAI 提供的 API 更精简、逻辑更清晰、代码语义更强，相比 LangGraph 更轻量。
- 模型：CrewAI 通过 LiteLLM 连接到 LLM 提供商，暂未适配阿里百炼和百度千帆平台，只能通过 OpenAI API 兼容。
[点击查看 LiteLLM 支持的模型提供商](https://docs.litellm.com.cn/docs/providers)，[点击查看对于 Xinference 的支持说明](https://docs.litellm.com.cn/docs/providers/xinference)
## 总结
如果语言倾向于Java，则 SAA（Graph）更适合作为多智能体开发框架。从图结构的编排和团队及其角色扮演的2种架构设计来看，AutoGen 和 CrewAI对于开发人员和使用者来说，心智负担更低，基于团队、成员（角色扮演）会比图的方式，更明确地规划智能体工作内容和任务目标。CrewAI
相比 AutoGen 来说，使用更为简单，上手更容易一些。
## 参考资料
- SAA 官网：https://java2ai.com
- Spring AI 官方文档：https://docs.springframework.org.cn/spring-ai/reference/index.html
- LangChain4J 官方文档：https://docs.langchain4j.info/get-started
- LangChain 官方文档：https://python.langchain.ac.cn/docs/introduction
- 使用 OpenTelemetry 跟踪 LangChain：https://langsmith.langchain.ac.cn/observability/how_to_guides/trace_langchain_with_otel
- 使用 OpenTelemetry 客户端将记录到 LangSmith：https://langsmith.langchain.ac.cn/observability/how_to_guides/trace_with_opentelemetry
- Spring AI 可观测性：https://docs.springframework.org.cn/spring-ai/reference/observability/index.html
- Spring AI 对于聊天模型可观测性的支持说明：https://docs.springframework.org.cn/spring-ai/reference/observability/index.html#_chat_model
- 阿里百炼对于 LangChain 的适配：https://help.aliyun.com/zh/model-studio/use-bailian-in-langchain
- 百度千帆对于 LangChain 的适配：https://cloud.baidu.com/doc/qianfan-docs/s/Mm9cr5bs6
- LangGraph 官方文档：https://github.langchain.ac.cn/langgraph/
- LangGraph Platform 官方文档：https://github.langchain.ac.cn/langgraphjs/concepts/langgraph_platform/
- LangGraph Platform 定价说明：https://langchain.ac.cn/pricing-langgraph-platform
- LangGraph Studio 使用说明：https://github.langchain.ac.cn/langgraphjs/concepts/langgraph_studio/
- AutoGen 官方文档：https://msdocs.cn/autogen/stable/user-guide/core-user-guide/quickstart.html
- AutoGen 运行时环境：https://msdocs.cn/autogen/stable/user-guide/core-user-guide/core-concepts/architecture.html
- AutoGen 主题和订阅（消息传递）：https://msdocs.cn/autogen/stable/user-guide/core-user-guide/core-concepts/topic-and-subscription.html
- AutoGen 多智能体设计模式：https://msdocs.cn/autogen/stable/user-guide/core-user-guide/design-patterns/intro.html
- AutoGen Studio 使用教程：https://www.aidoczh.com/autogen/stable/user-guide/autogenstudio-user-guide/index.html
- CrewAI 官方文档：https://docs.crewai.org.cn/introduction
- CrewAI Github地址：https://github.com/crewAIInc/crewAI
## 视频教程
- AutoGen：https://www.bilibili.com/video/BV1WJ4m137dk
- CrewAI：https://www.bilibili.com/video/BV1GZ42147am
View Git Blame Copy Permalink