
利用代理人工智能构建智能应用程序:2025 年值得关注的顶级框架
- Rifx.Online
- Generative AI , Programming , Technology/Web
- 12 Feb, 2025
随着生成式AI的兴起,2025年将进一步拓展构建智能应用的领域,以加速生产力和效率的提升。虽然LangChain(于2022年推出)成为构建基于LLM的应用的第一个流行框架,但开源和产品社区已经开始更快地进行创新,以简化构建此类应用的过程。
Agentic AI 已成为2025年最有前景的GenAI构建模块之一,众多框架相继出现,以构建agentic应用。本文总结了2025年值得关注的关键agentic框架,并预测未来将出现整合趋势。
Agentic AI将引入一个以目标为驱动的数字劳动力,能够自主制定计划并采取行动——这是一个不需要休假或其他福利的劳动力的延伸。 — Gartner
#1 — LangChain
高层架构:
主要特点:
- LangChain 已成为构建 AI 应用的事实标准,拥有 1M+ 开发者 和 ~100K GitHub 星标。
- 综合的供应商集成、云供应商支持、第三方库集成、多样的向量数据库等。
- 更广泛的社区知识和开发者意识使其成为最常用的框架。
适用场景 (优点):
- 最适合企业开发,作为标准和社区驱动支持的广泛采用。
- 构建企业应用的基础构件,GenAI-LangChain 最适合创建企业特定的框架。
- 在需要与第三方供应商兼容的情况下,LangChain 框架的广泛采用使其最为合适,前瞻性地考虑与不同解决方案或产品的集成。
其他框架更具优势的地方 (缺点):
- 复杂性和学习周期增加,集成过多和代码复杂性。为了简单和特定目的,可以根据上下文考虑其他框架。
- 持续的功能/变化要求开发者保持代码更新,并可能导致破坏性更改、不兼容的库等。
LangChain 启发了开发者社区在其他语言中构建类似框架,例如 LangChain4J for Java,LangChainGo for Golang,以及 LangChain for C#.
#2 — LangGraph
高层架构:
关键特性:
- LangGraph框架是由LangChain团队提供的开源框架,支持智能体架构。LangGraph平台是一个商业解决方案,用于将智能体应用程序部署到生产环境中。
- 状态设计、基于图的工作流、多智能体能力、与LangChain的原生集成、通过LangSmith增强的可观察性、IDE支持以及更广泛的社区支持是该平台的关键特性。
适合的场景(优点):
- 最适合企业多智能体框架开发,作为标准和社区驱动支持的更广泛采用。
- 需要与不同解决方案或产品进行前瞻性集成的广泛兼容性。
- 在避免企业中许多框架的情况下,最适合LangChain生态系统的组合。
其他框架更好的地方(缺点):
- 企业所需的特性,如安全性、可视化开发、增强的可观察性等,在商业版本中得到支持。
- 与LangChain类似,开发人员已识别出处理依赖关系和框架复杂性是主要障碍。
#3 — Autogen
高层架构:
主要特性:
- Autogen 是由微软开发的编程框架,用于构建智能 AI 代理和应用程序。它提供了一个多代理对话框架作为高层抽象。
- 异步消息传递、模块化和可扩展性、可观察性和调试、可扩展和分布式、内置和社区扩展、跨语言支持以及完整类型支持是 Autogen 框架的关键特性。
- AutoGen 支持增强的 LLM 推理 API,可用于提高推理性能并降低成本。
适合的场景(优点):
- 当与开源和微软生态系统的对齐普遍存在时,Autogen 是构建智能应用程序和 AI 代理的合适解决方案。
- AutoGen 提供了一个不断发展的生态系统,以支持来自不同领域和复杂性的各种应用。它还具有一个 Autogen studio UI 应用程序,用于原型设计和管理代理,而无需编写代码。
其他框架更优的地方(缺点):
- Autogen 仍然处于实验阶段(尚未完全准备好投入生产)且不适合生产使用。如果您正在研究复杂的代理交互、原型设计新的多代理系统,或想要实验先进的 AI 代理设计。
- 尽管 Autogen 是一个开源解决方案,但根据组织的背景,依赖于微软解决方案可能是一个考虑因素。Magentic-One 是一个商业解决方案,建立在 Autogen 之上,提供企业所需的高性能通用智能系统等高级功能。
- 设置 Autogen 的复杂性,尤其是在企业内部,被认为是一个主要问题。
#4 — 语义内核
高层架构:
关键特性:
- 语义内核(由微软提供)旨在构建稳定、企业级的应用程序,具备强大的集成能力。
语义内核是一个生产就绪的SDK,能够将大型语言模型(LLMs)和数据存储集成到应用程序中,从而实现产品级的生成式AI解决方案。语义内核支持多种编程语言:C#、Python和Java。语义内核在预览中提供了代理和过程框架,使客户能够构建单代理和多代理解决方案。— 微软
- 它内置了核心框架——代理框架和过程框架。语义内核代理框架提供了一个平台,在语义内核生态系统中允许AI 代理和将代理模式融入任何应用程序的能力。语义内核过程框架提供了一种优化AI与业务流程集成的方法。
适用场景(优点):
- 如果您需要为生产环境构建一个可靠的AI代理,并需要强大的企业级支持和与现有系统的集成。
- 当需要多种语言的SDK时,因为语义内核支持Python、C#、.Net和Java。
- 开发者培训支持和企业支持可用,特别是在Microsoft Azure环境中。通过点击这里查看使用语义内核与Azure的课程。
其他框架更具优势的地方(缺点):
- 语义内核属于SDK类别,而竞争框架提供更高级的抽象和用户界面,以便于创建更简单的代理。
- 代理框架仍在发展中(目前Java尚不支持代理)。
- 当需要避免对微软的供应商依赖时,可以根据情况考虑其他选项。
#5 — LlamaIndex
高层架构:
主要特点:
- LlamaIndex 最初专注于 LLM 应用的数据框架能力,现已发展到涵盖 AI 代理、文档解析与索引、工作流、基于连接器的集成、模块化与可扩展性等多种功能。
- 它提供了一个 SaaS 能力,LlamaCloud,为 AI 代理提供知识管理中心。LlamaParse 是一个独特的产品,用于将指令数据转换为 LLM 优化格式。
- LlamaHub 是一个很好的倡议,作为一个集中式的平台来探索代理、LLM、向量存储、数据加载器等。
适合的场景(优点):
- 作为 LangChain 的替代品,LlamaIndex 已发展成为一个引人注目的选择,特别适用于数据密集型的 LLM 应用。
- LlamaCloud 能够高效解析和索引复杂文档,使其成为寻求更快上市时间的企业的一个有吸引力的选择。
- 构建知识密集型 AI 系统,如聊天机器人和问答系统。
其他框架更具优势的地方(缺点):
- 主要关注数据索引和检索,对复杂代理行为和决策制定的强调较少。然而,该框架向构建代理应用的演变提供了有希望的能力。
#6 — AutoGPT
高层架构:
关键特性:
- AutoGPT,由Significant Gravitas构建,是一个强大的平台,允许您创建、部署和管理自动化复杂工作流程的持续AI代理。它最初建立在OpenAI的GPT之上,但扩展以支持其他LLM(Anthropic, Groq, Llama)。
- 关键特性:无缝集成和低代码工作流程,自治操作和持续代理,智能自动化和最大效率,可靠性能和可预测执行
适合的情况(优点):
- 更倾向于无代码或低代码的代理构建方法,能够在云端构建代理(虽然它提供自托管解决方案,但设置复杂度较高)。
其他框架表现更好的地方(缺点):
- 对供应商的依赖和锁定以访问高级功能可能是企业的主要关切。云托管解决方案在路线图中,当前正向等待名单消费者提供。
- 许可支持的复杂性 — 目前它具有双重许可支持,而大多数是以MIT许可提供的。
- 额外的LLM支持,如Google的Gemini等,将继续成为一个关键挑战,以及社区支持。
#7 — CrewAI
高层架构:
主要特点:
- CrewAI作为一个有前景的多智能体框架,能够构建和部署基于工作流的应用程序,并支持多种LLM和云服务提供商。
- 多智能体协作、结构化工作流设计、用户友好的界面、集成灵活性和社区支持是CrewAI的显著特点。
适用场景(优点):
- CrewAI已成为增长最快的AI智能体生态系统,并在2024年10月筹集了1800万美元的资金。创建商业友好型智能体的简单性使得快速理解生成AI的价值变得容易。
- 通过开箱即用的定制化实现更快的上市时间,更适合构建轻量级智能体,如营销智能体。
其他框架表现更好的地方(缺点):
- 处理大型企业特定复杂场景的能力以及数据集成尚未经过生产测试,未来需要进行评估。
- 供应商依赖性和锁定是一个关键考虑因素,CrewAI被大型云服务商或其他参与者收购的可能性仍然是一个悬而未决的问题。
#8 — PydanticAI
高层架构:
主要特点:
- PydanticAI: 由 Pydantic 团队构建,为 GenAI 应用开发带来 FastAPI 的感觉。与 Pydantic Logfire 集成,提供 GenAI 应用的可观察性,并支持多种 LLM 和生态系统支持。
- 突出特点包括 Pydantic 方法、模型无关的实现、实时可观察性、类型安全、与 Pydantic Graph 的图支持、依赖注入和简洁性。
适合的场景(优点):
- 利用 Pydantic 和 FastAPI 方法的应用,寻找与相关企业技术栈对齐的简单框架。
- 适合简单场景,因为该框架仍在发展中。
其他框架更具优势的地方(缺点):
#9 — Spring AI
高层架构:
主要特点:
- Spring AI 受到 LangChain 的启发,利用 Spring 生态系统在 Java 生态中构建 GenAI 应用。
- 主要特点包括对多个 LLM 的支持、Spring 生态系统中的 可观察性 功能、模型评估、用于封装重复生成 AI 模式的 Advisors API、聊天对话和 RAG。
适用对象(优点):
- 通过利用 Spring 生态系统的企业 GenAI 应用,减少了学习额外框架或语言的需求。
- 提供与更广泛的 Spring 生态系统的无缝集成,以利用可用于数据连接、异步处理、系统集成等的库。
其他框架更具优势的地方(缺点):
#10 — Haystack
高层架构:
主要特点:
- Haystack(由deepset构建)是一个开源框架,用于构建生产就绪的LLM应用程序、RAG管道和企业复杂搜索应用程序。
- 它采用模块化架构原则,结合了OpenAI、Chroma、Marqo及其他开源项目(如Hugging Face的Transformers或Elasticsearch)的技术。
适合的场景(优点):
- 适合在任何云平台上构建LLM应用程序,deepsetCloud作为LLM AI平台,提供内置的LLMOps能力。
- 具有Jinja模板的自定义RAG管道。
- deepset Studio是一个免费的AI应用开发环境,用于Haystack,增强了开发生命周期。
其他框架更具优势的地方(缺点):
- 多代理能力尚未经过实战检验,路线图需要反映以理解全局。
此外,还有以下新兴框架正在流行,提供引人注目的替代方案:
- OpenAI Swarm:一个教育框架(尚未准备好投入生产),探索人体工学、轻量级的多代理编排。
- MetaGPT:一个AI代理的多代理框架,由研究人员构建(研究论文),推广元编程的理念。
- Flowise:一个开源框架,提供拖放式用户界面,构建具有自定义LLM流程的代理。
- Langflow:一个开源框架(被DataStax收购),用于互动构建基于流程的GenAI应用。
- OpenAGI:一个简单的框架,由AI Planet构建,用于构建类人代理。
- Camel-AI.org:一个开源多代理框架,构建可定制的代理,灵感来自于研究论文CAMEL(用于“大型语言模型社会”探索的交互代理)。
总之,虽然每个框架都提供了竞争能力,但大多数框架正在不断发展,考虑到生成AI领域的创新速度。这些框架的适用性和选择依赖于多种因素,例如企业背景、应用和业务需求、安全性、性能及其他非功能性需求。