EDA365电子工程师网

标题: RAG+AI工作流+Agent：LLM框架该如何选择，全面对 [打印本页]

---

作者: 鹏仔专用    时间: 2024-10-11 10:25
标题: RAG+AI工作流+Agent：LLM框架该如何选择，全面对
RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐


# H- R6 P" ^5 g9 r8 k- E/ K1.MaxKBMaxKB = Max Knowledge Base，是一款基于 LLM 大语言模型的开源知识库问答系统，旨在成为企业的最强大脑。它能够帮助企业高效地管理知识，并提供智能问答功能。想象一下，你有一个虚拟助手，可以回答各种关于公司内部知识的问题，无论是政策、流程，还是技术文档，MaxKB 都能快速准确地给出答案:比如公司内网如何访问、如何提交视觉设计需求等等

官方网址：https://maxkb.cn/

1.1 简介

% ], c6 `! x) s* J: U0 v. E
• 开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；
  
  5 r/ v8 t9 X: J$ Z
• 无缝嵌入：支持零编码快速嵌入到第三方业务系统，让已有系统快速拥有智能问答能力，提高用户满意度；
  
  , k- i: Q% w- @) T: s1 \

3 |. N. H$ N5 F0 E2 ^

$ R( k& r% x9 ~! _6 C5 g( h6 H

• 灵活编排：内置强大的工作流引擎，支持编排 AI 工作流程，满足复杂业务场景下的需求；
  
  + H# V/ H# b  x6 V0 H  ~- I  i

& w( d% [" M- J, v2 Y: A

. C2 X5 F/ K# J  g

" d6 _" K1 o6 B/ e9 v" Q
• 模型中立：支持对接各种大语言模型，包括本地私有大模型（Llama 3 / Qwen 2 等）、国内公共大模型（通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等）和国外公共大模型（OpenAI / Azure OpenAI / Gemini 等）。
  
  " N/ s" M: ~" b2 c  n, y

. O  ~8 \3 `+ T/ {

# c% `, r+ W. n2 |8 O+ ?1.2技术框架和原理
: W8 Y7 c* }1 r3 i0 `) P7 f

9 D3 A- Q/ k8 z  a7 y0 s+ e

3 H( A$ n1 o* h* ?  L+ m" G
• 技术栈
  
  , c; l! ]% X9 t6 \! T8 K) B
  
  . n* L; `0 j9 U3 H& \/ b) D9 G- H' g
  • 前端：Vue.js、logicflow
    
    9 @& Z4 F- M3 ?
  • 后端：Python / Django
    
    
  • Langchain：Langchain
    
    
  • 向量数据库：PostgreSQL / pgvector
    
    
  • 大模型：Ollama、Azure OpenAI、OpenAI、通义千问、Kimi、百度千帆大模型、讯飞星火、Gemini、DeepSeek等。
    
    

2.DifyDify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。

由于 Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间，使其可以专注在创新和业务需求上

. v2 R* V, q% [/ [6 j0 I* |

4 K  c+ V  U- R' k9 I+ {

& v, F2 G! h+ N! ]8 d' i1 r
• 官网：https://dify.ai/zh
  
  
  4 ]( h) }1 V2 s7 j" @' ?+ c* }
• github：https://github.com/langgenius/dify?tab=readme-ov-file
  6 }6 b0 P/ A. A
  
  7 D5 N& D1 E% b* I1 r

2.1 简介Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。以下是其核心功能列表：

3 n8 v& c; j# p& T. k6 T* H2 P- c
• 工作流: 在画布上构建和测试功能强大的 AI 工作流程，利用以下所有功能以及更多功能。
  - m2 b+ {2 A' [' k/ L6 g# e- O' h
  
  ( m( _4 b; f$ ?7 ]
• 全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。
  
  
  
• Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能（如文本转语音）的直观界面。
  9 H5 E. `; I, [! L7 b
  
  
• RAG Pipeline: 广泛的 RAG 功能，涵盖从文档摄入到检索的所有内容，支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。
  : K! r8 G5 q# E2 H1 i3 f* R
  
  
• Agent 智能体: 您可以基于 LLM 函数调用或 ReAct 定义 Agent，并为 Agent 添加预构建或自定义工具。Dify 为 AI Agent 提供了50多种内置工具，如谷歌搜索、DELL·E、Stable Diffusion 和 WolframAlpha 等。
    |3 E6 S  H8 y! x7 Z: M5 g
  
  " s1 j& X6 z: v* j' [- a* f# q' ]
• LLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。
  ! _$ V5 s6 b/ N3 Q; |) S) y* P# l
  
  # j2 E2 l: |0 c$ G1 F) P+ b
• 后端即服务: 所有 Dify 的功能都带有相应的 API，因此您可以轻松地将 Dify 集成到自己的业务逻辑中。
  * D+ v7 S1 n# {+ Z
  
  , S, O) t( t# M1 p

, }7 H7 a- ~: s: D. f- C

2 d7 Z$ e* W- ?+ i" Y2.2 系统框架


0 @+ p! y2 {3 `* r工作流通过将复杂的任务分解成较小的步骤（节点）降低系统复杂度，减少了对提示词技术和模型推理能力的依赖，提高了 LLM 应用面向复杂任务的性能，提升了系统的可解释性、稳定性和容错性。Dify 工作流分为两种类型：

8 v/ Y# Q" g7 ^! ]
• Chatflow：面向对话类情景，包括客户服务、语义搜索、以及其他需要在构建响应时进行多步逻辑的对话式应用程序。
  3 `3 g- ]  |8 q! E6 q* S
  
  
• Workflow：面向自动化和批处理情景，适合高质量翻译、数据分析、内容生成、电子邮件自动化等应用程序。
  
  
  

' m. h, w' I; K2 t3 Y
9 n! ]" E; Q( Z2 N+ b8 J

为解决自然语言输入中用户意图识别的复杂性，Chatflow 提供了问题理解类节点。相对于 Workflow 增加了 Chatbot 特性的支持，如：对话历史（Memory）、标注回复、Answer 节点等。

为解决自动化和批处理情景中复杂业务逻辑，工作流提供了丰富的逻辑节点，如代码节点、IF/ELSE 节点、模板转换、迭代节点等，除此之外也将提供定时和事件触发的能力，方便构建自动化流程。

• 常见案例
  4 T  E/ t& q9 j' E" \
  
  
  
  2 N8 n) K. _" Y, ]- z; m
  • 客户服务：通过将 LLM 集成到您的客户服务系统中，您可以自动化回答常见问题，减轻支持团队的工作负担。 LLM 可以理解客户查询的上下文和意图，并实时生成有帮助且准确的回答。
    - F$ K4 ~( T5 Q% E0 E- ^
    
    
  • 内容生成：无论您需要创建博客文章、产品描述还是营销材料，LLM 都可以通过生成高质量内容来帮助您。只需提供一个大纲或主题，LLM将利用其广泛的知识库来制作引人入胜、信息丰富且结构良好的内容。
    & \' Q  C% i$ |6 I: ^. k7 \
    
  • 任务自动化：可以与各种任务管理系统集成，如 Trello、Slack、Lark、以自动化项目和任务管理。通过使用自然语言处理，LLM 可以理解和解释用户输入，创建任务，更新状态和分配优先级，无需手动干预。
    
    # t2 I$ d9 Z% I8 U! Y( N# n
  • 数据分析和报告：可以用于分析大型数据集并生成报告或摘要。通过提供相关信息给 LLM，它可以识别趋势、模式和洞察力，将原始数据转化为可操作的智能。对于希望做出数据驱动决策的企业来说，这尤其有价值。
    , }- j0 c6 y: e; {8 |0 N) h" Y
    
    
  • 邮件自动化处理：LLM 可以用于起草电子邮件、社交媒体更新和其他形式的沟通。通过提供简要的大纲或关键要点，LLM 可以生成一个结构良好、连贯且与上下文相关的信息。这样可以节省大量时间，并确保您的回复清晰和专业。
    - {- N# v' T0 Q! A
    

3.FastGPT

FastGPT是一个功能强大的平台，专注于知识库训练和自动化工作流程的编排。它提供了一个简单易用的可视化界面，支持自动数据预处理和基于Flow模块的工作流编排。FastGPT支持创建RAG系统，提供自动化工作流程等功能，使得构建和使用RAG系统变得简单，无需编写复杂代码。

' x$ W; ?1 V. c
• 官方：https://fastgpt.in/
  
  
  
• github：https://github.com/labring/FastGPT
  1 E: T+ N: S" A/ A& C% o
  
  - \( ?, |3 k+ X+ n+ w

3.1 FastGPT 能力

  W9 E2 i8 \' \7 R
• 专属 AI 客服 ：通过导入文档或已有问答对进行训练，让 AI 模型能根据你的文档以交互式对话方式回答问题。
  
  # {  ~$ Y& ~5 E8 g' U6 |

• 多库复用，混用
  
  
• chunk 记录修改和删除
  
  $ A6 G! d' F7 I" D1 g: l# {3 h
• 源文件存储
  
  - v0 _3 h7 e) ]1 Q: m
• 支持手动输入，直接分段，QA 拆分导入
  
  
• 支持 txt，md，html，pdf，docx，pptx，csv，xlsx (有需要更多可 PR file loader)
  
  2 {$ I6 j3 F5 t  E( [' y, Z
• 支持 url 读取、CSV 批量导入
  
  # v" P- Q  k+ }8 S  X0 s/ Z2 M" d" N
• 混合检索 & 重排
  4 w" f4 {3 b7 b# C$ F& n

• 简单易用的可视化界面 ：FastGPT 采用直观的可视化界面设计，为各种应用场景提供了丰富实用的功能。通过简洁易懂的操作步骤，可以轻松完成 AI 客服的创建和训练流程。
  
  % u8 _. g( B8 E* Y( ~
• 自动数据预处理：提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径，其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割，节省手动训练时间，提升效能。
  
  
• 工作流编排 ：基于 Flow 模块的工作流编排，可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等。
  
  2 L4 o% P0 {, A

# l; c: e4 Y- C0 Z+ t
• 提供简易模式，无需操作编排
  
  
• 工作流编排
  
  8 t4 D( p) L  V# v/ M2 Y2 a
• 工具调用
  
  7 Y: R" D6 t% u0 G, u# U% X2 }
• 插件 - 工作流封装能力
  
  2 I2 M  Z/ e4 a7 f; h
• Code sandbox
  

4 D, t2 {1 g) `7 o9 [+ b
• 强大的 API 集成：FastGPT 对外的 API 接口对齐了 OpenAI 官方接口，可以直接接入现有的 GPT 应用，也可以轻松集成到企业微信、公众号、飞书等平台。
  
  + x6 }9 I7 G$ X# u" ~# h3 ^+ N

---

作者: Dcpc8506G9V1S    时间: 2024-10-16 14:34
12121221

---

作者: Dcpc8506G9V1S    时间: 2024-10-16 15:04

Dcpc8506G9V1S 发表于 2024-10-16 14:34:39
$ N) y- F5 Y* g7 h+ _; f12121221

4 s$ b2 X) U4 u. k; K2 p
7 ?  @! z( {2 G" b2 n: O) L5 B# s0 R* R111212

---

作者: Puheee    时间: 2024-10-17 14:17
32323232

---

作者: Puheee    时间: 2024-10-17 14:18
23232

---

作者: Puheee    时间: 2024-10-17 14:19
23232323232

---

作者: 鹏仔专用    时间: 2024-10-17 14:23
今天是周四

---

作者: 鹏仔专用    时间: 2024-10-17 14:25
秀秀偶

---

作者: 鹏仔专用    时间: 2024-10-17 15:03
哈哈哈哈哈哈，系休息系

---

作者: 鹏仔专用    时间: 2024-10-17 15:04
嗯嗯嗯嫩嗯嗯

---

作者: 鹏仔专用    时间: 2024-10-17 15:06
西i嘻嘻i

---

作者: 鹏仔专用    时间: 2024-10-17 15:07
嗯嗯嗯呢

---

作者: 鹏仔专用    时间: 2024-10-17 15:13
哈哈哈哈哈

---

作者: 新用户    时间: 2024-10-18 14:21
32323323232

---

欢迎光临 EDA365电子工程师网 (https://bbs.elecnest.cn/)

Powered by Discuz! X3.2