EDA365欢迎您！
您需要 登录 才可以下载或查看，没有帐号？注册
x
RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
! f# U |% M, E0 I, G
1 Q2 \3 \8 G* | {
. |% F6 z% Q9 E1.MaxKBMaxKB = Max Knowledge Base，是一款基于 LLM 大语言模型的开源知识库问答系统，旨在成为企业的最强大脑。它能够帮助企业高效地管理知识，并提供智能问答功能。想象一下，你有一个虚拟助手，可以回答各种关于公司内部知识的问题，无论是政策、流程，还是技术文档，MaxKB 都能快速准确地给出答案:比如公司内网如何访问、如何提交视觉设计需求等等1.1 简介
' d' `' e0 `* \- 开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；1 G; F f. ]5 G' F, A5 W# A8 L
" G2 ^8 F6 o) Q; D6 I6 D9 {. a
- 无缝嵌入：支持零编码快速嵌入到第三方业务系统，让已有系统快速拥有智能问答能力，提高用户满意度；
4 s1 P" y0 d, J( [) Y. N6 m4 c6 s+ i4 \/ J- O- f
) b( Q! P; Q( }+ f8 A# o
* q) }) ^. q1 G4 Q3 M8 T) G; E9 D8 ^9 @6 u. M4 h8 a3 k5 d( \
+ v9 J3 \; C* |3 b. q+ X+ X% t
}4 F& z& B8 |1 U9 ]
: u$ ^4 E( x; o1 d/ i! I
; V2 K' R* ^ w
; w) `$ g) {+ B7 Z6 ^9 D4 }
( [" k* f$ N1 s) S; f( L1.2技术框架和原理
; w! Z8 g% F* @
% @, \2 n' h: r% i0 |) D; _
8 s f: U. P0 i$ m9 M
0 S! d4 }0 d8 z: K+ V6 Q& Z: P
3 C" E+ L/ U; V: c8 \
5 E- Z$ f& b% n% n: U: q% ~8 Y1 D6 E技术栈
( @. a$ h6 }" u# Z7 w" H+ `/ \9 y
2.DifyDify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。由于 Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间，使其可以专注在创新和业务需求上 # ]& c0 l: ]4 u6 a3 J: \" R/ H A
. a& m9 Z5 T. R3 B
" L+ j" J8 ~3 k3 d& K
, A7 _) K3 I( \" C- A
+ N, o& f- n# v* x0 V& U8 S6 y
! }* T% D7 A) S
2.1 简介Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。以下是其核心功能列表：
9 H, t1 |; m1 A6 v: B4 I2 r8 }工作流: 在画布上构建和测试功能强大的 AI 工作流程，利用以下所有功能以及更多功能。+ I8 G/ g! @, b, K
5 n+ G' w; ?& _
全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。
3 |! m% d/ K! e. } " `8 p t4 w4 P' D- W O0 H7 p
Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能（如文本转语音）的直观界面。6 {0 P5 o, P. n% G- g: E! ?
4 V5 x- q% ?" r! V
RAG Pipeline: 广泛的 RAG 功能，涵盖从文档摄入到检索的所有内容，支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。
. u$ a) W! n& {. |) ^ T
# N: v( {) z3 l3 J6 VAgent 智能体: 您可以基于 LLM 函数调用或 ReAct 定义 Agent，并为 Agent 添加预构建或自定义工具。Dify 为 AI Agent 提供了50多种内置工具，如谷歌搜索、DELL·E、Stable Diffusion 和 WolframAlpha 等。5 Y" p/ E( v2 G0 b, g! U
; O/ H! G' O: ^, U% N2 d9 Z8 F, I1 iLLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。
6 j# U. e+ S- H& {# [
7 l' @5 s: v2 M后端即服务: 所有 Dify 的功能都带有相应的 API，因此您可以轻松地将 Dify 集成到自己的业务逻辑中。3 s1 Q% H9 F* ]/ g
$ j4 c$ D. Z1 n6 _- O2 |
, e. y1 r3 h3 D
4 v/ t4 \' g! q. B
! q. m- e, R* }8 I2.2 系统框架2 H% y7 w0 h4 ?# G D# [
1 O/ ^7 s; t* P; | n
) F/ v2 Z: E, ~( I8 a3 p9 `
工作流通过将复杂的任务分解成较小的步骤（节点）降低系统复杂度，减少了对提示词技术和模型推理能力的依赖，提高了 LLM 应用面向复杂任务的性能，提升了系统的可解释性、稳定性和容错性。Dify 工作流分为两种类型：
6 S0 s: Y6 h; e- jChatflow：面向对话类情景，包括客户服务、语义搜索、以及其他需要在构建响应时进行多步逻辑的对话式应用程序。- s% o6 f, h; K! t- r) H; _
: V8 }" g% z4 U; kWorkflow：面向自动化和批处理情景，适合高质量翻译、数据分析、内容生成、电子邮件自动化等应用程序。+ o' ~0 d [. g$ ^8 t y
+ p) \. b9 E I3 q
& d" L6 y/ K( U3 h# j- t4 _
, K" }0 o. S L6 N- y8 s' `' V
e8 p4 K4 m* f为解决自然语言输入中用户意图识别的复杂性，Chatflow 提供了问题理解类节点。相对于 Workflow 增加了 Chatbot 特性的支持，如：对话历史（Memory）、标注回复、Answer 节点等。 为解决自动化和批处理情景中复杂业务逻辑，工作流提供了丰富的逻辑节点，如代码节点、IF/ELSE 节点、模板转换、迭代节点等，除此之外也将提供定时和事件触发的能力，方便构建自动化流程。, r$ f& Y- l$ G+ U0 e) e
常见案例: N0 Y" b' E* s
& ]( V4 X! g5 Q; w1 H
8 c6 K/ u: D5 a5 w客户服务：通过将 LLM 集成到您的客户服务系统中，您可以自动化回答常见问题，减轻支持团队的工作负担。 LLM 可以理解客户查询的上下文和意图，并实时生成有帮助且准确的回答。
6 ?6 o: Y2 r2 o$ j " L+ [ L8 A$ L* l" m* A
- 内容生成：无论您需要创建博客文章、产品描述还是营销材料，LLM 都可以通过生成高质量内容来帮助您。只需提供一个大纲或主题，LLM将利用其广泛的知识库来制作引人入胜、信息丰富且结构良好的内容。
! E# p$ u2 d. `% \
8 a3 `7 z g5 u' s - 任务自动化：可以与各种任务管理系统集成，如 Trello、Slack、Lark、以自动化项目和任务管理。通过使用自然语言处理，LLM 可以理解和解释用户输入，创建任务，更新状态和分配优先级，无需手动干预。! ?+ a# `5 M- ?- X; ^
% d3 l, |4 Y' X; h+ p6 r+ b) S 数据分析和报告：可以用于分析大型数据集并生成报告或摘要。通过提供相关信息给 LLM，它可以识别趋势、模式和洞察力，将原始数据转化为可操作的智能。对于希望做出数据驱动决策的企业来说，这尤其有价值。
5 f' |2 ^- m0 T% c# \) l( ? 0 @7 h3 v8 z, g( W, @
- 邮件自动化处理：LLM 可以用于起草电子邮件、社交媒体更新和其他形式的沟通。通过提供简要的大纲或关键要点，LLM 可以生成一个结构良好、连贯且与上下文相关的信息。这样可以节省大量时间，并确保您的回复清晰和专业。
9 V9 H3 o2 I7 l! Y
4 h8 _) n/ G, W, ^2 f" E; I
3.FastGPTFastGPT是一个功能强大的平台，专注于知识库训练和自动化工作流程的编排。它提供了一个简单易用的可视化界面，支持自动数据预处理和基于Flow模块的工作流编排。FastGPT支持创建RAG系统，提供自动化工作流程等功能，使得构建和使用RAG系统变得简单，无需编写复杂代码。
. z+ h( v& p& }/ o m0 E3 X% ?5 ?
! u! z: i* c5 @ D- G: L
2 u7 k6 B% Y4 K
3.1 FastGPT 能力4 N8 K. T" d- J n6 b2 G
简单易用的可视化界面 ：FastGPT 采用直观的可视化界面设计，为各种应用场景提供了丰富实用的功能。通过简洁易懂的操作步骤，可以轻松完成 AI 客服的创建和训练流程。
' a) H' j. v; J6 O0 p7 d p自动数据预处理：提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径，其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割，节省手动训练时间，提升效能。 S0 l4 j: Q Q0 o
工作流编排 ：基于 Flow 模块的工作流编排，可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等。
7 l; ?' L) q% Q
. X, ?2 R, A6 u% ]% x- E8 t# D提供简易模式，无需操作编排 5 w6 K( S, F* d/ A/ q% @
工作流编排 * r6 S* t1 A+ o
工具调用
) t5 v& |' H9 x! |( M8 @ b+ V% f6 R, S插件 - 工作流封装能力 : D I H. n/ ]
- Code sandbox
: { m7 k& Q8 |% \
|
/1 
楼主
发表于 2024-10-16 14:34
