Kotaemon，一個(gè)能讓你與文檔進(jìn)行對(duì)話的開(kāi)源工具，基于 RAG 技術(shù)實(shí)現(xiàn)與文檔的交互式對(duì)話，支持多模態(tài)檢索，可以處理文本、圖表和表格等不同類(lèi)型的數(shù)據(jù)。

Kotaemon主要特征：

• 托管您自己的文檔 QA (RAG) Web-UI 。支持多用戶(hù)登錄，在私人/公共收藏中組織您的文件，與他人協(xié)作并分享您最喜歡的聊天。

• 組織您的LLM和嵌入模型。支持本地LLMs和流行的 API 提供商（Openai、Azure、Ollama、Groq）。

• 混合 RAG 管道。 Sane 默認(rèn) RAG 管道具有混合（全文和矢量）檢索器 + 重新排名，以確保最佳檢索質(zhì)量。

• 多模式質(zhì)量保證支持。通過(guò)圖形和表格支持對(duì)多個(gè)文檔進(jìn)行問(wèn)答。支持多模式文檔解析（UI 上的可選選項(xiàng)）。

• 通過(guò)文檔預(yù)覽提前引用。默認(rèn)情況下，系統(tǒng)會(huì)提供詳細(xì)的引文，以確保LLM答案的正確性。直接在瀏覽器內(nèi)的 PDF 查看器中查看您的引文（包括相關(guān)分?jǐn)?shù)）并突出顯示。當(dāng)檢索管道返回低相關(guān)文章時(shí)發(fā)出警告。

• 支持復(fù)雜的推理方法。使用問(wèn)題分解來(lái)回答復(fù)雜/多跳問(wèn)題。支持使用 ReAct、ReWOO 和其他代理進(jìn)行基于代理的推理。

• 可配置的設(shè)置用戶(hù)界面。您可以在 UI 上調(diào)整檢索和生成過(guò)程的最重要方面（包括提示）。

• 可擴(kuò)展。基于 Gradio 構(gòu)建，您可以根據(jù)需要自由定制/添加任何 UI 元素。此外，我們的目標(biāo)是支持多種文檔索引和檢索策略。 GraphRAG索引管道作為示例提供。

Kotaemon應(yīng)用：

kotaemon充當(dāng)功能性 RAG UI，適用于想要對(duì)其文檔進(jìn)行 QA 的最終用戶(hù)和想要構(gòu)建自己的 RAG 管道的開(kāi)發(fā)人員。

對(duì)于最終用戶(hù)：

• 用于基于 RAG 的 QA 的干凈簡(jiǎn)約的 UI。

• 支持LLM API 提供商（OpenAI、AzureOpenAI、Cohere 等）和本地LLMs （通過(guò)ollama和llama-cpp-python ）。

• 簡(jiǎn)單的安裝腳本。

對(duì)于開(kāi)發(fā)人員：

• 用于構(gòu)建您自己的基于 RAG 的文檔 QA 管道的框架。

• 使用提供的 UI（使用 Gradio 構(gòu)建）自定義并查看 RAG 管道的運(yùn)行情況。

Kotaemon提供簡(jiǎn)潔易用的界面，并支持使用本地 LLM 或主流 LLM API 提供商，還可一鍵安裝使用。

Kotaemon GitHub：https://github.com/Cinnamon/kotaemon