Lepton Search，一個(gè)開(kāi)源的對(duì)話式ai搜索引擎，由前阿里巴巴技術(shù)副總裁賈揚(yáng)清創(chuàng)立的Lepton AI推出，Lepton Search核心代碼僅用約500行Python編寫(xiě)，支持與大型語(yǔ)言模型（LLM）和搜索引擎的集成。

Lepton Search主要功能

• 內(nèi)置大語(yǔ)言模型支持：通過(guò)集成大型語(yǔ)言模型，如Mixtral-8x7b，Lepton Search能夠提供高質(zhì)量的文本理解和生成能力，因此能給出更準(zhǔn)確和深入的答案。

• 內(nèi)置對(duì)搜索引擎的支持：結(jié)合了搜索引擎的能力，快速檢索網(wǎng)絡(luò)信息，有兩個(gè)默認(rèn)支持的搜索引擎：Bing 和 Google。

• 用戶界面定制：可定制的漂亮 UI 界面。

• 可共享的緩存搜索結(jié)果：用戶可以輕松分享搜索結(jié)果，并且能夠保存這些結(jié)果，并通過(guò)緩存功能保存，減少重復(fù)搜索的需要。

• 多語(yǔ)言支持：支持包括中文、英語(yǔ)、法語(yǔ)、德語(yǔ)和日語(yǔ)在內(nèi)的多種語(yǔ)言。

技術(shù)與實(shí)現(xiàn)

• Lepton Search的背后技術(shù)包括使用自家云上的Mixtral-8x7b大模型，以及調(diào)用Bing搜索引擎API進(jìn)行數(shù)據(jù)檢索。

• 數(shù)據(jù)存儲(chǔ)方面，Lepton Search依賴于Lepton AI的無(wú)服務(wù)器存儲(chǔ)解決方案Lepton KV。

• Lepton Search的前端與后端設(shè)計(jì)使得開(kāi)發(fā)者可以輕松部署和定制。

開(kāi)源與部署

• 賈揚(yáng)清在Twitter上宣布Lepton Search開(kāi)源，采用Apache License授權(quán)，便于個(gè)人和企業(yè)自由使用。

• 部署方式有兩種：本地部署和基于Lepton云的部署。本地部署簡(jiǎn)單快捷，通過(guò)幾個(gè)命令即可完成，包括克隆項(xiàng)目、安裝Lepton AI庫(kù)、設(shè)置Bing API密鑰、構(gòu)建前端和運(yùn)行服務(wù)器。

• 對(duì)于快速嘗試，用戶可以直接通過(guò)GitHub頁(yè)面點(diǎn)擊“Deploy”按鈕進(jìn)行部署，設(shè)置搜索引擎API密鑰即可。

Lepton Search的使用方法

1.從GitHub上下載Lepton Search的源代碼，并按照官方文檔進(jìn)行安裝和配置。

2.Lepton Search的搜索引擎采用了Bing的搜索API，用戶需要獲取Bing的API密鑰，設(shè)置Bing密鑰并構(gòu)建前端網(wǎng)絡(luò)。

3.在配置完成后，啟動(dòng)Lepton Search的后臺(tái)服務(wù)器，開(kāi)始使用對(duì)話式搜索功能。

Lepton Search項(xiàng)目地址：https://github.com/leptonai/search_with_lepton