這邊GPT4.5剛發(fā)布，這邊 DeepSeek開源周進(jìn)入到第五天開源的項目，最后一天的開源項目是：3FS（Fire-Flyer File System）。

3FS（Fire-Flyer File System）是什么？

3FS（Fire-Flyer File System）是DeepSeek自研的高性能分布式文件系統(tǒng)，專為解決ai訓(xùn)練和推理工作負(fù)載的挑戰(zhàn)而設(shè)計。

3FS的特征

高性能：

• 利用現(xiàn)代SSD和RDMA網(wǎng)絡(luò)，提供高吞吐量和低延遲的數(shù)據(jù)訪問。

• 結(jié)合數(shù)千個SSD的吞吐量和數(shù)百個存儲節(jié)點的網(wǎng)絡(luò)帶寬，使應(yīng)用能夠以無關(guān)地域的方式訪問存儲資源。

強一致性：

• 通過實現(xiàn)鏈?zhǔn)綇?fù)制與分配查詢（CRAQ），確保強一致性，使得應(yīng)用代碼更簡潔且易于推理。

文件接口：

• 采用無狀態(tài)元數(shù)據(jù)服務(wù)，背后支持事務(wù)型鍵值存儲（如FoundationDB）。

• 熟悉的文件接口，無需學(xué)習(xí)新的存儲API。

多樣化工作負(fù)載支持：

• 數(shù)據(jù)準(zhǔn)備：將數(shù)據(jù)分析管道的輸出組織成層次化目錄結(jié)構(gòu)，有效管理大量中間輸出。

• 數(shù)據(jù)加載器：通過支持跨計算節(jié)點隨機訪問訓(xùn)練樣本，消除預(yù)讀取或數(shù)據(jù)洗牌的需求。

檢查點：支持大規(guī)模訓(xùn)練的高吞吐量并行檢查點。

• 推理KV緩存：提供一種基于成本效益的替代方案，替代DRAM緩存，提供更高吞吐量并大大提高容量。

存算分離：

• 數(shù)據(jù)存儲服務(wù)與計算節(jié)點分離，專門用于存儲模型訓(xùn)練需要用到的樣本數(shù)據(jù)。

• 每個存儲服務(wù)節(jié)點有16張各15TB的SSD硬盤和2張高速網(wǎng)卡，讀取性能強勁，網(wǎng)絡(luò)帶寬強大，讀寫帶寬：7.0TB/秒。

自研通信工具：

• 如hfreduce，優(yōu)化多卡并行通信，替代英偉達(dá)的NCCL，減少PCIe流量和計算開銷。

專用數(shù)據(jù)格式FFRecord：

• 通過合并多個小文件，減少了訓(xùn)練時打開大量小文件的開銷。

• 通過樣本文件的偏移量提升隨機批量讀取性能。

3FS的應(yīng)用

AI訓(xùn)練和推理：

• 3FS專為AI訓(xùn)練和推理工作負(fù)載設(shè)計，能夠顯著提升這些任務(wù)的效率。

• 通過高性能和強一致性，3FS支持大規(guī)模模型訓(xùn)練和高吞吐量推理。

數(shù)據(jù)準(zhǔn)備和加載：

• 3FS的數(shù)據(jù)準(zhǔn)備和加載器功能使得處理大量數(shù)據(jù)變得更加高效，減少了預(yù)讀取和數(shù)據(jù)洗牌的需求。

檢查點和推理緩存：

• 3FS支持高吞吐量的并行檢查點，確保訓(xùn)練過程的穩(wěn)定性和容錯性。

• 推理KV緩存提供了基于成本效益的替代方案，提高了推理吞吐量和容量。

3FS的使用

安裝和配置：

• 3FS可以通過GitHub上的開源項目進(jìn)行安裝和配置。

數(shù)據(jù)格式轉(zhuǎn)換：

• 使用FFRecord格式進(jìn)行數(shù)據(jù)存儲和加載，需要將樣本數(shù)據(jù)轉(zhuǎn)換成FFRecord格式。

• 提供了FFRecord轉(zhuǎn)換工具，方便用戶進(jìn)行數(shù)據(jù)格式轉(zhuǎn)換。

與PyTorch集成：

• 3FS適配了PyTorch的Dataset和Dataloader接口，可以非常方便地加載數(shù)據(jù)并發(fā)起訓(xùn)練。

GitHub項目地址：https://github.com/deepseek-ai/3FS

前四天開源項目回顧

第一天：FlashMLA，針對NVIDIA Hopper GPU的高效解碼內(nèi)核，優(yōu)化了多頭潛在注意力（MLA）的性能，顯著提升了AI工具在內(nèi)容創(chuàng)作中的響應(yīng)速度。

第二天：DeepeEP，首個用于混合專家模型（MoE）訓(xùn)練和推理的開源通信庫，優(yōu)化了大規(guī)模分布式訓(xùn)練的通信效率，降低了延遲。

第三天：DeepGEMM，支持稠密和MoE模型的FP8計算庫，專為NVIDIA Hopper架構(gòu)GPU設(shè)計，顯著提高了計算效率和硬件利用率。

第四天：DualPipe，一種雙向流水線并行算法，旨在優(yōu)化V3/R1模型訓(xùn)練中的計算和通信重疊。EPLB，一個專家并行負(fù)載均衡器，專門用于解決大規(guī)模AI模型中專家并行任務(wù)的負(fù)載不均衡問題。