【應(yīng)用】撩開分布式存儲(chǔ)神秘面紗

我們?cè)?011年開始研究試驗(yàn)云計(jì)算技術(shù)，到2013年形成了長距雙活資源池體系，并引入SDNOverlay技術(shù)進(jìn)行測試和試點(diǎn)，通過SDN實(shí)現(xiàn)彈性網(wǎng)絡(luò)資源池，強(qiáng)化網(wǎng)絡(luò)自動(dòng)化部署能力，加快資源交付時(shí)間。資源池中計(jì)算、網(wǎng)絡(luò)彈性部署能力相對(duì)較強(qiáng)，而原先資源池存儲(chǔ)主要采用的傳統(tǒng)集中FCSan技術(shù)，在面對(duì)資源池各種各樣存儲(chǔ)需求時(shí)逐漸成為瓶頸，存儲(chǔ)技術(shù)門檻高、成本高、并發(fā)IO受限、線性擴(kuò)展能力差以及不具備按需分配的能力成為急需要解決的問題。于是萌發(fā)了想利用傳統(tǒng)的X86服務(wù)器+廉價(jià)的SATA盤作為塊存儲(chǔ)的想法。2013年的10月，在杭州西湖邊的青騰茶館第一次遇到了顧炯炯大師，在交流了華為的虛擬化軟件的同時(shí)，我也講了基于X86存儲(chǔ)的基本想法，炯炯大師表示華為已經(jīng)在開發(fā)基于X86分布式塊存儲(chǔ)，預(yù)計(jì)可以在2014年開發(fā)完成。現(xiàn)在回想起來，當(dāng)時(shí)炯炯大師的說法給我很大的信心，而我的想法也給炯炯大師很大的信心。后來也和國內(nèi)外的存儲(chǔ)廠家進(jìn)行了交流很溝通。2014年通過前期測試和招標(biāo)（華為、中興、EMC、HP、HDS應(yīng)標(biāo)）最終確定采用華為FusionStorage分布式塊存儲(chǔ)。在2014年年底投入正式商用，2015年2月6日聯(lián)合華為召開新聞發(fā)布會(huì)，是業(yè)界第一個(gè)投入商用的分布式塊存儲(chǔ)。在后來的使用中，和我預(yù)想的一樣成功替代傳統(tǒng)FCSAN高端存儲(chǔ)，自從使用FusionStorage后，就沒有新購或擴(kuò)容FCSAN。

　　=開始正文

　　分布式存儲(chǔ)的架構(gòu)

　　一般來說，分布式存儲(chǔ)不管是文件存儲(chǔ)、對(duì)象存儲(chǔ)還是塊存儲(chǔ)的基本架構(gòu)都是大同小異的。即客戶端或應(yīng)用端、元數(shù)據(jù)（MDS）服務(wù)器和數(shù)據(jù)節(jié)點(diǎn)服務(wù)器。

　　客戶端和元數(shù)據(jù)服務(wù)器之間交互是“信令交互”，而客戶端到數(shù)據(jù)節(jié)點(diǎn)是“媒體交互”。元數(shù)據(jù)服務(wù)器或通過數(shù)據(jù)節(jié)點(diǎn)服務(wù)器獲取各節(jié)點(diǎn)服務(wù)器的基本配置情況和狀態(tài)信息。

　　比如，客戶端需要讀取某一個(gè)文件的信息，客戶端會(huì)將相應(yīng)的要求發(fā)給元數(shù)據(jù)服務(wù)器“喂！我需要XXX，存在哪里了”，元數(shù)據(jù)服務(wù)器查詢后回答“你到xxx服務(wù)器的xxx地址+xxx服務(wù)器的xxx地址取”。客戶端拿到這個(gè)指示后，向這2臺(tái)服務(wù)器發(fā)出指令，數(shù)據(jù)節(jié)點(diǎn)獲得指令后，將相應(yīng)的數(shù)據(jù)返回給客戶端。

　　大家可能都會(huì)奇怪，為什么塊存儲(chǔ)、對(duì)象和文件的架構(gòu)都是一樣的。有什么區(qū)別呢？我們?cè)谇懊婊A(chǔ)知識(shí)講述中，塊存儲(chǔ)是一種裸設(shè)備，它是將存儲(chǔ)設(shè)備以“塊”的方式直接提供給客戶，由客戶自己的操作系統(tǒng)里的文件系統(tǒng)進(jìn)行管理。即分布式塊存儲(chǔ)里是沒有文件系統(tǒng)的，是通過客戶端直接將最簡單明了的命令傳遞給存儲(chǔ)的“塊”來執(zhí)行。而對(duì)象存儲(chǔ)和文件存儲(chǔ)雖然結(jié)構(gòu)類似，但并不將存儲(chǔ)底層的“塊”直接提供出來，而是通過隱藏著一個(gè)文件系統(tǒng)，包裝成為“文件”或“對(duì)象”提供出來。這些存儲(chǔ)“不挑”操作系統(tǒng)或終端，最終執(zhí)行命令的是存儲(chǔ)里面的文件系統(tǒng)操控存儲(chǔ)執(zhí)行的，所以共享性很好。文件存儲(chǔ)通過“目錄+文件名+偏移量”來檢索，文件間有目錄層次的；而對(duì)象存儲(chǔ)采用“唯一對(duì)象ID+偏移量”來檢索，對(duì)象扁平存儲(chǔ)的，是沒有層次的。而且塊、對(duì)象、文件存儲(chǔ)是可以相互轉(zhuǎn)換的，這個(gè)問題以后單獨(dú)講。

1  2  3  4