海量數據技術

2022-09-09 14:01:40

次

云計算系統由大量服務器組成，同時為大量用戶服務，因此云計算系統采用分布式存儲的方式存儲數據，用冗余存儲的方式保證數據的可靠性。云計算系統中廣泛使用的數據存儲系統是Google的GFS和Hadoop團隊開發的GFS的開源實現HDFS。通信技術

GFS即Google文件系統(Google File System)，是一個可擴展的分布式文件系統，用于大型的、分布式的、對大量數據進行訪問的應用。GFS的設計思想不同于傳統的文件系統，是針對大規模數據處理和Google應用特性而設計的。它運行于廉價的普通硬件上，但可以提供容錯功能。它可以給大量的用戶提供總體性能較高的服務。

一個GFS集群由一個主服務器(master)和大量的塊服務器(chunkserver)構成，并被許多客戶(Client)訪問。主服務器存儲文件系統所以的元數據，包括名字空間、訪問控制信息、從文件到塊的映射以及塊的當前位置。它也控制系統范圍的活動，如塊租約(lease)管理，孤兒塊的垃圾收集，塊服務器間的塊遷移。主服務器定期通過HeartBeat消息與每一個塊服務器通信，給塊服務器傳遞指令并收集它的狀態。GFS中的文件被切分為64MB的塊并以冗余存儲，每份數據在系統中保存3個以上備份。物聯網解決方案

客戶與主服務器的交換只限于對元數據的操作，所有數據方面的通信都直接和塊服務器聯系，這大大提高了系統的效率，防止主服務器負載過重。

通信工程