本頁使用了標題或全文手工轉換

稀疏檔案

維基百科,自由的百科全書
跳至導覽 跳至搜尋
稀疏檔案:空位元組不需要儲存,只需要通過元資料定義。

稀疏檔案英語:sparse file)是一種電腦檔案,它能嘗試在檔案內容大多為空時更有效率地使用檔案系統的空間。它的原理是以簡短的資訊(元資料)表示空數據塊,而不是在在磁盤上佔用實際空間來儲存空數據塊。只有真實(非空)的數據塊會按原樣寫入磁盤。

在讀取稀疏檔案時,檔案系統會按元資料在執行時將這些透明轉換為「真實」的數據塊,即填充為零。應用程式不會察覺這個轉換。

大多數現代的檔案系統支援稀疏檔案,包括大多數Unix變種和NTFS[1]蘋果的HFS+不提供稀疏檔案支援,但在OS X中,虛擬檔案系統層支援在任何受支援檔案系統中儲存稀疏檔案,包括HFS+。2016年6月在WWDC宣佈的蘋果檔案系統(APFS[2])支援稀疏檔案。稀疏檔案常被用在磁盤映像數據庫快照、紀錄檔檔案和科學應用中。

優勢[編輯]

稀疏檔案的優勢是,它分配的儲存空間只在需要時使用:這樣節省了磁盤空間,並且可以建立很大的檔案,即使檔案系統中的可用空間不足。這也減少了首次寫入的時間,因為系統不會分配「跳過」的空間。如果初始分配需要寫入全零到空間,這也使得系統不必寫入兩次。

缺點[編輯]

稀疏檔案的缺點包括:稀疏檔案可能碎片化;檔案系統的空餘空間報告可能產生誤導;包含稀疏檔案的檔案系統被填滿可能產生意外效果,例如只是重寫現有檔案的內容時遭遇磁盤已滿或超出配額錯誤——開發者未預料到檔案可能被稀疏;使用非顯式支援的電腦程式複製稀疏檔案可能會複製整個內容,即未壓縮的檔案大小,包括未實際在磁盤上分配的零空間——也就是使稀疏檔案失去稀疏屬性。稀疏檔案也不是被所有備份軟件和應用支援。不過,VFS的實現迴避了先前兩個缺點。在Windows上載入稀疏的可執行檔案(exe或dll)可能需要更多時間,因為檔案不被對映到記憶體和緩衝記憶體。

Unix中的稀疏檔案[編輯]

稀疏檔案通常對用戶透明(不可見)處理。但在某些情況下,稀疏檔案會與正常檔案顯現出差異。

建立[編輯]

Unix命令:

 dd of=sparse-file bs=1k seek=5120 count=0

將建立一個5MB大小的檔案,但不在磁盤上儲存數據(僅儲存元資料)。(GNU dd也有此表現,因為它呼叫ftruncate來設置檔案大小;其他實現可能是只建立一個空檔案)。 如果truncate命令可用,也可以使用它:

 truncate -s 5M <filename>

刪除[編輯]

ls命令的-s選項會以塊為單位顯示已佔用的空間。

 ls -ls sparse-file

或者,du命令將打印佔用的空間,而ls打印明面的大小。在一些非標準的du版本中,--block-size=1選項打印位元組而非塊單位的佔用空間,因而可以與ls的輸出比較:

 du --block-size=1 sparse-file
 ls -l sparse-file

複製[編輯]

一般來說,GNU版本的cp是檢測檔案是否為稀疏檔案的較好方式,所以

cp sparse-file new-file

建立一個新檔案,它將是稀疏性質。但是,GNU版本的cp沒有--sparse=WHEN選項。[3]這尤為有用,如果一個已儲存檔案包含長串零塊且非稀疏方式儲存(即長串的零塊已被完全寫入並佔用磁盤空間)。用此命令可以節省磁盤空間:

cp --sparse=always file1 file1_sparsed

在某些例如FreeBSD的cp實現中,--sparse選項不被支援,將始終展開稀疏檔案。這些系統上的可行替代方案是使用rsync--sparse選項[4]代替cp。遺憾的是--sparse無法與--inplace組合使用,因此通過網絡rsync巨大檔案時始終會浪費網絡和磁盤頻寬。

通過標準輸入[編輯]

 cp --sparse=always /proc/self/fd/0 new-sparse-file < somefile

Windows的NTFS[編輯]

如果一個檔案的大部分數據是0,則這個檔案被稱包含了稀疏數據集。 檔案壓縮可以有效率地表示稀疏檔案,但壓縮與解壓會帶來時間代價。 NTFS檔案系統支援稀疏檔案表示,並對檔案的讀寫操作透明。

為確定檔案系統是否支援稀疏檔案,呼叫GetVolumeInformation函數,使用lpFileSystemFlags參數,檢查返回結果對應於FILE_SUPPORTS_SPARSE_FILES位元標誌。 DWORD dwFileSystemFlags = 0; BOOL bOk = GetVolumeInformation("C:\\", NULL, 0, NULL, NULL, &dwFileSystemFlags, NULL, 0); bOk = dwFileSystemFlags&FILE_SUPPORTS_SPARSE_FILES ; 判斷一個檔案是否是稀疏檔案:GetFileInformationByHandle

大部分檔案,在改變它的EndOfFile的時候,中間的空白會被作業系統填0,也就是說,如果用SetFilePointer和SetEndOfFile來產生一個很大的檔案,那麼這個檔案它佔用的是真正的磁盤空間,即使裏面全是0,系統預設的也會在DeviceIoControl()中的ControlCode里用FSCTL_SET_ZERO_DATA標記,這個標記使得那些檔案空洞被0所填充。為了節省磁盤空間,必須把一個檔案聲明為稀疏檔案,以便讓系統把那些無用的0位元組壓縮,並釋放相應的磁盤空間,這需要用DeviceIoControl()將標記改為FSCTL_SET_SPARSE。

參見[編輯]

參考資料[編輯]

  1. ^ Giampaolo, Dominic. Practical File System Design with the Be File System (PDF). Morgan Kaufmann Publishers. 1999. ISBN 9781558604971. 
  2. ^ General Characteristics. Apple Inc. [2016-06-17]. 
  3. ^ Jim Meyering. GNU coreutils/cp: Accept new option, --sparse={never,auto,always}, to control creation of sparse files.. 1995-12-21 [2016-06-17]. 
  4. ^ Tridgell, Andrew. rsync: hard links, better sparse handling, FERROR and FINFO. 1996-06-29 [2016-06-17]. 

外部連結[編輯]