想要第一時間看到文章,記得??星標(biāo)公眾號哦!
點(diǎn)上方藍(lán)字oh4k??點(diǎn)右上角"菜單"??選擇"設(shè)為星標(biāo)??"
素材的存儲確實(shí)很讓人頭疼。本文會幫助你針對存儲的性能、冗余和安全性進(jìn)行優(yōu)化。
一旦涉及到硬盤和存儲的時候,大家就會產(chǎn)生很多的問題。當(dāng)你的數(shù)據(jù)面臨風(fēng)險(xiǎn)時,任何一個錯誤都可能會造成巨大的損失。
所以我整理了這篇指南,來幫助大家掌握一些基礎(chǔ)性的知識,從而減少災(zāi)難性錯誤的發(fā)生。
這篇文章將會介紹直連外置硬盤、外接式RAID和內(nèi)接式RAID等存儲形式,但暫時沒有涉及到NAS等網(wǎng)絡(luò)存儲。
這個其實(shí)不用多說。一定要記得,將數(shù)據(jù)備份到兩個以上的單獨(dú)存儲器上。這個操作要從你取下攝影機(jī)存儲卡的那一刻就開始,并且在整個后期制作過程都要注意。
項(xiàng)目文件通常很小,有時甚至可以很輕松地備份到云儲存當(dāng)中。許多其他類型的臨時文件可以重新創(chuàng)建,例如NLE緩存文件,甚至是轉(zhuǎn)碼后的媒體。但要記得,一定要始終備份保存多份原始文件。
一般來說,外置SSD或移動硬盤通常先在現(xiàn)場拷貝攝影機(jī)儲存卡上的文件, 之后再把文件拷貝到更大的本地存儲器或者云端共享存儲中。在大型項(xiàng)目中,DIT可能還會在現(xiàn)場使用更大的直連RAID陣列。無論你處理數(shù)據(jù)的工作流程是什么,重要的是要在工作流程的每個階段都保持重復(fù)的備份儲存。理想情況下,應(yīng)該將一組相同的原始文件備份在片場、工作室或者家里。在設(shè)計(jì)數(shù)據(jù)工作流時要盡量選擇外置硬盤。因?yàn)闀r間對于我們來說是至關(guān)重要的,我們要在最快時間內(nèi)拷貝(理想情況下,同時拷貝幾塊硬盤)、校驗(yàn)和運(yùn)行攝影機(jī)儲存卡。
攝影機(jī)素材存儲其實(shí)是非??斓?,但如果你使用廉價(jià)的、傳輸慢的外置硬盤在一個速度慢的接口上進(jìn)行拷貝,那就會使數(shù)據(jù)的拷貝速度慢很多。
一個單獨(dú)的機(jī)械硬盤讀/寫速度只有80MB/秒。這樣低的拷貝速度、無疑會增加拷貝時間。這太讓人感覺到糟心了。所以千萬不要試圖在機(jī)械硬盤上省錢,這對于整個工作流來說,付出的代價(jià)可能是非常昂貴的。
Blackmagic Design MultiDock可以容納
四個配置為RAID 0陣列的SSD硬盤
在后期制作的時候,備份攝影機(jī)素材和關(guān)鍵項(xiàng)目文件也很重要。
即使你用配置了高級別冗余的企業(yè)級共享存儲,也要確保使用直連的桌面RAID或其他直連的儲存設(shè)備進(jìn)行備份。
無論你使用什么存儲,一定要將所有的攝影機(jī)原素材的副本都保留在另外一個臺式機(jī)RAID上,或者一個單獨(dú)的硬盤上,然后放好,非必要的情況下不要去移動它。
單獨(dú)的外部硬盤
外置硬盤有很多種。它們并不完全相同,你找到的普通USB硬盤可能比較適合備份照片和文檔,但不太適合整個視頻工作流程。拿到獨(dú)立外置硬盤時,一定要查看內(nèi)置硬盤類型以及它的接口類型。具有快速接口(例如雷電連接)的外置硬盤內(nèi)部可能裝的還是慢速硬盤,所以這個要檢查清楚。而且真正重要的是內(nèi)置硬盤本身的最大讀寫速度。理想情況下,你應(yīng)該考慮在大多數(shù)影視工作中使用外部SSD硬盤,無論你是在片場拷貝攝影機(jī)卡,或者是用它在筆記本電腦上進(jìn)行編輯。然而,固態(tài)硬盤比較貴,容量也更小。具體使用什么樣的硬盤,這還是取決于你需要儲存數(shù)據(jù)的大。有時候可能一個7200轉(zhuǎn)速的機(jī)械硬盤可能也就足夠了。
這還是取決于你打算用它來干嘛,以及你打算儲存什么媒體文件。最近幾年,普通的硬盤容量迅速增長,單個硬盤可提供14TB的內(nèi)存。這些硬盤的容量從2TB到14TB不等,而且有2.5英寸和3.5英寸的不同大小。內(nèi)部磁盤的轉(zhuǎn)速一般為5200RPM或7200RPM,有些企業(yè)級硬盤的轉(zhuǎn)速為15,000RPM,單個旋轉(zhuǎn)磁盤硬盤的持續(xù)讀寫速度只能達(dá)到80MB/sec,因此,真正的瓶頸在于硬盤本身,而不是與計(jì)算機(jī)連接的那個接口。圖片來源:Western Digital和G-Technology
我已經(jīng)測試了一種便宜且通用的WD Passport外部硬盤硬盤(左),其USB 3.2 gen 1(官方宣傳的130MB/sec)的平均傳輸速度僅為80MB/sec,并且僅提供USB-A型連接線。G-Drive Mobile(右)可以提供類似的吞吐量,并隨附有連接至USB-A和USB-C型接口的適配器連接線。
5200RPM機(jī)械硬盤通??梢跃S持平均100-110 MB/sec的讀寫速度,而7200RPM機(jī)械硬盤通??梢跃S持120-130MB/sec的讀寫速度。
SSD或使用NAND的固態(tài)硬盤可以非??斓拇鎯?shù)據(jù),具有極高的數(shù)據(jù)吞吐量。
普通的的USB 3外置SSD可以保持超過500MB/秒的讀寫速度,而且它是受SATA3.0接口的限制,和內(nèi)存本身沒關(guān)系。
通過PCIe接口的普通NVMe SSD可以支持超過3000MB/秒的速度。如果是具有雷電接口的外置SSD硬盤最高可以支持2800MB/秒的速度。
圖片來源:G-Technology
G-Drive Mobile SSD(左)使用USB-C接口,通過USB 3.2 Gen 2提供高達(dá)560MB /秒的速度。G-Drive Mobile Pro SSD(右)也使用USB-C類型的接口,但提供高達(dá)2800MB的速度/秒,超過雷電3。
SSD是媒體從業(yè)者的最佳選擇,因?yàn)樗梢宰屇愀斓貜臄z影機(jī)卡上拷貝數(shù)據(jù),并可以從這么小的便攜式外置硬盤中實(shí)時播放多個高分辨率媒體。
其實(shí)許多外置USB機(jī)械硬盤的制造商誤導(dǎo)性地夸大了外置機(jī)械硬盤的最大傳輸數(shù)據(jù)。消費(fèi)者也不了解其中的技術(shù)細(xì)節(jié),只知道包裝盒上印有的傳輸速度越大越好,這是完全錯誤的。
用于連接外置機(jī)械硬盤與計(jì)算機(jī)的數(shù)據(jù)線也特別重要。也就是說,大多數(shù)的接口(例如USB 3和雷電)都能以非常快的速度驅(qū)動常見視頻編解碼和格式的單數(shù)據(jù)流,甚至同時驅(qū)動其中的多個數(shù)據(jù)流。
上圖是當(dāng)前最常見的USB類型接口。原始的USB Type A僅供參考,它已經(jīng)被被USB Type A SuperSpeed廣泛替代。許多便攜式硬盤硬盤在機(jī)箱上都具有USB Type Micro B SuperSpeed接口,以及用于連接USB Type A SuperSpeed或USB Type C的連接線。
USB的命名規(guī)范已經(jīng)變得非?;靵y。來看看該如何區(qū)分。
- USB 3.2 Gen 1是USB 3.0。它的最大吞吐量為5Gbps。這也稱為SuperSpeed USB;
- USB 3.2 Gen 2是USB 3.1。它的最大吞吐量為10Gbps。這也稱為SuperSpeed USB 10Gbps;
- USB 3.2 Gen 2×2是USB 3.2。它的最大吞吐量為20Gbps。這也稱為SuperSpeed USB 20Gbps。
你也可能聽到USB在接口類型方面的討論。USB類型(例如A,B和C)會告訴你端口和接口的形狀,但不會告訴你數(shù)據(jù)傳輸速度。USB-C是最新的接口類型,通常與USB 3.2 Gen 2關(guān)聯(lián),但也不是絕對的,它也可以是USB 3.2 Gen 1或根本不是USB。更令人困惑的是,USB-C型接口還用于雷電3。雷電3提供的數(shù)據(jù)傳輸速率高達(dá)40GBps,是USB 3.2 Gen 2的四倍。
USB和雷電接口都是可以供電的,而且很多較小的外部硬盤都可能是總線供電的,如果你筆記本沒電時,就可以用它來充電。
數(shù)據(jù)帶寬(Media Bandwidth)選擇儲存的類型的時候,首先考慮的是實(shí)時播放媒體所需的數(shù)據(jù)帶寬。以下一些示例,這些數(shù)據(jù)速率只是近似值,可以用來參考。
- 4K XAVC(H.264)– 50MB/秒(MB不是Mb,1MB = 8Mb);
- 4K 24p ProRes RAW – 40-100MB/秒;
- 4K 24p ProRes RAW HQ – 80-140MB/秒;
- 6K 24p ProRes RAW HQ – 180-300MB/秒;
- 8K 24p ProRes RAW HQ – 320-530MB/秒;
- 4K 24p ProRes 422 HQ – 95MB/秒;
- 4K 24p ProRes 4444 – 140MB/秒;
- 8K 24p R3D 5:1 – 260MB/秒。
從此列表可以明顯看出,外部USB3 5400RPM的硬盤可能會不支持大多數(shù)格式的播放。有一個例外是拍攝H.264/AVC視頻的無反相機(jī)和單反相機(jī)。即使在4K分辨率下,這些編解碼器所需的數(shù)據(jù)速率也是很低的,所以硬盤不會成為瓶頸,但是在計(jì)算機(jī)上實(shí)時解碼H.264可能會成為一個難題。這并不意味著你不能使用傳輸較慢的硬盤來備份攝影機(jī)文件,這只是在說你可能無法直接在硬盤上播放視頻。RAID到底是什么?RAID是獨(dú)立磁盤構(gòu)成的具有冗余能力的陣列。它是一個虛擬硬盤,可以同時在多塊硬盤寫入數(shù)據(jù),以在硬盤故障/或需要更高性能(通常兩者兼有)的情況下提供冗余。
小型便攜式外部RAID可能僅包含兩個硬盤倉位,可以對其進(jìn)行配置以實(shí)現(xiàn)冗余(將數(shù)據(jù)復(fù)制到兩個內(nèi)部硬盤),也可以進(jìn)行配置以實(shí)現(xiàn)條帶化(將數(shù)據(jù)拆分并寫入兩個硬盤,同時允許兩次寫入)數(shù)據(jù)吞吐量。
對于兩個硬盤的RAID,性能是以冗余為代價(jià)的,反之亦然。但是,RAID陣列中的物理硬盤硬盤越多,則存在更多用于平衡冗余和提高性能的可能。
圖片來源:Promise
Promise Pegasus32桌面RAID陣列的大小從4托架到8托架不等。較大的RAID陣列可以采用直連或機(jī)架式RAID機(jī)柜的形式。你還可以直接在工作站機(jī)箱中構(gòu)建內(nèi)部RAID陣列,當(dāng)然,還有共享的NAS(網(wǎng)絡(luò)附加存儲)RAID存儲服務(wù)器。
這些陣列中的任何一個都可以在陣列中具有四個到八個,十二個,十六個或更多個硬盤。
機(jī)架式SSD的RAID陣列通常每個陣列包含24個SSD,并具有極高的帶寬。還可以通過多種方式跨多個陣列對數(shù)據(jù)進(jìn)行條帶化。
下面說一下RAID級別,它們適用于我上面描述的存儲類型。
By en:User:Cburnett – Own workThis W3C-unspecified vector image was created with Inkscape, CC BY-SA 3.0, Link
RAID 0在陣列中,把所有數(shù)據(jù)分條均勻的分到所有硬盤,但是沒有鏡像或奇偶校驗(yàn)。這意味著存放文件的所有硬盤中都含有文件的一部分,如果陣列中的某個硬盤發(fā)生故障,所有的數(shù)據(jù)將永久丟失。無法恢復(fù)數(shù)據(jù)。RAID 0對于小型的只有兩個硬盤的外部RAID磁盤陣列還是很有用的,在這些磁盤陣列中,優(yōu)先增加讀/寫帶寬,讀寫速度快,并且數(shù)據(jù)也可以復(fù)制到另一個物理硬盤。By en:User:Cburnett – Own workThis W3C-unspecified vector image was created with Inkscape., CC BY-SA 3.0, Link
RAID 1僅在兩個硬盤之間鏡像數(shù)據(jù),但沒有奇偶校驗(yàn)或條分條。這可以提供完全的冗余,但現(xiàn)實(shí)情況中,它的速度和單個硬盤速度一樣。如果其中一塊硬盤發(fā)生故障,是可以更換它的,并從其余硬盤重建數(shù)據(jù)。但是,在此過程完成之前,所有數(shù)據(jù)都是處于危險(xiǎn)之中。By en:User:Cburnett – Own workThis W3C-unspecified vector image was created with Inkscape., CC BY-SA 3.0, Link
RAID 5提供了塊級分條功能,可以提高性能和奇偶校驗(yàn),使得任何單個磁盤的內(nèi)容也可以在其他磁盤之間分配。例如,在配置為RAID 5的八個硬盤陣列中,總存儲容量和吞吐量將等于八個硬盤中的七個。如果陣列中的任何硬盤發(fā)生故障,可以把它拆下來,然后將新的替換的硬盤交換到陣列中。出故障的硬盤中的內(nèi)容將從其他七個硬盤中存在的奇偶校驗(yàn)數(shù)據(jù)重建到新硬盤上。可以在RAID 5陣列中表示熱備用,從而通過再增加一個硬盤來減少陣列的可用容量和吞吐量,但是在硬盤發(fā)生故障時可以立即進(jìn)行重建。數(shù)據(jù)僅在替換硬盤重建期間存在風(fēng)險(xiǎn)。如果一次性多塊硬盤發(fā)生故障,或者在重建期間第二個硬盤發(fā)生故障,那陣列中的所有數(shù)據(jù)將永久丟失。By en:User:Cburnett – Own workThis W3C-unspecified vector image was created with Inkscape., CC BY-SA 3.0, Link
RAID 6與RAID 5類似,但提供了雙重分布式奇偶校驗(yàn)。以八個硬盤為例,陣列的存儲容量和吞吐量將等于八個硬盤中的六個。陣列中的任何兩個硬盤都發(fā)生故障的話,便可以從其余六個硬盤上存在的奇偶校驗(yàn)數(shù)據(jù)重建其各自的內(nèi)容。兩個硬盤發(fā)生故障的可能性被認(rèn)為非常低。因此,RAID 6的真正優(yōu)勢在于,即使單個硬盤發(fā)生故障,數(shù)據(jù)也不會受到威脅。我建議可以把便攜式外部兩個磁盤RAID硬盤配置為RAID 0,以提高數(shù)據(jù)吞吐量。而且應(yīng)該始終成對使用以減輕攝影機(jī)卡的負(fù)擔(dān),并且有利于在整個拍攝日在相機(jī)上拷貝數(shù)據(jù),以將其轉(zhuǎn)移到你用于發(fā)布的共享存儲或更大的RAID存儲中。它們可以很好地驅(qū)動,直接剪輯較小的作品。但是在這種情況下,數(shù)據(jù)也應(yīng)該在其他地方備份。我一般將RAID 0硬盤視為臨時存儲,除非對其進(jìn)行鏡像,否則沒有內(nèi)置的安全性或冗余性。對于較大的直連桌面RAID陣列,我建議使用RAID 5??梢栽谌哂嗪托阅苤g有一個良好的平衡。如果需要交換,你應(yīng)該始終為RAID機(jī)箱保留至少一個備用硬盤。單個硬盤發(fā)生故障的話,RAID 5陣列是還可以訪問并且運(yùn)行的,但是你的數(shù)據(jù)存在很大的風(fēng)險(xiǎn),一定要及時更換發(fā)生故障的硬盤并且盡快重建陣列。使用大容量硬盤的RAID 5主要風(fēng)險(xiǎn)是在重建的時候。RAID是至關(guān)重要的,并且只要進(jìn)行重建,你的數(shù)據(jù)就會受到威脅。對于使用大于4TB的硬盤的大型RAID陣列來說,RAID 6是更好的選擇。即使你在RAID 5或RAID 6陣列上工作,并且媒體文件可以免受硬盤故障的影響,你仍應(yīng)將攝影機(jī)文件和項(xiàng)目文件備份到其他存儲上。我為客戶端構(gòu)建了嵌套的RAID陣列,其中兩個相同的RAID集進(jìn)一步鏡像為RAID 1,但即使這樣也不算重復(fù)。它仍然全部位于同一建筑物的一間機(jī)房中的一個機(jī)架中。攝影機(jī)素材應(yīng)始終備份到單獨(dú)的存儲中,并盡可能保存在一個安全的地方。長期存儲重要數(shù)據(jù)的一種好方法是通過使用單個直連的LTO硬盤將數(shù)據(jù)存儲在LTO磁帶上。這可以通過專用的備份軟件,也可以使用LTFS進(jìn)行直接拖放數(shù)據(jù)傳輸。mLogic便攜式LTO硬盤非常適合快速安全地備份大量數(shù)據(jù),以進(jìn)行長期存檔。它們有雷電連接口,也可以由DIT現(xiàn)場使用。單個LTO-8磁帶可以存儲12TB的素材,并且根據(jù)硬盤的不同,最高支持300MB/sec的速度。安全存儲后,LTO盒式磁帶可以使用長達(dá)30年。這比任何機(jī)械硬盤硬盤的保質(zhì)期都長得多。當(dāng)前的LTO盒式磁帶在未來的硬盤中會有很好的兼容。因此,當(dāng)前的LTO-8盒帶將能夠在LTO-9硬盤中進(jìn)行讀寫。對于大量的高分辨率攝影機(jī)素材,云存儲還不太實(shí)用。但是,這對于較小的項(xiàng)目文件,某些其他媒體文件,甚至是達(dá)芬奇數(shù)據(jù)庫備份都是有用的。到目前為止,我討論的所有內(nèi)容都與物理硬件有關(guān)。合理的選擇硬盤格式也很重要,硬盤格式描述了如何通過計(jì)算機(jī)操作系統(tǒng)和軟件在物理存儲上存儲、檢索、管理和訪問數(shù)據(jù)。ExFAT是一個Microsoft文件系統(tǒng),旨在彌合NTFS和較早的FAT32文件系統(tǒng)之間的差距。它可以存儲大于4GB的單個文件,并且是我在這列出的唯一Windows和macOS都支持的硬盤格式。但是,ExFAT是非日志文件系統(tǒng),并且在寫入操作中斷時有損壞的風(fēng)險(xiǎn)。我不建議將ExFAT作為媒體存儲的硬盤格式,除非只需要在短時間保存數(shù)據(jù),或者需要在macOS和Windows之間傳輸文件。ExFAT格式的硬盤,一旦在數(shù)據(jù)傳輸過程中這些硬盤沒有安全彈出,就有很大的文件損壞風(fēng)險(xiǎn)。NTFS是Microsoft創(chuàng)建的日記文件系統(tǒng),即使在意外關(guān)閉,崩潰和中斷的情況下,它也會比較安全不易損壞。Mac OS可以讀取NTFS,但是對NTFS格式化卷的寫入需要第三方軟件,例如Mac的Paragon NTFS。MacOS Extended也被稱為HFS +,從1998年到今天一直是macOS用于機(jī)械和混合硬盤硬盤的標(biāo)準(zhǔn)文件系統(tǒng),直到在High Sierra引入用于固態(tài)和閃存存儲的APFS才有了改變。APFS已將MacOS Extended替換為固態(tài)存儲和閃存存儲。它也可以在機(jī)械硬盤上工作,但針對固態(tài)介質(zhì)進(jìn)行了優(yōu)化。APFS與運(yùn)行El Capitan或更早版本的Mac不兼容。如果你主要在Windows環(huán)境中運(yùn)行,最好的文件系統(tǒng)選項(xiàng)是NTFS,使用macOS Extended或APFS的前提是你是工作流是基于Mac的。如果要格式化機(jī)械硬盤和RAID陣列,則最好選擇NTFS或MacOS Extended。這些日志文件系統(tǒng)既強(qiáng)大又安全。對于SSD介質(zhì),可以選擇NTFS還是APFS,具體取決于你是主要在Windows還是Mac環(huán)境中工作。可以使用第三方軟件,該軟件允許Windows安裝和讀取/寫入APFS格式的介質(zhì),以及在Mac上安裝NTFS介質(zhì)。避免使用ExFAT格式,以免使數(shù)據(jù)遭受損壞。說完所有這些后,要記住最重要的事情就是始終保持備份項(xiàng)目文件和攝像機(jī)源文件。如果你丟失了源文件,那么你將丟失所有內(nèi)容。即使遵循所有建議和最佳做法,但也不能完全避免硬盤甚至整個RAID陣列不會發(fā)生故障。你可以使用傳輸速度最快,最昂貴的存儲進(jìn)行工作,但是很多時候可能多使用幾個便宜的消費(fèi)級的外部硬盤,多備份幾個拷貝就足以拯救整個項(xiàng)目。原文鏈接:https://www.cinema5d.com/storage-explained-configure-raid-file-system-pros-cons