Tag Archives: server

全面攻略伺服器DIY市場痛點！百佳泰助力客戶打造高品質產品

伺服器應用環境與客戶需求 PCIe 5.0高速介面技術的成熟驅動著生成式AI與高效能運算等相關應用蓬勃發展。在隨著企業對伺服器性能的要求日益嚴苛，伺服器更新換代的週期也持續加快。在此背景下，白牌與DIY(Do It Yourself)伺服器市場迎來了新的發展契機，但同時也面臨著更趨複雜的技術挑戰。 傳統上，白牌與DIY伺服器以其高度客製化與成本效益優勢受到市場青睞。然而，隨著PCIe 5.0等高速技術的導入，伺服器系統的複雜度大幅提升，對組裝技術與元件相容性也就提出更高的要求。舉個簡單的例子來說，PCIe 5.0的高速數據傳輸能力對主機板的散熱、供電設計以及PCB佈局均提出了嚴苛的挑戰。倘若組裝不當，便容易產生系統不穩定、性能下降甚至硬體損壞的潛在風險。 此外，生成式AI、深度學習等新興應用也對伺服器性能提出了多元化的需求，包含大容量記憶體、高頻寬網路、以及強大的GPU加速能力等等。而這也使得伺服器配置的靈活性與擴展性變得格外重要。 因此，想要克服上述挑戰，白牌與DIY伺服器用戶需審慎考量以下因素： 元件相容性：不同廠商的元件規格可能存在差異，若搭配不當，容易導致系統不穩定。 散熱設計：PCIe 5.0裝置功耗較高，需搭配高效能的散熱系統，以確保系統穩定運作。 供電設計：高性能伺服器對電源的要求極高，需選擇足夠功率且穩定的電源供應器。 軟體支援：操作系統、驅動程式與應用軟體的相容性對系統性能有著重要影響。 [...]

面對複雜的伺服器系統總是毫無頭緒！透過系統整合測試暨顧問服務助您輕鬆應對

應用環境與極具挑戰性的測試需求 在伺服器製造領域裡，系統整合測試（System Integration Test；SIT）是確保產品品質和性能的關鍵步驟。隨著伺服器系統的複雜性不斷提升，包括：多種硬體元件、操作系統、虛擬化平台以及各種應用程式和服務的整合，伺服器製造商面臨著更有挑戰性的測試需求。這些挑戰主要體現在以下五個方面： 1. 硬體和軟體的高度整合：現代伺服器通常包括多個處理器、記憶體模組、儲存設備和網路介面。這些硬體元件必須與作業系統及應用軟體無縫整合。SIT測試可以幫助製造商確保這些不同元件能夠協同工作，且在整合後不會產生相容性問題或性能瓶頸。 2. 性能和穩定性的要求：伺服器系統需要在高負載下保持穩定運行，尤其是在關鍵業務和大型數據中心中。SIT測試能夠全面檢查伺服器在實際工作負載下的效能表現和系統穩定性，確保伺服器能夠達到預期的性能指標，並且在各種操作條件下可靠運行。 3. 客製化需求的增長：隨著市場對專業化伺服器需求的增長，製造商時常需要根據客戶需求進行客製化設計和配置。SIT測試能夠幫助製造商驗證這些客製化配置的正確性和有效性，確保每一台伺服器都能夠滿足特定應用場景的要求。 4. 技術快速變遷：伺服器技術日新月異，新一代的處理器、記憶體和儲存技術不斷推出。SIT測試幫助製造商在新技術整合過程中及早識別和解決問題，確保新技術能夠順利整合並保持系統的整體性能和穩定性。 5. 市場競爭的壓力：伺服器市場競爭激烈，產品的品質和可靠性直接影響市占率。通過高效的SIT測試，製造商能夠及早發現並修正系統中的缺陷，提高產品品質，從而提升市場競爭力和客戶滿意度。 對伺服器製造商而言，SIT測試不僅是保證產品品質和性能的必要手段，更是應對技術挑戰和市場需求的重要保障。隨著伺服器系統的日益複雜化和客戶需求的多樣化，SIT測試的作用將變得更加關鍵。 [...]

超越基準！透過先進測試克服AI伺服器散熱問題

AI伺服器熱度延燒，應用環境大挑戰 人工智慧（AI）技術飛速發展，AI伺服器在各行各業的應用日益廣泛。然而，高性能AI運算所產生的巨大熱量，伺服器散熱系統面臨嚴峻挑戰。因此，散熱分佈單元（Cooling Distribution Unit，CDU）作為關鍵的散熱設備，其應用趨勢也備受關注。 AI伺服器散熱面臨哪些挑戰？ 高密度運算：AI訓練和推理需要大量的運算資源，導致伺服器內部元件的熱密度明顯增加。 不均勻熱分布：不同元件的發熱量差異極大，如：GPU、CPU和記憶體，這使得散熱設計變得更加複雜。 能源效率：提高散熱效率能夠延長設備壽命，且降低能源消耗。 AI伺服器散熱為一個複雜且具有挑戰性的課題。散熱分佈單元的發展，將為AI技術的進一步應用趨勢提供強而有力的支持，因此 CDU在AI伺服器中扮演著至關重要的角色，其性能直接影響到伺服器的穩定性壽命。然而，若對CDU進行全面且有效的測試卻面臨多重挑戰。 CDU延伸出各種難題 百佳泰與AI伺服器製造商在密切的合作中，協助這些客戶在SIT、Reliability、SI等各種應用測試，由於CDU其性能與穩定性對AI伺服器至關重要，因此CDU廠商非常重視其相關驗證，許有CDU供應商了解我們與關鍵伺服器廠商的合作，因而協尋我們一同克服驗證上所遇到的難題。 CDU測試四大挑戰 ▪️ 多變的工作負載： [...]

你的系統持續在發熱，別被散熱風扇騙了！

隨著科技的成長，需要被存儲、計算、傳送等的資料會愈來愈多，因此，設置高密度的Data center / Server對於商業基礎設施和國家基礎建設來說也變得格外重要。在物聯網、雲端存儲、大數據運用、人工智能和5G等領域的加速發展下，數據中心的建置與需求也將越來越龐大，而數據中心在全年無休運行下會產生高密度的廢熱，這些廢熱主要是由每一櫃中數個伺服器所產生，若未能有效地進行散熱，將容易導致系統過熱無法正常運行，因此對數據中心的伺服器性能的穩定性來說，運用風扇或水冷來達到散熱這課題也相對重要。 伺服器風扇過熱會有哪些潛在風險？ 在高溫環境中長時間運作，伺服器風扇所使用的塑料材質，可能會因熱變質而變脆，進而造成破損，導致風扇有可能在持續運轉，但效能已經降低。風扇效能降低，會影響伺服器的散熱效率，使伺服器內部元件過熱，造成元件損壞。元件損壞後，可能會導致伺服器無法正常運作，甚至造成資料遺失或系統崩潰。這個結果將導致應用服務停擺，甚至是客戶資料的流失，進而引起消費者客訴等負面的使用者體驗。 實際案例分享 根據百佳泰多年實驗經驗，我們針對實際案例進行說明：客戶的產品在進行長時間的可靠度驗證時，我們發現在長時間運轉下，雖然風扇依舊持續旋轉，但其塑料材質已開始脆化進而出現裂紋。因此即使風扇雖仍舊在運轉，但我們已經將這類的現象判為問題件了。 百佳泰提供三大解決方案 百佳泰針對伺服器風扇的可靠度驗證有非常多豐富的專案經驗，同時也設計了一套解決方案來提供服務。百佳泰自行設計、開發了一套風扇專用的測試治具，此治具以模組化組成，最多可以支援15顆風扇同時測試。 另外，百佳泰也自行開發測試自動化軟體，能將治具支援的15顆風扇虛擬成三組，分別進行不同的測試項目，如：Full power mode 或是Power cycle [...]

基板管理控制器（BMC）是什麼？主要功能及常見問題總整理

伺服器是現代企業運營的核心，它們存儲、處理和管理大量的數據，應對多樣的業務需求。然而，隨著伺服器規模和複雜度增加，有效管理和維護這些伺服器變得愈發困難。在這個挑戰日益增加的環境中，伺服器BMC(Baseboard Management Controller)的功能顯得更為重要。   基板管理控制器（BMC）是什麼？ 基板管理控制器（Baseboard Management Controller, BMC）是IPMI架構的智慧核心。它是嵌入在電腦主機板上的一個專用微控制器，BMC通常用於伺服器，負責系統管理軟體與平台硬體間的介面管理。BMC擁有自己的專用韌體和RAM。   BMC的主要功能 提供遠程管理伺服器的能力 不必身臨其境，管理員可以通過BMC訪問伺服器，無論伺服器是運行中還是處於關機狀態。這種遠程管理的能力對於節省時間和成本非常重要。管理員無需每次故障排除或升級時都親自前往伺服器機房，而可以通過BMC完成大部分工作。   監控伺服器的硬體健康狀況，包括：溫度、電源供應、風扇速度等。 [...]

Server SSD效能評估利器 – SNIA PTS實際應用展示篇

在上回” Server SSD效能評估利器 – SNIA PTS篇”中，針對SNIA PTS整個效能驗證計畫的架構以及驗證流程提供詳細的說明。讓讀者們能夠對於SNIA PTS架構有初步的理解。本篇將以SNIA PTS實際應用展示為各位深入解析。 對於一般使用者，或是OEM廠商而言，該如何評估選擇一顆效能可靠且穩定的SSD是令人頭痛的事，這時若透過SNIA PTS，便能夠詳細分析出該顆SSD的效能特性、穩定程度、及延遲反應時間表現等。至於這些一般用來評斷SSD好壞的主流指標，就能透過SNIA PTS執行結果得知。在執行完成後，我們便可透過測試結果了解該顆SSD詳細數據，利用這些數據便可評估該顆SSD是否合適。雖然SNIA PTS測試步驟複雜，但藉由我們引進的SNIA PTS專業測試設備，便可快速掌握該顆SSD的效能資訊。 接著，我們透過實測數據帶各位了解該顆SSD的效能數據及其弱點。這次我們選定一顆市面上主流品牌的Gen [...]

OCP Cloud/Datacenter SSD Specification 1.0a與2.0比較與分析 (下)

在前篇文章” OCP Cloud/Datacenter SSD Specification 1.0a與2.0比較與分析 (上) ”中，已為各位就NVM Express Requirements、PCIe Requirements、Reliability、Endurance這幾個項目進行比較分析，同時也可以了解到在NVMe requirements的部份修改新增最多。從中也能了解到OCP 2.0部份想要補強原先1.0a不足的部份，新增的定義更是為了對應未來server環境規劃需求而生。而本篇延續上篇驗證項目比較分析，持續為各位帶來後續測試項目，比較分析OCP 1.0a與2.0之間的差異與新增項目。   [...]

Server SSD效能評估利器 – SNIA PTS篇

伺服器產業掀熱潮，效能成關鍵指標 隨著雲端相關技術的成熟，業界對於伺服器架設的需求也逐年提升。除了需求數量提升，相對應的伺服器效能需求也隨之增加。若伺服器的效能沒有達到一定水準，使用者便會明顯感受到一定程度的不順暢。舉例來說：一般使用者在使用線上服務，如網路訂票或者瀏覽影音等，若伺服器因負載過大而效能較差的話，使用者便會感受到不順暢的網路體驗，甚至無法順利完成服務。 評估一台伺服器的效能，主要有幾個效能指標元件：中央處理器、記憶體、儲存裝置、網路卡等。 影響伺服器效能的關鍵：除了中央處理器、記憶體之外，儲存裝置也占了非常重要的部份，舉凡作業系統運行、資料讀寫存取，若儲存裝置速度慢，便會整體拖累伺服器運轉效能。 為了提升伺服器處理資料的效能，現今主流伺服器已普遍搭載SSD，伺服器廠商對於SSD如何挑選，除了價格以外，SSD本身的效能便是另一個重點。SSD效能評測，一般常見的IOmeter、FIO、CrystalDiskMark，可以快速的了解該SSD效能水平，但對於伺服器環境下，長時間高頻率使用性質，這類評測工具往往只能了解到表面，無法更深入了解SSD在伺服器環境下實際表現為何。   SSD效能評估：SNIA PTS是什麼？ 針對SSD效能評估，SNIA(Storage Networking Industry Association) 提供了完整效能評估指引。顧名思義，該協會為提供網路相關製造行業所需的技術規範為主，協會制訂的相關規範廣泛，其中關於SSD效能評估相關規範為” Solid State Storage [...]

伺服器穩定度要求 – 振動與機械衝擊

你是否也曾好奇，我們每天上網瀏覽與存取的海量資料，是存放在哪裡或是用什麼樣的方式儲存的呢？ 每天有數十億的網路使用者，不斷的產生資料並存放在雲端中，這些資料是由提供儲存服務的公司或平台，儲存在擁有上百萬個硬碟的資料中心裡。而用於存儲和處理數據的計算機硬體設備-伺服器，通常會被安裝在機架上，並且需要長時間運行，而裡面的硬碟和個人電腦上的硬碟相似，只是體積更大、數量更多。實際上，在Server資料運算中心裡，多個硬碟是上下疊放並排列在伺服器機架(Chassis，又稱機箱、機殼)內，而多個機架通常會放置在一個機櫃(Cabinet)中，資料中心內則有很多個機櫃堆疊而成，這些設備組合起來的場所，就是每天讓網路用戶從遠端存取硬碟內資料的重要地方。   然而，要保持這些設備的運動，除了日常維護之外，還要特別小心「振動」帶來的影響！硬碟對振動非常敏感，一個小幅度的振動可能就會大大損壞硬碟。整個硬碟的儲存單元有三個主要的潛在振動源因子，有可能導致硬碟效能損失： 冷卻用風扇的聲音負載 儲存單元上的風扇振動的負載(透過機架傳遞所產生的振動與共振) 硬碟本身的振動負載   任何對於振動問題的研究，都是關於如何定義激振 (excitation) 、系統 (system) 以及響應 (response)，並研究三者之間的關係。激振就是產生作用力以及能量的來源，響應是我們關心的設備位置在受到激振作用後的振動反應，系統則是從激振到響應之間力學波經過的物體範圍所在。   舉例來說，伺服器內的硬碟在承受特定頻率下過大的Rotational Vibration時，效能會大幅下降。在這樣的問題中，風扇是激振源，硬碟與機殼連接處的振動反應是響應，至於機殼及相關連接件就是系統。舉例來說，設計伺服器機殼機構的人，會想要知道他的設計安裝上散熱風扇後，硬碟安裝處的rotational vibration響應特性是如何，是不是在某些頻率下，振幅會有過大的情形。   因此，為確保伺服器可以在各種極端環境下正常運行，需要進行一系列相關的可靠度測試或耐久性測試，其中包含了Vibration [...]

OCP Storage – 噪音與振動對硬碟效能的影響(上篇)

前言 隨著雲端運算以及雲端儲存成長快速，網路服務供應商對於伺服器的需求也隨之提高，而雲端服務供應商需要持續成立更多的數據中心，並且提供合格且數量充沛的硬體設施，來才有能力滿足使用者對於海量資訊的存取需求。特別是近年來Netflix, Disney+, Spotify等各種影音串流媒體的興起，更持續地帶動伺服器本身在儲存空間及效能上的需求。   噪音與振動：耗電量與散熱轉速提升的待解課題 身為伺服器不可或缺的關鍵構成，想當然爾，使用於伺服器中的CPU以及硬碟(HDD)的市場需求自然也有了相當高程度的增長。CPU效能的提升，對CPU本身及伺服器的其他零組件帶來了更高的耗電量，此外，硬碟的容量也在近幾年有了加倍的成長。 當伺服器整體耗電量提高，散熱需求也就勢必要能夠有所對應。作為伺服器散熱系統中的主要元件，為了提供足夠的散熱風量，便需要更高的風扇轉速才能將累積於伺服器中的熱量，送至伺服器的機殼之外。可想而知的是，散熱風扇所產生的振動與噪音將會隨著轉速的提升而變得越來越大，進而影響到伺服器中的其他元件。 其中硬碟就是伺服器中最容易受到散熱風扇的振動與噪音影響的元件。 依據目前的經驗以及研究指出，影響硬碟效能的振動，可能會來自以下幾種： 系統運作時的振動。 硬碟與硬碟之間的互相傳導。 來自硬碟附近的其他裝置所產生的振動。   其中，又以高速運行的風扇所產生的噪音與振動對硬碟的效能影響最大。 [...]