白皮書:面向A白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer 3 3 3 4 5 5 6 7 7 7 8 8 8 9 9 9 9 4.2.1羅森伯格液冷解決方案——靈活安裝的配線架 4.2.3羅森伯格液冷解決方案——即插即拔防水連接器 白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer限。同時，國內人工智能領域也迎來了新的焦點——Kimi，這款的上下文窗口技術，將國產AI大模型“卷”出了新高度。業界普遍預測，2024年將成為AI大模IDC的數據顯示，全球企業對生成式人工智能（下文簡稱：“AIGC”）解決方案的投資熱情不斷億美元。這一趨勢不僅凸顯了AIGC技術的商業潛力，也預示著AI將引領一個創新與增長的新時代。在這樣的背景下，AIGC的未來增長需要堅實的支撐——而AI網絡架構正是這一增長的“骨AI網絡架構的重要性在AIGC應用的發展中顯得尤為突出。在AIGC工具方面，廠商正通過深度技術投資，挖掘大量數據并提升算力，使得這些工具從基礎應用轉變為強大的生產力工具。而在AI社交領域，大模型的發展重點在于融合AI技術與用戶互動，創造富有情感和溫度的互動體驗，旨在重塑用戶體驗并探索新的商業模式。其中，自主研發能力和豐富的訓練數據成為了打造有競爭力產品的關鍵。我們不難發現，這兩個賽道的發展都依賴高效、可靠的網絡架構，以支持AI大規模訓練集白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer傳統的云數據中心網絡架構較為成熟，但存在著諸多痛點，導致其無法完美適配AI網絡架構需求。實際上，傳統的云數據中心網絡的設計基于對外提供服務的流量模型，以南北向流量為主導，云內部東西向流量作輔。承載智算業務時，傳統云計算這些問題共同影響了智算業務的高效運行，需要通過構建新的網絡架構白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書RosenbererAI智算網絡采用Fat-Tree（胖樹）架構，有效解決了傳統云數據網絡面臨的挑戰。這種架構通過1:1的無收斂配置，確保了網絡的高性能和無阻塞傳輸。其次，為了降低時延，網絡設計將8臺交換機構成一個資源池，池內節點單跳通信，而跨集群通信則通過匯聚交換機，最多實現三跳傳此外，網絡采用RDMA技術，繞過操作系統內核群內部單跳可達場景的時延，相比TCP/IP網絡白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書RosenbererAI服務器之所以更傾向于使用GPU而非CPU，原因在于GP能。GPU擁有大量并行處理核心，能夠同步執行眾多計算線程，特別適合進行深度學習等AI算法中涉及的大規模矩陣和向量運算，這些運算對于AI模型的訓練和推理過程應用中的大數據量時更為高效，進一步提升了整體的計算效率。因此，GPU不僅能夠縮短AI模型白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer在深入探究AI智算網絡的領域時，我們發現市場中主要存在兩大主流架構：InfiniBand和RoCEv2。這兩種網絡架構在性能、成本、通用性等多個關鍵維度上展現出各自的優勢，相互競爭。我們將細致分析這兩種架構的技術特性、它們在AI智算網絡中的應用場景，以及各自的優勢潛在應用價值和未來的發展方向，以期為行業提供深刻的洞察和2.1InfiniBand網絡架構署在一臺接入子網的服務器上，充當網絡的確保網絡內設備的唯一性和準確性。SM的核心職責包括維護網絡的路由信息和計算更新交換芯片2.1.1InfiniBand網絡流控機制InfiniBand網絡基于信用令牌（credit）機制，在每條鏈路都配備了一個預置緩沖區。發送端僅在確認接收端有足夠的緩沖區后，才會啟動數據發送，并且發送的數據量都不可超過接收端當前可用的預置緩沖區的最大容量。當接收端接收完報文，會釋放緩沖區，并向發送端通報當前可用的白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer2.1.2InfiniBand網絡特點：鏈路級流控與自適應路由InfiniBand網絡依靠鏈路級的流控機制，防止發送過量數據，從而避免了緩沖區溢出或是數據丟包的問題。同時InfiniBand網絡的自適應路由技術可根據每個數據包的具體情況進行動態路由選擇，在超大規模的網絡環境中實現了網絡資源的實時優化和最佳MemoryAccess遠程內存直接訪問）的集群網絡通信協議。該協議有兩個主要版本：RoCEv1和白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer利用帶寬并增強了網絡的可伸縮性。這種方法顯著降低了網絡延遲并提升了吞吐量，整體上提高了網絡性能。RoCE方案的另一個顯著優勢是它能夠無縫地融入現有的以太網基礎設施，這意味著企業無需額外投資于新設備或進行設備更換，就能實現性能的飛躍。這種成本效益高的網絡升級絡憑借其高級技術，如高效的轉發性能、快速的故障恢復時間和增強的擴展性，以及運維效率而RoCEv2網絡則以其強大的通用性和較低的成本受到青睞，不僅適用于構建高性能RDMA網絡，還能無縫兼容現有的以太網基礎設施，這使得RoCEv2在廣泛性和適用性方面具有明顯優勢，能夠滿足不同規模和需求的網絡應用。這兩種架構各自的特性和優勢，為AI智算中心的網絡設計提3AI智算網絡800G/1.6T主流傳輸足夠高，以支持高速數據處理。其次，根據服務器與交換機之間的距離，選擇適當的連接技術也至關重要。此外，成本效益分析是決策過程中不可或缺的一部分，需要在網絡性能和預算之間找到恰當的平衡點。信號的穩定性和抗干擾能力也是保障網絡可靠性的關鍵，而網絡的擴展性和升級能力則確保了網絡能夠適應未來的技術發展和變革。綜合這些要素，可以設計出一個高效的AI白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer短距離傳輸環境，但受多模光纖色散和VCSEL帶寬限制，其應用范圍相對單模方案有限。相比之降低了成本。對于跨機房或跨樓層的連接，則仍然依賴于光模塊。鑒于單模方案在穩定性和傳輸距自2019年起，羅森伯格便與互聯網領先廠商建立了深入合作關系，并在國內率先成功進行了400G高速光纖系統的測試。至今，羅森伯格已經為多家互聯網企業項目提供了800G產品，并致力于推動新型產品的研發，以滿足市場對更高速、更高效、更創在傳輸標準的實際應用中，環境因素與實際傳輸帶寬對光纖性能的實際表現有著顯著影響。用中，當最大有效模式帶寬（EMB）達到4700MHz.km時，會出現波長偏移的現象，即波長從850nm偏移到860nm。此外，當傳輸針對這一挑戰，羅森伯格研發了OM4+特種光纖，并與行業內知名廠商合作進行了多次對比實驗白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書RosenbererEBO技術的核心優勢在于其能夠通過兩個精確匹配的透鏡系統，分別位于光纖的兩端，實現光纖信號的有效擴束和聚焦。當信號從一端發射并通過透鏡擴束成平行光線后，接收端的透鏡會將其重新聚焦回光纖，從而顯著提高了光纖傳輸的效率和系統的整體穩定性。這一技術的應用，不僅的解決方案。該方案利用全內反射（TIR）鏡技術將光纖信號擴束成平行光，配合AR涂層，最大白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer模光纖的插損控制在0.3dB以下。此外，即使在多次插拔操作后，插損的浮動值也能保持不超過0.1dB。這一結果凸顯了MPO解決方案的卓越長期穩定性和耐用性，為高速通信網絡提供了一個此款新型連接器憑借其簡潔而創新的設計，在反復插拔使用中能夠保持性能的穩定性。同時，該連接器的設計巧妙避免了光纖端面的直接接觸，從而最大限度地減少了端接過程中可能出現的碎裂、劃痕和損壞風險，確保了光纖傳輸的卓越性能。此外，該連接器對環境中的振動和灰塵具有極高的抗干擾能力，具備出色的可靠性，適合在環境多變的條件下使用，為AI智算中心網絡的穩白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer隨著AI模型規模的持續擴大，園區級跨機房模塊的DCI超大芯數單模主干線纜成為了滿足AI智算中心對高芯數光纜需求的典型部署案例。AI技術的高速發展使得傳統的192芯大芯數光纜已無法滿足智算中心的網絡需求，市場對能夠傳輸上千芯光纖的高密度光纜的需求日益迫切。國際上成熟的解決方案主要由蜘蛛網絲帶（SpiderWebRibbon,SWR）和纏繞管線纜的光纖傳輸，在光纖接入時，通過剝離外護套并分離每組SWR光纖，可以迅速建立高密度的光纖傳輸系統。在安全性方面，在小動物啃咬通信線纜導致的電氣事故頻發，其中，老鼠啃咬事件約占60%，因此，室外線纜的外護套還需采取防鼠措施，如施加金屬罩進行機械保護、在線纜表面涂上防鼠劑涂料，或使用表面硬度更高的塑料材料，以確保通信安全和可靠性。白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer基于對上述解決方案的深刻理解和支持，羅森伯格結合SWR和WTC技術理念，并融入了自主研發的預連接技術，為AI智算中心網絡架構中的DCI超大芯數單模主干線纜提供了一種高效的部署方案。該方案免除了現場熔接的需要，極大提高了光纜的安裝和管理效率，并簡化了整個部署流程。并且，通過利用EBO擴束技術，羅森伯格實現了盲配解決方案，既有效預防了端接過程中的連接問題，又使得單根光纜支持上千芯的預端接應用，顯著提高了光此外，羅森伯格在防鼠咬解決方案方面進行了創新性的改進，在護套內融入了一種特殊的化學材料。這種材料不僅賦予了線纜持久的防鼠咬性能，而且與線纜護套的原始材質實現了良好的兼容性，確保了線纜的整體性能不受影響。該化學材料在施工和使用過程中不會產生有害或刺激性的氣味，從而在保障戶外使用環境下線纜的耐用性和可靠性的同時，也提升了施工人員的操作舒適白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer4AI智算網絡降耗增效解決方案隨著光模塊技術向400G及更高速率邁進，面臨的挑戰不單是提升數據傳輸速度，還包括應對由接近30W，隨著速率的每一次迭代，功耗也相應攀升。在滿載狀態下，一個交換機可能搭載多達數十個光模塊，48個光模塊的總功耗可達1440W，而光模塊通常占整機功耗的40%以上，導致整個智算中心的能耗可能超過3000W。這種能耗的顯著增長對智算中心的運營成本構成了重大壓白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer4.1創新光模塊LPO與其他光模塊的技術差異），續時間線性均衡（CTLE）與均衡（EQ）功能，實現了低功耗、低成本和低延時的目標。這種設計設計簡化。雖然在通信距離和性能集成度方面可能不及CPO，但它為短距離應用提供了一種經濟高效的解決方案。LPO技術處于標準化的初步階段，為了未來的發展，LPO需要克服這些技術障礙，以便在多供應商環境中的保障互聯互通性，在更廣泛的應用場景中實現規模化生4.2應對AI數據中心高能耗高熱量的問題——液冷解決方案在追求降低網絡系統能源功耗的過程中，液冷技術已成為市場上廣泛認可的高效解決方案。液冷技術利用液體的高導熱性能，其導熱能力是空氣的25倍，能夠以遠高于空氣的效率帶走熱量，大約是同體積空氣的3000倍。這一特性使得液冷技術尤其適用于高功率密度數據中心的冷卻需求，即然而，冷卻液的腐蝕性以及壓強差導致的逆流問題，對液冷系統的安全性提出了挑戰。針對這些問題，羅森伯格提供了全面的液冷解決方案，旨在最大化提升冷卻效率，同時確保數據傳輸過程的安白皮書:面向AI智算數據中心網絡架構與連接技術的發展路線展望白皮書Rosenberer4.2.1羅森伯格液冷解決方案——靈活安裝的配線架羅森伯格自主研發的液冷線纜專用配線槽設計靈活，可方便地安裝在液冷柜的內部或機體側面。在應用過程中，通過快速打開每根線纜中間的避免了對浸沒在冷卻液中的有源光纜（AOC）兩端收發器進行插拔操作，從而減少了這一創新方法不僅提高了液冷系統的可靠性，而且顯著提升了液冷產品4.2.2羅森伯格液冷解決方案——半浸沒式RJ45跳線羅森伯格針對半浸沒式液冷中存在的壓強差問題，研發了專用的液冷RJ45跳線，以應對冷卻液逆流的挑戰。跳線采用創新的防漏結構設計，有效防止了冷卻液在跳線中間和兩端連接器內部的逆在性能測試方面，液冷RJ45跳線在浸泡冷卻液前后的表現對比顯示，單體與信道的串擾