400G光模塊,夠ChatGPT用嗎?
發(fā)布時(shí)間:
2023-10-18
今年初,以ChatGPT為代表的AIGC應(yīng)用橫空出世,火爆程度席卷全球。國(guó)內(nèi)互聯(lián)網(wǎng)公司也爭(zhēng)相進(jìn)行大規(guī)模的大模型投資。由此帶來的問題之一是GPU的互連接口和帶寬,國(guó)內(nèi)此前采用的通用以太網(wǎng)架構(gòu)大多基于400G體系,第三代與第二代400G的不同之處在于前者的host板卡側(cè)基于下一代112G Serdes/PHY,可以非常靈活地過渡升級(jí)到800G系統(tǒng)。
因此,目前國(guó)內(nèi)大型互聯(lián)網(wǎng)公司在AI大模型的互聯(lián)方面大多采用800G接口降速為400G的應(yīng)用,但在后續(xù)接口應(yīng)用上,實(shí)際上都是基于112G技術(shù)。
就目前而言,400G還能夠滿足AIGC的需求,但隨著GPT-4和GPT-5對(duì)算力要求的不斷增加,預(yù)計(jì)下一代GPU互聯(lián)需要超過800G帶寬才能滿足需求,這也將推動(dòng)整個(gè)產(chǎn)業(yè)鏈迅速轉(zhuǎn)向下一代基于112G的新架構(gòu)和多溝通模型。
如今,不僅是板卡內(nèi)部通信,甚至板卡之間以及與交換機(jī)的連接,都采用了這種典型的結(jié)構(gòu)。在連接需求劇增的情況下,如何確保多通道112G在不同的情況下能夠穩(wěn)定運(yùn)行,是目前整個(gè)產(chǎn)業(yè)鏈正在努力解決的問題。
從400G到800G,需要注意什么?
從切換過程來看,400G到800G,需要特別注意的點(diǎn)有哪些呢?
AI大型模型是一個(gè)整體系統(tǒng),涵蓋了芯片、板卡、服務(wù)器和交換機(jī),最終構(gòu)成了需要相應(yīng)資源調(diào)配的后端管控系統(tǒng)。在光通信方面,首要考慮的是光模塊和IOC電纜等光連接技術(shù),這些光連接涉及的距離可能從3米、10米甚至到100米不等,典型的互聯(lián)方式各有不同。
因此從400G切換到800G系統(tǒng)時(shí),有幾個(gè)核心要點(diǎn)值得注意:
首先,要關(guān)注光模塊的封裝。硅光對(duì)下一代AI應(yīng)用而言是非常重要的技術(shù),因此現(xiàn)在的光模塊設(shè)計(jì)更注重性能。目前硅光是單模技術(shù),但隨著技術(shù)發(fā)展,最終可能在成本上與傳統(tǒng)多模光技術(shù)持平,由此帶來的集成度會(huì)更高。
其次,數(shù)字信號(hào)處理(DSP)。盡管目前出現(xiàn)了一些線性驅(qū)動(dòng)可插撥光模塊(LPO)技術(shù),但目前主流應(yīng)用仍然基于DSP技術(shù),關(guān)于這兩者的性能平衡問題,學(xué)術(shù)界和行業(yè)內(nèi)還存在不同看法。部分聲音認(rèn)為DSP和LPO已經(jīng)達(dá)到了良好的性能平衡,可以在許多交換機(jī)上應(yīng)用來實(shí)現(xiàn)更好的性能;另一部分則認(rèn)為L(zhǎng)PO技術(shù)在前10分鐘內(nèi)性能非常好,但隨著時(shí)間推移,Margin會(huì)越來越低,直接導(dǎo)致熱噪聲,沒有DSP的情況下,反射或溫度帶來的效應(yīng)會(huì)加重后端主芯片處理的壓力。
如果能實(shí)現(xiàn)DSP和LPO之間的平衡,就能確保在不同環(huán)境條件下,交換機(jī)長(zhǎng)期穩(wěn)定運(yùn)行。
最后,112G技術(shù)成熟度。這涉及到從插件、PCV、先進(jìn)封裝和交換機(jī)性能、系統(tǒng)集成和處理等方面整個(gè)產(chǎn)業(yè)鏈,現(xiàn)在每一步看起來都面臨著巨大的挑戰(zhàn)。
我們今天討論800G,明年也許就會(huì)討論1.6T,這是AI大模型超前部署或大規(guī)模部署導(dǎo)致的數(shù)據(jù)流量的變化帶來的加速,光模塊廠家必須提前布局。
下一頁
下一頁
最新資訊
光模塊在通信網(wǎng)絡(luò)中的核心應(yīng)用:骨干傳輸、城域接入、用戶接入及存儲(chǔ)優(yōu)化
關(guān)于光模塊在骨干網(wǎng)、城域網(wǎng)、接入網(wǎng)以及儲(chǔ)存網(wǎng)的作用,這是一個(gè)相當(dāng)專業(yè)的領(lǐng)域。接下來,我將用專業(yè)且詳細(xì)的語氣為您解釋光模塊在這些網(wǎng)絡(luò)架構(gòu)中的重要作用。
2025-04-09
光模塊在5G網(wǎng)絡(luò)中的核心應(yīng)用與角色解析
隨著信息技術(shù)的飛速發(fā)展,5G網(wǎng)絡(luò)已成為當(dāng)今時(shí)代的技術(shù)焦點(diǎn)。在這一變革中,光模塊扮演了至關(guān)重要的角色。本文將詳細(xì)解析光模塊在5G網(wǎng)絡(luò)中的核心應(yīng)用與角色。
2025-03-19
光通信產(chǎn)業(yè)鏈深度解析:從源頭到應(yīng)用,你了解多少?
光通信,作為現(xiàn)代信息技術(shù)的核心領(lǐng)域之一,正日益受到全球范圍內(nèi)的關(guān)注。隨著數(shù)據(jù)需求的爆炸式增長(zhǎng)和5G、物聯(lián)網(wǎng)、云計(jì)算等技術(shù)的快速發(fā)展,光通信產(chǎn)業(yè)鏈正面臨前所未有的發(fā)展機(jī)遇。本文將對(duì)光通信產(chǎn)業(yè)鏈進(jìn)行深入分析,探尋其內(nèi)在的發(fā)展邏輯和潛力。
2025-02-26

版權(quán)所有 ?: 深圳市歐博凱科技有限公司
總部與營(yíng)銷中心:深圳市龍華區(qū)觀湖街道錦繡科學(xué)園7棟3樓西側(cè)
電話:0755-83425935 傳真:0755-21002709