Figur 1: Viktige fordeler med Dense Wavelength Division Multiplexing Co-Packed Optics (DWDMCPO). (Bildekreditt: Scintil Photonics)
Det er et ordtak innen datasenterdesign: "Bruk kobberkabler der det er mulig, og ty til optisk teknologi bare når fiber er absolutt nødvendig." I årevis har bransjens pragmatiske tilnærming vært å prioritere lavkost-kobberkabler inntil fysikkens lover fremtvinger en teknologisk oppgradering. Men i dag, ettersom dataklynger med kunstig intelligens (AI) beveger seg mot skalaen til "datakraftfabrikker" som distribuerer millioner av grafiske prosesseringsenheter (GPUer), og kostnadseffektiviteten i datasenteret- står overfor et enormt press, oppdager folk at denne "ingen-optikken{{5} har ankommet et langt bedre alternativ snart" enn teknologien har ankommet et langt bedre alternativ.
Nettverksarkitekter har lenge vært klar over at kobberkabler har betydelige begrensninger i overføringsavstand under høye-hastighetsscenarier, men få har analysert de underliggende årsakene fra et grunnleggende fysisk perspektiv. Selv om nettverksingeniører har presset grensene for kobberkabeloverføringsavstand og båndbredde til det ekstreme med sin ekspertise, kan begrensningene i fysikkens lover ikke overvinnes; selv de mest geniale ingeniørdesignene sliter med å overvinne de iboende begrensningene til kobberkabler. Forståelse av dette forklarer hvorfor industrien raskt går over til Co-Packed Optics (CPO)-teknologi.
Jo høyere frekvensen av de elektriske signalene som sendes gjennom kobberkabler, jo høyere symbolhastighet og båndbredde, og jo mer informasjon kan de bære. Problemet er at når signalfrekvensen øker, reduseres overføringsavstanden betydelig. Det er to primære årsaker til signaltap: hudeffekten og dielektrisk tap.
Hudeffekt: "Overflatekonsentrasjonen" av strømmen
Når et AC-signal går gjennom en kobberkabel, induserer det skiftende magnetiske feltet virvelstrømmer i lederen. Magnetfeltet som genereres av disse virvelstrømmene, kansellerer signalets magnetiske felt i midten av kabelen. Jo raskere signalets magnetiske felt endres-det vil si, jo høyere frekvens-jo sterkere blir denne kanselleringseffekten.
Det direkte resultatet er at strømmen "klemmes" inn i et ekstremt tynt overflatelag av lederen; tykkelsen på dette laget er kjent som huddybden. Gjeldende signaloverføring i AI-datasentre bruker vanligvis frekvenser rundt 53 GHz. Ved denne frekvensen er huddybden til kobberkabler bare 0,3 μm. Et så tynt overføringslag utnytter mindre enn 1 % av lederens-tverrsnittsareal, noe som får kabelens motstand til å skyte i været-og overskrider likestrømsmotstanden med mer enn 100 ganger.
Dielektrisk tap: "Energy Dissipation" i isolasjonslaget
En annen stor synderen bak signaldemping i kobberkabler er dielektrisk tap. I høyfrekvente scenarier på gigahertz-nivå kan ikke molekylene i kabelens isolerende dielektrikum holde tritt med de raske svingningene i det elektriske feltet. Forsinkelsen mellom de raske svingningene i det elektriske feltet og molekylenes etterslepende respons konverterer signalets elektromagnetiske energi til termisk energi, noe som resulterer i energitap.
Doble tap: Den dødelige svakheten til kobberkabler
Når hudeffekten og dielektrisk tap virker sammen, øker signaltapet i kobberkabler eksponentielt når frekvensen stiger.
For å illustrere dette tydelig: Ved en frekvens på 50 GHz, selv med kobberkabler av høy-kvalitet, vil det kombinerte tapet fra disse to effektene forbruke over 90 % av signaleffektbudsjettet innenfor en overføringsavstand på 2 meter. De fysiske egenskapene til kobberkabler dikterer en uforsonlig kjernemotsigelse: båndbredde og overføringsavstand kan ikke oppnås samtidig.
Dense Wavelength Division Multiplexing Co-Packed Optics (DWDMCPO)
I dag har ytelsesflaskehalsen for AI-treningsklynger endret seg fra flytende-punktoperasjoner per sekund (FLOPS) til båndbreddekrav.
I skalerbare nettverk med konsekvent minne, trengs en ny generasjon nettverksteknologi for å møte flere krav:
|Ettersom strømforbruket blir en begrensende faktor i datasenterdistribusjoner, kreves lavere strømforbruk per bit;
| Siden flytende-punktoperasjoner ikke lenger er flaskehalsen, må det gis større båndbredde for hver prosessor.
| Ettersom fysisk plass for fiberutplassering blir begrenset, må høyere integrasjonstetthet oppnås;
| For å aktivere horisontal skalering på tvers av-reoler, må lengre overføringsavstander støttes.
| For å opprettholde minnedomenekonsistens og forbedre GPU-utnyttelsen kreves det ultra-lav ventetid.
| Høy pålitelighet og enkelt vedlikehold er også avgjørende.
Når haleforsinkelse blir en kjernebegrensning, vil oppfyllelse av kravene ovenfor øke GPU-utnyttelsen betydelig (noen modellestimat indikerer at utnyttelsen kan mer enn dobles), redusere strømforbruket i nettverket betydelig og forbedre ytelsen fra ende-til-modeller. For øyeblikket er DWDMCPO den eneste tekniske tilnærmingen som samtidig kan møte disse strenge kravene, og den vil gi langt-kostnadstransformasjoner-for hyperskala datasenteroperatører.
Ved å overføre flere bølgelengder av lys over en enkelt fiber, gir DWDMCPO-teknologien hver GPU med flere brede,-lavhastighetskanaler. Ved å skalere antall overførte bølgelengder fra 1 til 8, 16 eller enda mer, er dette geometriske skaleringsmønsteret klar til å revolusjonere AI-nettverk, akkurat som DWDM-teknologi revolusjonerte Internett-ryggraden for 25 år siden.
DWDMs enkeltkanals overføringshastighet er omtrent 50–64 Gbit/s, som faller innenfor overføringskategorien med lav-hastighet. Denne egenskapen lar ingeniører forenkle datakodingsskjemaet fra PAM4 til NRZ. Denne forenklingen eliminerer flere kostbare og kraftintensive-signalbehandlingstrinn, og oppnår doble reduksjoner i strømforbruk og ventetid ved å strømlinjeforme signaloverføringsbanen.
Tail latency er den "silent killer" som eroderer datasenterets ROI. Når GPU-klynger behandler datatokens, krever de en kontinuerlig, forutsigbar bitstrøminngang. Hvis en enkelt bit opplever overføringsforsinkelse, blir resten av klyngen inaktiv, noe som reduserer prosessorutnyttelsen betydelig. Etter hvert som antallet prosessorer i en klynge øker, øker sannsynligheten for halebitlatens på p999-nivå betydelig, og prosessorutnyttelsen avtar tilsvarende.
Uten lav-latens, lav-kraft, lang-DWDMCPO-teknologi ville skalerbarheten til nettverk være begrenset, og ytelsen til store språkmodeller (LLM) ville følgelig være begrenset. Større-skala, flatere, skalerbare nettverk med lav-latens kan støtte større nøkkel-verdibuffere, direkte øke modellens kontekstvindustørrelse og innholdsrelevans, og dermed effektivt utvide LLMs effektive arbeidsminne. Økt båndbredde med lav-latens har også potensialet til å øke antall transformatorlag, slik at modeller kan ha dypere tenkning og resonnement. Kort sagt: Å bryte gjennom kommunikasjonsbegrensningene mellom brikker gjør at LLM-er kan lagre mer informasjon i arbeidsminnet og fullføre flere resonnementtrinn uten å stamme.
Kobberkabling var utvilsomt en stor teknologi i sin tid, men dens iboende fysiske begrensninger har skapt et presserende behov for mer avanserte nettverksteknologier for å forbedre avkastningen på investeringen for hyperskalerte datasentre og utvide mulighetene til LLM-er.
Om noen år vil AI-datasentre som er bygget utelukkende på kobberkabler, bli like utenkelige som langdistanse internettforbindelser som kun er avhengige av kobber.
Operatører av hyperskalerte datasentre, investorer, LLM-utviklere og andre interessenter innen AI-infrastruktur må ta denne teknologiske trenden på alvor: den vil ikke bare fundamentalt omforme kostnadseffektiviteten til datasentre, men også kontinuerlig utvide grensene for AI-evner. Bedrifter som først tar i bruk DWDMCPO-teknologi vil etablere arkitektoniske fordeler når det gjelder kostnader, strømforbruk og ytelse; disse fordelene vil fortsette å forsterkes etter hvert som AI-infrastrukturen skaleres opp.
