Figur 1: Vigtigste fordele ved Dense Wavelength Division Multiplexing Co-Packed Optics (DWDMCPO). (Billedkredit: Scintil Photonics)
Der er et ordsprog inden for datacenterdesign: "Brug kobberkabler, hvor det er muligt, og ty kun til optisk teknologi, når fiber er absolut nødvendigt." I årevis har industriens pragmatiske tilgang været at prioritere billige-kobberkabler, indtil fysikkens love fremtvinger en teknologisk opgradering. Men i dag, hvor computerklynger med kunstig intelligens (AI) bevæger sig mod skalaen af "computerkraftfabrikker", der implementerer millioner af grafiske behandlingsenheder (GPU'er), og datacentres omkostningseffektivitet- står over for et enormt pres, opdager folk, at denne "ingen-optik{{5} har ankommet et langt bedre alternativ snarest" end teknologien har ankommet et langt hurtigere alternativ.
Netværksarkitekter har længe været klar over, at kobberkabler har betydelige begrænsninger i transmissionsafstanden under høje-hastighedsscenarier, men få har analyseret de underliggende årsager fra et grundlæggende fysisk perspektiv. Selvom netværksingeniører har skubbet grænserne for kobberkabels transmissionsafstand og båndbredde til det yderste med deres ekspertise, kan begrænsningerne i fysikkens love ikke overvindes; selv de mest geniale tekniske designs kæmper for at overvinde kobberkablernes iboende begrænsninger. Forståelse af dette forklarer, hvorfor industrien presserende skifter mod Co-Packaged Optics (CPO)-teknologi.
Jo højere frekvensen af de elektriske signaler, der transmitteres gennem kobberkabler, jo højere symbolhastighed og båndbredde, og jo mere information kan de bære. Problemet er, at når signalfrekvensen stiger, falder transmissionsafstanden betydeligt. Der er to primære årsager til signaltab: hudeffekten og dielektrisk tab.
Hudeffekt: "Overfladekoncentrationen" af strømmen
Når et AC-signal bevæger sig gennem et kobberkabel, inducerer det skiftende magnetfelt hvirvelstrømme i lederen. Det magnetiske felt, der genereres af disse hvirvelstrømme, ophæver signalets magnetfelt i midten af kablet. Jo hurtigere signalets magnetfelt ændrer sig-det vil sige, jo højere frekvensen-jo stærkere bliver denne annulleringseffekt.
Det direkte resultat er, at strømmen "klemmes" ind i et ekstremt tyndt overfladelag af lederen; tykkelsen af dette lag er kendt som huddybden. Aktuel signaltransmission i AI-datacentre bruger almindeligvis frekvenser omkring 53 GHz. Ved denne frekvens er huddybden af kobberkabler kun 0,3 μm. Sådan et tyndt transmissionslag udnytter mindre end 1 % af lederens tværsnitsareal-, hvilket får kablets modstand til at skyrocke-endog overskrider jævnstrømsmodstanden med mere end 100 gange.
Dielektrisk tab: "Energidissipation" i isoleringslaget
En anden stor synder bag signaldæmpning i kobberkabler er dielektriske tab. I højfrekvente scenarier på gigahertz-niveau kan molekylerne i kablets isolerende dielektrikum ikke holde trit med de hurtige udsving i det elektriske felt. Forsinkelsen mellem de hurtige udsving i det elektriske felt og molekylernes efterslæbende respons omdanner signalets elektromagnetiske energi til termisk energi, hvilket resulterer i energitab.
Dobbelte tab: Kobberkablers fatale svaghed
Når hudeffekten og det dielektriske tab virker sammen, stiger signaltabet i kobberkabler eksponentielt, når frekvensen stiger.
For at illustrere dette tydeligt: Ved en frekvens på 50 GHz, selv med kobberkabler af høj-kvalitet, vil det kombinerede tab fra disse to effekter forbruge over 90 % af signaleffektbudgettet inden for en transmissionsafstand på 2 meter. Kobberkablernes fysiske egenskaber dikterer en uforsonlig kernemodsigelse: Båndbredde og transmissionsafstand kan ikke opnås samtidigt.
Dense Wavelength Division Multiplexing Co-Packed Optics (DWDMCPO)
I dag er præstationsflaskehalsen for AI-træningsklynger skiftet fra flydende-point operations per second (FLOPS) til båndbreddekrav.
I skalerbare netværk med ensartet hukommelse er en ny generation af netværksteknologi nødvendig for at imødekomme flere krav:
|Da strømforbruget bliver en begrænsende faktor i datacenterinstallationer, kræves der et lavere strømforbrug pr. bit;
| Da flydende-punktoperationer ikke længere er flaskehalsen, skal der gives større båndbredde for hver processor;
| Da den fysiske plads til fiberudbredelse bliver begrænset, skal der opnås højere integrationstæthed;
| For at muliggøre horisontal skalering på tværs af-reoler skal længere transmissionsafstande understøttes;
| For at opretholde hukommelsesdomænekonsistens og forbedre GPU-udnyttelsen kræves der ultra-lav ventetid.
| Høj pålidelighed og nem vedligeholdelse er også afgørende.
Når hale-latenstiden bliver en kernebegrænsning, vil opfyldelse af ovenstående krav øge GPU-udnyttelsen markant (nogle modelestimater indikerer, at udnyttelsen kan mere end fordobles), reducere netværkets strømforbrug væsentligt og forbedre ende-til-modellens ydeevne. I øjeblikket er DWDMCPO den eneste tekniske tilgang, der samtidig er i stand til at opfylde disse strenge krav, og det vil medføre vidtrækkende-omkostningstransformationer-for hyperskala datacenteroperatører.
Ved at transmittere flere bølgelængder af lys over en enkelt fiber forsyner DWDMCPO-teknologien hver GPU med flere brede,-lavhastighedskanaler. Ved at skalere antallet af transmitterede bølgelængder fra 1 til 8, 16 eller endnu mere, er dette geometriske skaleringsmønster klar til at revolutionere AI-netværk, ligesom DWDM-teknologi revolutionerede internettets rygrad for 25 år siden.
DWDMs enkelt-kanals transmissionshastighed er ca. 50-64 Gbit/s, hvilket falder inden for transmissionskategorien med lav-hastighed. Denne egenskab giver ingeniører mulighed for at forenkle datakodningsskemaet fra PAM4 til NRZ. Denne forenkling eliminerer adskillige omkostningstunge og strømintensive-signalbehandlingstrin, hvilket opnår dobbelte reduktioner i strømforbrug og latens ved at strømline signaltransmissionsstien.
Tail latency er den "silent killer" eroderende datacenter ROI. Når GPU-klynger behandler datatokens, kræver de en kontinuerlig, forudsigelig bitstream-input. Hvis en enkelt bit oplever transmissionsforsinkelse, bliver resten af klyngen inaktiv, hvilket væsentligt reducerer processorudnyttelsen. Efterhånden som antallet af processorer i en klynge stiger, stiger sandsynligheden for halebit-latens på p999-niveau betydeligt, og processorudnyttelsen falder tilsvarende.
Uden lav-latens, lav-effekt, lang-DWDMCPO-teknologi ville skalerbarheden af netværk være begrænset, og ydeevnen af store sprogmodeller (LLM'er) ville følgelig være begrænset. Større-skala, fladere, skalerbare netværk med lav-latens kan understøtte større nøgle-værdi-caches, hvilket direkte øger modellens kontekstvinduestørrelse og indholdsrelevans og dermed effektivt udvider LLM's effektive arbejdshukommelse. Øget lav-latensbåndbredde rummer også potentialet til at øge antallet af transformerlag, hvilket gør det muligt for modeller at besidde dybere tænkning og ræsonnement. Kort sagt: At bryde igennem kommunikationsbegrænsningerne mellem chips giver LLM'er mulighed for at gemme mere information i arbejdshukommelsen og gennemføre flere ræsonnementtrin uden at stamme.
Kobberkabler var utvivlsomt en fantastisk teknologi på sin tid, men dens iboende fysiske begrænsninger har skabt et presserende behov for mere avancerede netværksteknologier for betydeligt at forbedre investeringsafkastet for hyperskala datacentre og udvide mulighederne for LLM'er.
Om få år vil AI-datacentre, der udelukkende er bygget på kobberkabler, blive lige så utænkelige, som lange-internetforbindelser, der udelukkende er afhængige af kobber.
Operatører af hyperskala datacentre, investorer, LLM-udviklere og andre interessenter inden for AI-infrastruktur skal tage denne teknologiske tendens alvorligt: Den vil ikke kun fundamentalt omforme omkostningseffektiviteten i datacentre, men også løbende udvide grænserne for AI-kapaciteter. Virksomheder, der først anvender DWDMCPO-teknologi, vil etablere arkitektoniske fordele med hensyn til omkostninger, strømforbrug og ydeevne; disse fordele vil fortsætte med at blive større, efterhånden som AI-infrastrukturen opskaleres.
