No mēroga/mērogošanas līdz mērogam: spektrs - XGS ir neizbēgama izvēle

Sep 25, 2025

Atstāj ziņu

Pašreizējie AI datu centri saskaras ar diviem galvenajiem sašaurinājumiem mērogā, un tradicionālais mērogs - UP un mērogo - Iziet modeļi cenšas izpildīt Giga - mēroga AI prasības:

Mērogs - UP IEROBEŽOJUMI: Panākts, jauninot vienas sistēmas vai plauktus (piemēram, palielinot GPU skaitu vai uzlabojot atsevišķu - ierīces veiktspēju), bet ierobežo enerģijas griesti no infrastruktūras, piemēram, ūdens dzesēšanas. Esošajiem datu centriem ir fiziski sliekšņi enerģijas ievadīšanai un siltuma izkliedēšanai, novēršot bezgalīgu skaitļošanas blīvuma palielināšanos uz plauktu vai datu centru.

Mērogs - Iziet ierobežojumus: Paplašināts, pievienojot plauktus un serverus mēroga klasteriem, bet ierobežots ar fizisko telpu vienā vietā, uzliekot cietos vāciņus aprīkojuma ietilpībai.

Lai pārvarētu šo dilemmu, NVIDIA ierosina jauno dimensiju "mērogs - pāri", optimizējot tīkla komunikāciju starp ģeogrāfiski izkliedētiem datu centriem, lai izplatītu AI kopas sadarbotos kā viens. NVIDIA dibinātājs un izpilddirektors Jensens Huangs apraksta šo krustu - reģionālo AI super rūpnīcu kā galveno AI industriālās revolūcijas infrastruktūru ar spektru - XGS kā galveno tehnoloģiju iespējošanu.

Spectrum-XGS

Spectrum - XGS galvenās tehnoloģijas

Spectrum - XGS nav pilnīgi jauna aparatūras platforma, bet gan NVIDIA esošā spektra - X Ethernet ekosistēmas attīstība. Kopš 2024. gada palaišanas spektrs - X ir piegādājis 1,6x augstāku ģeneratīvo AI tīkla veiktspēju nekā tradicionālais Ethernet, izmantojot spektru - 4 Arhitektūras SN5600 slēdži un bluefield -} 3 dpus, kļūstot par galveno izvēli AI datu centriem, izmantojot NVIDIA GPUS. Izrāviens spektra-XGS ir trīs algoritmiskos jauninājumos un aparatūras sinerģijās, kas risina komunikācijas latentumu, sastrēgumus un sinhronizācijas izaicinājumus savstarpējās reģionālās GPU klasteros.

1.Core algoritmi: dinamiska adaptācija gariem - attāluma tīkla raksturlielumiem

Spectrum-XGS's core is a set of "distance-aware network optimization algorithms" that analyze key parameters of cross-data-center communication in real-time (distance, traffic patterns, congestion levels, performance metrics) and dynamically adjust network policies:

Attālums - Adaptīvā sastrēguma kontrole:Atšķirībā no tradicionālās Ethernet vienotās apstrādes ar visiem savienojumiem, spektrs - XGS algoritmi automātiski pielāgo sastrēguma sliekšņus, pamatojoties uz faktiskajiem attālumiem starp datu centriem (pašlaik atbalsta izvietošanu līdz simtiem kilometru) attāluma transmisijas, izvairoties no pakešu zudumiem vai veidošanas ilgās -.

Precīza latentuma pārvaldība:Izmantojot - paketes smalko - graudainu adaptīvo maršrutēšanu, tas novērš latentuma satricinājumu no pakešu retranslācijas tradicionālajos tīklos. Jitter ir kritisks risks AI kopās: ja kavēšanās dēļ viens GPU atpaliek, visiem sadarbības GPU ir jāgaida, tieši ietekmējot vispārējo sniegumu.

Beigas - uz - beigu telemetrija: Real - Pilna - Link Performance Data laika kolekcija no GPU uz slēdžiem un šķērso - dati {- Centra saites nodrošina milisekundi - Līmeņa atgriezeniskā saite algoritmiskā pielāgošana, nodrošinot DAY NOTORTY statusa atbilstību AI darba slodzes pieprasījumam.

2. Aparatūras sinerģijas: spektra piesaistīšanas - X Ecosystem High - joslas platuma pamats

Spectrum - XGS sasniedz optimālu veiktspēju, ja to apvieno ar īpašu NVIDIA aparatūru:

Spektrs - x slēdži: Kā pamatā esošais tīkla mugurkauls, nodrošinot augstu portu blīvumu un zemu - latentuma pārsūtīšanu.

Connectx-8 supernic: 800 GB/S AI - Veci paredzēts tīkla adapteris augstam - Ātruma datu pārsūtīšanai starp GPU un slēdžiem.

Blackwell arhitektūras aparatūra: Piemēram, B200 GPU un GB10 Superchips, dziļi integrēti ar spektru - XGS, lai samazinātu galu - uz - gala latentumu. NVIDIA validated through NCCL (collective communications library) benchmarks: Spectrum-XGS boosts communication performance between cross-data-center GPUs by 1.9x while controlling end-to-end latency at about 200 milliseconds-a level that feels Atsaucīgs un Lag - bez maksas lietotāja mijiedarbībai, atbilst reālai - laika prasībām AI secinājumiem.

Pilna - kaudzes optimizācija AI apmācībai un secinājumu efektivitātei ar spektru - XGS

Spectrum - XGS nav izolēta tehnoloģija, bet gan galvenais papildinājums NVIDIA pilnai - kaudzes ai ekosistēmai. Šajā laidienā NVIDIA atklāja arī programmatūru - līmeņa veiktspējas uzlabojumus, kas sinerģizē ar spektru - XGS aparatūrai - algoritms - programmatūras sadarbība:

Dinamo programmatūras jaunināšana: Optimizēts Blackwell arhitektūrai (piemēram, B200 Systems), lai palielinātu AI modeļa secinājumu veiktspēju līdz 4x, ievērojami samazinot skaitļošanas patēriņu lieliem modeļa secinājumiem.

Spekulatīva dekodēšanas tehnoloģija: Izmanto nelielu melnraksta modeli, lai iepriekš prognozētu nākamo galvenā AI modeļa izvades marķieri, samazinot galvenā modeļa aprēķinu un uzlabojot secinājumu veiktspēju par papildu 35%. Tas ir īpaši piemērots sarunvalodas secinājumu scenārijiem lielās valodas modeļos (LLMS).

NVIDIA paātrinātais skaitļošanas departamenta direktors Deivs Salvators paziņoja, ka šo optimizāciju galvenais mērķis ir mērogot ambiciozas aģentu AI lietojumprogrammas. Neatkarīgi no tā, vai apmācība triljons - parametru lielos modeļos vai AI secinājumu pakalpojumu atbalstīšana miljoniem vienlaicīgu lietotāju, spektra - XGS kombinācija un programmatūras ekosistēma nodrošina paredzamu veiktspēju.

Agrīnās lietojumprogrammas un spektra ietekme uz nozari - XGS

Pirmie lietotāji: CoreWeave Pioneers Cross - domēns AI Super FactoryGPU mākoņa pakalpojumu sniedzējs CoreWeave ir viens no pirmajiem spektra - XGS ieviesējiem. Uzņēmuma CO - dibinātājs un CTO Peter Salanki atzīmēja, ka šī tehnoloģija ļaus tā klientiem piekļūt Giga - mēroga AI iespējām, paātrinot atklājumus dažādās nozarēs. Piemēram, atbalstot Ultra - lielus - mēroga AI projektus, piemēram, Stargate iniciatīva no Oracle, SoftBank un Openai.

Nozares tendences: Ethernet aizstāj Infiniband kā AI tīkla mainstreamLai arī Infiniband 2023. gadā bija aptuveni 80% no AI aizmugures tīkla tirgus, nozare strauji pāriet uz Ethernet. NVIDIA izvēle attīstīt spektru - XGS on Ethernet atbilst šai tendencei:

Savietojamība un izmaksu priekšrocības:Ethernet ir vispārējs standarts globālajiem datu centriem, vairāk pazīstams tīkla inženieriem un lētāks izvietošanai nekā Infiniband.

Tirgus mēroga prognozes:Dell'oro grupas dati rāda, ka Ethernet datu centra slēdžu tirgus nākamajos piecos gados sasniegs gandrīz 80 miljardus USD.

Paša Nvidia izaugsme: 650 grupas pārskati norāda, ka NVIDIA 2024. gada datu centra komutācijas tirgū NVIDIA ir “ātrākais - pieaugošais pārdevējs”, un tā tīkla biznesa ieņēmumi sasniedz 5 miljardus USD Q 2 2024 (beidzot 27. aprīlī), kas ir par 56% gadu - virs -} gadā.

Spektra - XGS palaišana paplašina Nvidia pilnu - kaudzes monopola stratēģiju AI infrastruktūrā, vienlaikus izraisot jaunu konkurences dinamiku:

NVIDIA pilns - kaudzes izkārtojums: No GPU (Blackwell), starpsavienojumiem (nvlink/nvlink slēdzis), tīkli (spektrs - x/spektrs -} XGS, kvantu -} x infiniband) programmatūrai (cuda, tensorrt - llm, nim microsercse) Slēgtas cilpas pārklājums "Compute - Connect - programmatūra" AI infrastruktūrai. Spectrum - XGS sinerģiski ar nvlink trim - līmeņa mērogošanu: intra - plaukts (nvlink), intra - dati -}} {- {{{}}}}} {{}}} {{{}}} {{}}} un Cross {- {{}} x). (Spectrum - XGS).

Konkurentu atbildes: Broadcom iepriekšējā Sue tehnoloģijā ir līdzīgi mērķi ar spektru - XGS, kura mērķis ir optimizēt Ethernet veiktspēju, lai aizvērtu plaisu ar infinibandu. Turklāt tādi pārdevēji kā Arista, Cisco un Marvell paātrina AI - īpašus Ethernet slēdžus, konkurencei koncentrējoties uz veiktspēju - izmaksām - Ekosistēmas saderība.

Spektra - XGS pamatvērtība ir AI datu centra mērogošanas nospiešana no "viena - vietnes ierobežojumiem" uz "Cross - reģionālā sadarbība". Tā kā jauda un zeme kļūst par cietiem ierobežojumiem atsevišķiem datu centriem, šķērsojiet - City un Cross - Valsts AI Super rūpnīcas kļūs par galveno formu, kas atbalsta nākamo -} Ģenerācijas AI lietojumprogrammas (piemēram, vispārīgu mākslīgo inteliģenci, lielu -}}}} mēroga aģents).

Kā NVIDIA tīkla departamenta vecākais viceprezidents Gilads Šainers priekšskatīja HOT Chips konferencē: "Cross - Dati - Centra optiskās šķiedras fizikālie tīkli jau sen pastāv, bet programmatūras algoritmi, piemēram, spektra - XGS, ir atslēga, kas saistīta ar šo fizisko infrastru patieso veiktspēju." "

Nosūtīt pieprasījumu