Podwyższone napięcie, płyny ratujące życie i mocna podłoga: Schneider Electric opracował rekomendacje dotyczące przygotowania centrów danych na systemy AI

Schneider Electric wydał ważne oświadczenie – sprzęt do efektywnej pracy z systemami AI okazał się na tyle zasobochłonny, że operatorzy i konstruktorzy centrów danych być może będą musieli ponownie przemyśleć zasady tworzenia i modernizacji takich obiektów. Firma zauważyła nawet w swoim badaniu, że w zasadzie jest mało prawdopodobne, aby niektóre istniejące centra danych zostały zmodernizowane.

Faktem jest, że systemy AI zwykle wymagają infrastruktury sieciowej o małych opóźnieniach do przesyłania danych w dużych ilościach i „zagęszczania” szaf, na co charakterystyka infrastruktury obecnych centrów danych po prostu nie jest gotowa. W warunkach, w których jeden nowoczesny akcelerator może pobrać ponad 700 W, a systemy serwerowe przekroczyły 10 kW, moc nowoczesnych centrów danych jest wyraźnie niewystarczająca, ponieważ do wyszkolenia nowoczesnych modeli wielkojęzykowych (LLM) w rozsądnym czasie nie trzeba jeden lub dwa akceleratory, ale dziesiątki lub setki stojaków.

Zdjęcie: Anthony Indraus/Unsplash

Schneider Electric twierdzi, że większość centrów danych ma limit 10–20 kW na szafę, a w przypadku pracy z LLM niezwykle korzystne jest umieszczenie jak największej ilości sprzętu w jednej szafie, aby zmniejszyć opóźnienia, uniknąć zatorów w sieci i ogólnie wydawać mniej na połączenia wzajemne . Właśnie dlatego NVIDIA na przykład rozwija NVLink. Choć takie rozwiązanie trudno nazwać tanim, to pod względem TCO faktycznie może okazać się bardziej opłacalne. Jednak sytuacja z wnioskowaniem nie jest taka smutna, ponieważ potrzeba znacznie mniej zasobów.