IBM wprowadza procesor Telum II i akcelerator Spyre AI

Redaktor NetMaster
Redaktor NetMaster
1 min. czytania

IBM oficjalnie ogłosił własne chipy do współpracy ze sztuczną inteligencją. Są to procesor Telum II i akceleratory Spyre AI dla komputerów mainframe IBM z serii Z. Te chipy przyspieszą tradycyjne obciążenia AI wraz z dużymi modelami języków LLM w systemach serwerowych IBM.

Procesor otrzymał wbudowany akcelerator sztucznej inteligencji do szybkich operacji wyjściowych AI przy niskim opóźnieniu i dużej przepustowości. Akcelerator ten zapewnia wydajność 24 TOPS na procesor, 192 TOPS na blok i 768 TOPS na system. W procesorze wbudowany jest także nowy blok akceleracji we/wy DPU, który zwiększa gęstość przesyłania danych o 50%.

Akceleratory Spyre to rozwiązanie klasy korporacyjnej. Zapewniają wydajność w zadaniach AI na poziomie ponad 300 TOPS przy 128 GB pamięci LPDDR5. W konfiguracji 8 takich akceleratorów w systemie IBM łączna pamięć sięga 1 TB. Każdy akcelerator Spyre AI ma 32 rdzenie obliczeniowe obsługujące typy danych INT4, INT8, FP8 i FP16. TDP takiego urządzenia to skromne 75 W.

Udostępnij ten artykuł
Dodaj komentarz