NVIDIA, Rebellions i SK Telecom rozwijają koreańską AI

Procesory i modele AI opracowane w Korei będą wykorzystywać technologię NVIDIA NVLink Fusion oraz infrastrukturę MGX. Rozwiązania te mają umożliwić wnioskowanie AI w skali szafy serwerowej.

Źródło: NVIDIA

Koreańskie procesory AI i infrastruktura NVIDIA

Firma Rebellions planuje wdrożyć NVIDIA NVLink Fusion, aby połączyć swoje jednostki przetwarzania neuronowego nowej generacji R200 z platformą infrastrukturalną NVIDIA. Platforma ta umożliwia wnioskowanie AI w skali szafy serwerowej.

Z kolei SK Telecom zamierza wdrożyć te systemy w swoim centrum danych AI. W ten sposób firma chce rozwijać suwerenną sztuczną inteligencję typu full-stack. Podejście to obejmuje infrastrukturę, własne modele oraz usługi dostępne publicznie, w tym rozwiązania koreańskiego projektu „AI for All”.

Współpracę wspiera koreańskie Ministerstwo Nauki i Technologii Informacyjno-Komunikacyjnych. Jej celem jest połączenie krajowych innowacji w dziedzinie półprzewodników z infrastrukturą suwerennej sztucznej inteligencji.

NVIDIA, Rebellions i SK Telecom łączą technologie

Firmy NVIDIA, Rebellions i SK Telecom ogłosiły współpracę na rzecz rozwoju koreańskiej infrastruktury suwerennej sztucznej inteligencji. Partnerzy wykorzystają NVIDIA NVLink Fusion do integracji kilku elementów technologicznych. Obejmują one otwartą platformę infrastrukturalną NVIDIA, koreańskie procesory AI firmy Rebellions oraz centrum danych SK Telecom. Współpraca uwzględnia również modele i usługi sztucznej inteligencji rozwijane przez SK Telecom.

W ramach porozumienia Rebellions wykorzysta NVLink Fusion do połączenia swoich jednostek przetwarzania neuronowego (NPU) Rebel R200 z platformą NVIDIA. Ponadto zastosuje architekturę szafową NVIDIA MGX do opracowania systemów działających w skali całej szafy serwerowej. SK Telecom planuje następnie wdrożyć te rozwiązania, wykorzystując doświadczenie w obsłudze centrów danych AI oraz własne modele i usługi. Partnerzy chcą rozwijać usługi AI dostosowane do języka, branż i priorytetów Korei.

Suwerenna sztuczna inteligencja w strategii Korei

– Korea dysponuje talentami, technologią i ambicjami przemysłowymi, by stać się światowym liderem w dziedzinie sztucznej inteligencji – powiedział Jensen Huang, założyciel i dyrektor generalny NVIDIA.

Dzięki NVLink Fusion koreańscy producenci chipów mogą podłączać niestandardowe układy ASIC do platformy fabrycznej AI firmy NVIDIA. W ten sposób połączą swoje procesory z mocą obliczeniową NVIDIA, aby obsługiwać obciążenia związane ze sztuczną inteligencją. Zbuduje to podstawy obliczeniowe, które pozwolą Korei tworzyć własną inteligencję. Chcemy także wspierać kolejną rewolucję przemysłową.

– Integrujemy specjalnie zaprojektowane układy scalone i architekturę systemową Rebellions z technologią NVLink Fusion firmy NVIDIA. Wykorzystamy również szybkie połączenia międzysieciowe i doświadczenie NVIDIA w projektowaniu systemów w skali szaf serwerowych. Ponadto połączymy te rozwiązania z modelami SKT i możliwościami obsługi centrów danych – powiedział Sunghyun Park, współzałożyciel i dyrektor generalny Rebellions.

NVLink Fusion umożliwi integrację niestandardowych procesorów

NVLink Fusion rozszerza pionowo zintegrowaną i horyzontalnie otwartą platformę AI firmy NVIDIA na niestandardowe procesory XPU. Dzięki temu producenci chipów mogą łączyć wyspecjalizowane układy scalone z sieciami NVIDIA typu scale-up. Sieci te zapewniają dużą przepustowość i niskie opóźnienia. Producenci mogą również korzystać z istniejącego ekosystemu infrastrukturalnego NVIDIA. Takie rozwiązanie ma poprawiać wydajność, ograniczać ryzyko wdrożenia i skracać czas wprowadzania produktów na rynek.

Rebellions opracowuje procesor NPU nowej generacji R200. Firma optymalizuje go pod kątem wnioskowania o niskim opóźnieniu i energooszczędnego działania z wykorzystaniem zaawansowanych modeli AI. Obejmuje to również modele typu mixture-of-experts, które zawierają wiele bilionów parametrów. Dzięki NVLink Fusion Rebellions połączy procesory NPU R200 w jednej szafie serwerowej za pomocą skalowalnej sieci NVIDIA NVLink.

Architektura szafy serwerowej NVIDIA MGX oraz projekty referencyjne będą wspierać opracowywanie nowych systemów. Ponadto ekosystem MGX zapewni Rebellions dostęp do istniejącego łańcucha dostaw. Obejmuje on producentów OEM oraz dostawców komponentów.

SK Telecom połączy centra danych, modele i usługi AI

SK Telecom wnosi do współpracy doświadczenie w budowie i eksploatacji centrów danych AI. Firma rozwija także własne modele podstawowe oraz usługi sztucznej inteligencji dostępne publicznie.

SK Telecom od wielu lat współpracuje z NVIDIA przy rozwoju sztucznej inteligencji i suwerennej infrastruktury. Obecnie zamierza połączyć te możliwości i wdrożyć je w swoim centrum danych AI. W tym celu wykorzysta standardową architekturę szafową MGX. Rozwiązanie ma umożliwić rozwój suwerennej sztucznej inteligencji typu full-stack.

Architektura MGX stanowi podstawę systemów wykorzystujących procesory graficzne (GPU) i jednostki NPU. Umożliwia również współdzielenie elementów projektu centrum danych. Dotyczy to między innymi powierzchni zajmowanej przez szafy serwerowe, zasilania i chłodzenia. Dzięki temu SK Telecom może planować infrastrukturę równolegle z rozwojem procesorów i systemów Rebellions.

Rozdzielone wnioskowanie AI z wykorzystaniem GPU i NPU

Partnerzy planują opracować podejście do rozdzielonego wnioskowania AI. Polega ono na przypisywaniu poszczególnych etapów generowania odpowiedzi do architektury procesorów najlepiej dostosowanej do danego zadania.

Plan zakłada wykorzystanie procesorów graficznych NVIDIA podczas etapu wstępnego przetwarzania danych wejściowych, określanego jako prefill. Natomiast procesory NPU firmy Rebellions będą odpowiadać za dekodowanie. Taki podział zadań ma poprawić przepustowość wnioskowania oraz efektywność energetyczną.

– Rząd będzie aktywnie wspierał tę współpracę, aby osiągnąć wymierne rezultaty. Zamierzamy również rozwijać współpracę z NVIDIA w wielu obszarach. Obejmują one fizyczną sztuczną inteligencję oraz zabezpieczenie dostaw procesorów graficznych (GPU) – powiedział Bae Kyung-hoon, wicepremier Korei oraz minister nauki i technologii informacyjno-komunikacyjnych.

Partnerzy chcą połączyć koreańskie procesory i modele AI z infrastrukturą NVIDIA oraz doświadczeniem SK Telecom w obsłudze centrów danych. Dzięki temu zamierzają stworzyć podstawy dla suwerennych usług sztucznej inteligencji w koreańskim sektorze publicznym i prywatnym.

Zgodnie z zapowiedziami systemy R200 firmy Rebellions mają osiągnąć gotowość do wdrożenia w 2028 roku.

Jensen Huang celem zagranicznych służb wywiadowczych.

W osobnym komunikacie zarząd NVIDIA poinformował o wszczęciu niezależnego dochodzenia. Decyzja ma związek z ostatnimi doniesieniami, według których założyciel i dyrektor generalny Jensen Huang stał się celem zagranicznych służb wywiadowczych.

Nadzór nad dochodzeniem obejmie komisja złożona z niezależnych członków zarządu. Komisję wesprze zewnętrzny, niezależny doradca prawny. Zarząd podkreśla, że bezpieczeństwo narodowe i gospodarcze Stanów Zjednoczonych ma nadrzędne znaczenie dla interesów NVIDIA oraz jej akcjonariuszy. Dlatego traktuje tę kwestię priorytetowo.

Jednocześnie zarząd firmy zaznacza, że nie ma powodów, aby podejrzewać naruszenie bezpieczeństwa narodowego lub ujawnienie tajemnic firmy NVIDIA. Mimo to w ramach dochodzenia przeanalizuje wszystkie dostępne informacje.

Jensen Huang w pełni popiera prowadzone dochodzenie i zobowiązał się do współpracy. Zarząd deklaruje również zaufanie do Huanga oraz jego zespołu kierowniczego. W razie potrzeby firma będzie przekazywać kolejne informacje dotyczące tej sprawy.