Meta pracuje nad stworzeniem najszybszego superkomputera na świecie26.01.2022

Gotowa infrastruktura obliczeniowa ma trenować modele AI na zbiorach danych o wielkości eksabajta. Tyle ważyłyby nagrania wideo o łącznej długości 36 tysięcy lat. 

Meta, do której należą m.in. Facebook, Instagram i WhatsApp, w nowym projekcie połączyła siły z Nvidią. Na początku tygodnia giganci technologiczni zapowiedzieli stworzenie AI Research SuperCluster, czyli najszybszego superkomputera na świecie. Jak sama nazwa wskazuje, urządzenie ma przyczynić się do rozwoju badań nad sztuczną inteligencją. Obliczenia, które wykona z niespotykaną wcześniej mocą, będą w dalszym rozrachunku fundamentem budowy wirtualnej przestrzeni zwanej metawersum. Jak twierdzi dyrektor generalny korporacji, Mark Zuckerberg, internauci będą w niej mogli swobodnie pracować, komunikować się z bliskimi i doświadczać rozrywki. 

Amerykańskie przedsiębiorstwo zwróciło uwagę na to, że od 2013 roku poczyniono znaczące postępy na polu tzw. uczenia samonadzorowanego (self-supervised learning). Proces ten opiera się na tym, że algorytmy samodzielnie rozwijają się dzięki przyswojeniu ogromnej liczby nieoznakowanych przykładów. Dotychcza przebiegał on w dobrym tempie, ale liczba danych i pól, na których można wykorzystywać AI (m.in. przetwarzanie języka naturalnego, fonia albo wizja), stale rośnie.

Do zaawansowanych operacji, których celem może być indywidualizacja treści dostarczanych użytkownikowi, doskonalenie jego wrażeń (np. w metawersum) albo filtracja niepożądanych materiałów, potrzeba dużej mocy obliczeniowej. AI Research SuperCluster, z którego krótką prezentacją można zapoznać się poniżej, przypuszczalnie rozwiąże ten problem. Infrastruktura docelowo ma trenować modele AI na zbiorach danych o wielkości jednego eksabajta. Tyle ważyłyby nagrania wideo o łącznej długości 36 tysięcy lat. Niespotykane dotąd parametry zapewni struktura sieciowa InfinityBand złożona z 16 tysięcy jednostek GPU (procesorów graficznych). Przesył danych może w niej sięgać nawet 200 Gb/s. 

Budowa AI Research SuperCluster zostanie ukończona w drugiej połowie przyszłego roku. Na drodze do jej wcześniejszego sfinalizowania stanęły problemy związane z przerwaniem łańcucha dostaw. – Aby efektywnie skonstruować cały klaster, musieliśmy zaprojektować go od podstaw, tworząc wiele zupełnie nowych konwencji charakterystycznych dla Meta i analizując te istniejące. Opracowaliśmy nowe zasady dotyczące naszych centrów danych - w tym ich chłodzenia, zasilania, rozmieszczenia szaf, okablowania i sieci – piszą pomysłodawcy projektu na jego oficjalnym blogu.