Movidius Neutral Compute Stick – akcelerator sieci neuronowych z USB

Firma Intel wprowadziła pierwszy na świecie akcelerator wielowarstwowych sieci neuronowych w postaci przystawki USB. Jest on przeznaczony dla projektantów, badaczy i konstruktorów, którzy dzięki niemu będą mogli łatwiej tworzyć, optymalizować i wdrażać systemy AI. To małe urządzenie zapewnia wysoką wydajność przetwarzania w systemach opartych na wielowarstwowych sieciach neuronowych.

Ponieważ rośnie liczba projektantów, którzy wykorzystują zaawansowane techniki uczenia maszynowego do realizacji innowacyjnych systemów i rozwiązań, Intel postanowił zaoferować im najbardziej rozbudowany zestaw narzędzi projektowych i materiałów. Firma ma nadzieję, że dzięki temu branża cyfrowa powszechnie zaadaptuje narzędzia oparte na AI.

Intel oferuje rozwiązania obejmują uczenie sieci neuronowych za pomocą platformy chmurowej Intel Nervana, optymalizację pod kątem sztucznej inteligencji, rzeczywistości wirtualnej i rozszerzonej, autonomiczne systemy kierowania pojazdem oparte na procesorach Xeon Scalable oraz jednostkę przetwarzania obrazu (VPU) Movidius dla urządzeń brzegowych. Firma oferuje też narzędzia, szkolenia i możliwości wdrożenia dla nowych generacji usług i produktów wykorzystujących AI.

Układ VPU Myriad 2 umieszczony wewnątrz przystawki Movidius Neural Compute Stick zapewnia wysoką wydajność przy niskim zużyciu mocy – ponad 100 gigaflopów dla pobieranej mocy 1 W. Pozwala to na pracę głębokiej sieci neuronowej w czasie rzeczywistym bezpośrednio na urządzeniu. To pozwala na realizację wielu systemów opartych na AI w dowolnym miejscu.

Movidius Neural Compute Stick jest pierwszym na rynku urządzeniem USB obsługującym głębokie nauczanie i kompletnym akceleratorem AI oferującym duże możliwości obliczeniowe na potrzeby głębokich sieci neuronowych w różnego rodzaju urządzeniach pełniących rolę hosta.

Wdrożenie takiego systemu sztucznej inteligencji przebiega w dwóch etapach:

  • Trenowanie algorytmu za pomocą dużego zestawu danych przy użyciu technik uczenia maszynowego,
  • Uruchomienie algorytmu w docelowej aplikacji przetwarzającej rzeczywiste dane. Ten etap nosi nazwę wnioskowania (inference). Przeprowadzanie go w urządzeniu docelowym pozwala uzyskać mniejsze opóźnienia, pobór mocy i zapewnić prywatność.

Takie rozwiązanie niesie ze sobą liczne korzyści:

  • Kompilacja: Automatyczna konwersja sieci neuronowej CNN opartej na platformie Caffe do wbudowanej sieci neuronowej zoptymalizowanej do pracy na układzie VPU Movidius Myriad 2.
  • Optymalizacja: Pomiary wydajności każdej warstwy standardowych oraz autorskich sieci neuronowych pozwalają projektantom na porównanie modelu zoptymalizowanego dla urządzenia z oryginalnym modelem pracującym na komputerze PC.
  • Akceleracja: Unikalna cechą Movidius Neural Compute Stick jest możliwość pracy jako dyskretny akcelerator sieci neuronowej, oferując możliwości dedykowane uczeniu sieci wielowarstwowej i wnioskowaniu w istniejących już platformach obliczeniowych. Dzięki temu zapewnia on optymalną wydajność względem zużycia mocy.

Movidius Neural Compute Stick jest już dostępny w sprzedaży o wybranych dystrybutorów. Szczegółowe informacje znajdują się na stronie firmy Movidius.

 

O autorze