Advantech ogłasza przełomowe rozwiązanie serwerowe Edge AI na potrzeby generatywnej sztucznej inteligencji (AI). Została w nim wykorzystana opatentowana technologia aiDAPTIV+ firmy Phison. Serwer Edge AI AIR-520 bazuje na procesorze z serii AMD EPYC 7003. Integruje dyski SSD SQ ai100 AI, karty graficzne NVIDIA RTX, pakiety SDK Edge AI i NVIDIA AI Enterprise, zapewniając tym samym rozwiązanie gotowe do wdrożenia.

Serwerowe rozwiązania Advantecha na potrzeby Edge AI

Narzędzia generatywnej sztucznej inteligencji (AI), np. duże modele językowe (LLM), przekształcają zarządzanie wiedzą w przedsiębiorstwie przez automatyzację organizacji, pobierania i analizy danych, co powoduje zwiększenie produktywności i lepsze podejmowanie decyzji. Niestandardowe modele LLM oferują większą dokładność, natomiast uczenie brzegowe podnosi poziom prywatności danych. Przynosi to wiele oczywistych korzyści, choć może być bardziej kosztowne. Rozwiązanie obsługuje precyzyjne dostosowanie modeli LLM za pomocą 1…4 kart graficznych i dysków SSD SQ ai100 AI, umożliwiając przedsiębiorstwom efektywne kosztowo uczenie modeli LLM z jednoczesnym zachowaniem bezpieczeństwa danych wrażliwych na brzegu sieci.

Oferta czterech rozwiązań do różnych zastosowań

Serwerowe rozwiązania Advantecha na potrzeby Edge AI

Advantech oferuje cztery opcje: AIR-520-L13B/L33B/L70B oraz L70B-Plus do różnych skali i aplikacji. L13B to idealne rozwiązanie do aplikacji działających w czasie rzeczywistym, takich jak chatboty i tłumaczenia językowe. L33B opracowano do bardziej złożonych zadań przez poprawienie produktywności i innowacyjności podczas tworzenia treści. L70B wyróżnia się zaawansowaną analizą danych i podejmowaniem decyzji w wyspecjalizowanych dziedzinach. Ponadto L70B-Plus z platformą programową NVIDIA AI Enterprise oferuje kompleksowe, niezawodne i zoptymalizowane pakiety SDK AI. Obejmują one długoterminowe wsparcie i specjalistyczne usługi konsultingowe, co zapewnia efektywne wdrażanie aplikacji biznesowych.

Łatwa i szybka instalacja zoptymalizowana do zapewnienia efektywności kosztowej

Serwerowe rozwiązania Advantecha na potrzeby Edge AI

Wszystkie rozwiązania wyposażono w dyski SSD SQ ai100 AI z technologią aiDAPTIV+ firmy Phison. Dyski SSD pełnią rolę rozszerzenia pamięci vRAM karty graficznej i umożliwiają precyzyjne dostosowanie modeli LLM przy minimalnej liczbie kart graficznych. Takie podejście nie tylko niweluje barierę budżetową, ale także sprawia, że serwer Edge AI jest bardziej zwarty w porównaniu z tradycyjnymi dużymi serwerami montowanymi w szafach. Serwer Edge AI AIR-520 zaprojektowano do użytku w różnych aplikacjach brzegowych AI. Jego rozmiar jest porównywalny z komputerem stacjonarnym i można go zamontować w szafie z użyciem odpowiednich akcesoriów.

Szybki rozwój GenAI za pośrednictwem usług w zakresie programowania

Oprócz możliwości dostosowywania modeli LLM, Advantech oferuje pakiet SDK Edge AI z rozwiązaniem GenAI Training Studio. Jest on fabrycznie wyposażony w modele Llama-2 13B/33B/70B do takich zastosowań, jak chatboty i analiza danych. W ten sposób można uprościć i przyspieszyć uczenie modeli LLM specyficznych dla klienta oraz ocenę wnioskowania w ramach modelu AIR-520. Ponadto DeviceOn firmy Advantech zapewnia aktualizacje OTA oprogramowania/kontenera i zdalne zarządzanie oraz ułatwia wydajną orkiestrację brzegowej sztucznej inteligencji (AI) i konserwację długoterminową.

Usługi dostosowywania

Dla klientów oczekujących rozwiązań niestandardowych, europejski zespół DMS firmy Advantech oferuje szeroki zakres lokalnych usług projektowych i produkcyjnych.