Firma NXP Semiconductors dodała dwa nowe narzędzia do swojego oprogramowania eIQ AI i uczenia maszynowego. Łatwiejsze stanie się więc wdrażanie i wykorzystywanie sztucznej inteligencji w urządzeniach brzegowych. Korzyść odniosą zarówno użytkownicy małych mikrokontrolerów (MCU), jak również bardziej wydajnych procesorów aplikacyjnych (MPU).

eIQ Time Series Studio oferuje zautomatyzowany proces uczenia maszynowego, który usprawnia opracowywanie i wdrażanie modeli uczenia maszynowego, opartych na szeregach czasowych w układach klasy MCU, takich jak MCX lub i.MX RT.

Źródło: NXP

GenAI Flow zapewnia bloki konstrukcyjne dla dużych modeli językowych (LLM), które wzmacniają generatywne rozwiązania AI. Ułatwiają one wdrażanie inteligencji na brzegu sieci poprzez uczenie LLM na określonych danych kontekstowych. Rozwiązanie jest zaprojektowane do użytku z procesorami MPU, takimi jak rodzina procesorów aplikacyjnych i.MX firmy NXP.

Na przykład, urządzenie wyposażone w LLM, przeszkolone w zakresie instrukcji obsługi, może rozmawiać z użytkownikiem w jego języku naturalnym o tym, jak uzyskać dostęp do określonych funkcji, wykonywać określone zadania lub w inny sposób optymalizować użytkowanie i konserwację.

Dlaczego ma to znaczenie?

Wdrożenie sztucznej inteligencji na brzegu sieci oferuje szereg korzyści, Najważniejsze to: zmniejszenie opóźnień, poprawa prywatności użytkowników i zmniejszenie zużycia energii. Rozszerzenie zestawu narzędzi eIQ Toolkit firmy NXP znacznie ułatwia i przyspiesza te wdrożenia, dając programistom dostęp do szerszego zakresu typów modeli – od generatywnej sztucznej inteligencji, przez modele oparte na szeregach czasowych, po modele oparte na wizji. Użytkownicy mogą również wdrażać te modele na szerszej gamie procesorów brzegowych.

– Sztuczna inteligencja jest kluczem do świata, który przewiduje i automatyzuje w oparciu o życzenia i potrzeby użytkowników, ale musi być opracowana w sposób praktyczny do wdrożenia na urządzeniach brzegowych. Dzięki gotowym do użycia narzędziom, odpowiednim zarówno dla małych modeli AI na MCU, takich jak portfolio MCX, MCU typu crossover, i.MX RT700 oraz większych, generatywnych modeli AI działających na bardziej wydajnych układach, takich jak procesor aplikacyjny i.MX 95, NXP, dostępny jest olbrzymi zakres opcji dla programistów w pełnym spektrum modeli AI i procesorów brzegowych obsługujących AI. Dzięki NXP sztuczna inteligencja brzegowa staje się naprawdę praktyczna dla programistów na wielu rynkach – powiedział Charles Dachs, starszy wiceprezes i dyrektor generalny działu Industrial and IoT w NXP Semiconductors.

Więcej szczegółów

eIQ Time Series Studio upraszcza i skraca czas potrzebny na opracowanie i wdrożenie modeli AI opartych na szeregach czasowych. Obsługuje szeroką gamę sygnałów wejściowych, takich jak: napięcie, prąd, temperatura, wibracje, ciśnienie, dźwięk, czas lotu, a także ich kombinacje do multimodalnej fuzji czujników. Funkcja automatycznego uczenia maszynowego umożliwia programistom wydobywanie istotnych informacji z surowych danych czasowych i szybkie tworzenie modeli sztucznej inteligencji dostosowanych do kryteriów wydajności, pamięci, rozmiaru pamięci Flash i dokładności. Narzędzie oferuje kompleksowe środowisko programistyczne, w tym zarządzanie danymi, wizualizację i analizę, a także automatyczne generowanie, optymalizację, emulację i wdrażanie modeli. Intuicyjny interfejs umożliwia programistom tworzenie zoptymalizowanych bibliotek wykrywania anomalii, klasyfikacji i regresji, a wszystko to bez konieczności posiadania dogłębnej wiedzy z zakresu nauki o danych lub sztucznej inteligencji.

NXP GenAI Flow sprawia, że generatywne aplikacje AI są dostępne w urządzeniach brzegowych. Potok oprogramowania zapewnia środki do optymalizacji modeli generatywnych, takich jak LLM. GenAI Flow pozwala również na Retrieval Augmented Generation (RAG). To metoda bezpiecznego dostrajania modeli w oparciu o wiedzę specyficzną dla danej dziedziny i prywatne dane, bez ujawniania poufnych informacji dostawcom modelu lub procesora. Łącząc wiele modułów w jednym potoku, klienci mogą łatwo dostosować LLM do swoich zadań i zoptymalizować je do wdrożenia na brzegu sieci za pomocą procesorów MPU, takich jak procesor aplikacji i.MX 95 firmy NXP.

Źródło: NXP