W NASK powstaje Laboratorium AITAS. Będzie sprawdzać odporność AI

Rozwój sztucznej inteligencji, w tym modeli językowych, stwarza ogrom szans, jednocześnie generując olbrzymie ryzyko. AI jest wykorzystywana przez cyberprzestępców do automatyzacji ich działań czy przeprowadzania zaawansowanych ataków. W odpowiedzi na te zagrożenia powstaje Laboratorium AITAS, w którym eksperci NASK będą m.in. badać odporność modeli AI na cyberzagrożenia.

Laboratorium AITAS (AI Trustworthiness, Assurance and Safety czyli Wiarygodność, Niezawodność i Bezpieczeństwo Sztucznej Inteligencji) powstaje w ramach ultranowoczesnego Centrum Cyberbezpieczeństwa NASK (CCN). To inwestycja nie tylko w infrastrukturę, ale i w zwiększanie ludzkich kompetencji. AITAS będzie stanowić jedną z kluczowych części suwerennego ekosystemu, koncentrując się na cyberbezpieczeństwie rozwiązań, które wykorzystują sztuczną inteligencję.

Ataki phishingowe coraz trudniejsze do wykrycia

– Cyberprzestępcy wykorzystują modele językowe do tworzenia personalizowanych wiadomości mailowych albo treści, które przypominają informacje rozsyłane przez banki czy inne instytucje. To sprawia, że kampanie phishingowe stają się nie dość, że coraz skuteczniejsze, jeśli chodzi o liczbę poszkodowanych, to także coraz trudniejsze do wykrycia. Laboratorium AITAS pozwoli m.in. na badanie bezpieczeństwa modeli językowych, a to oznacza lepszą ochronę cyberprzestrzeni i większe bezpieczeństwo dla naszego kraju – mówi Radosław Nielek, dyrektor NASK.

– W ostatnich latach modele generatywnej sztucznej inteligencji osiągnęły zupełnie nowy poziom. Umożliwia im to wykonywanie skomplikowanych i złożonych zadań dotyczących np. analizy danych czy tworzenia treści. Ale te rosnące możliwości oznaczają też coraz większe ryzyko. Cyberprzestępcy wykorzystują modele do ataków, dezinformowania czy wspierania innych działań, które nie są zgodne z prawem – podkreśla dr inż. Sebastian Cygert, kierownik Zakładu Bezpieczeństwa i Przejrzystości w NASK

Kluczowy zakres prac AITAS

Laboratorium AITAS będzie rozwijać metody, narzędzia i procedury służące ocenie współczesnych modeli sztucznej inteligencji pod kątem bezpieczeństwa, niezawodności i zgodności z wymaganiami regulacyjnymi. Prace zespołu ekspertów NASK będą koncentrować się między innymi na:

• opracowywaniu metodologii ewaluacji modeli AI pod kątem zagrożeń związanych z niewłaściwym użyciem,
• badaniu bezpieczeństwa modeli w kontekście cyberbezpieczeństwa,
• tworzeniu narzędzi wspierających testowanie i audyt systemów AI,
• przygotowywaniu raportów technologicznych dotyczących bezpieczeństwa oraz rozwoju sztucznej inteligencji,
• wspieraniu administracji publicznej i partnerów zewnętrznych w ocenie ryzyka związanego z wdrażaniem systemów AI.

Działania laboratorium wpisują się w rosnące międzynarodowe zainteresowanie tematyką AI Safety oraz potrzebę budowy wiarygodnych mechanizmów oceny nowoczesnych systemów sztucznej inteligencji.

Międzynarodowa współpraca

Eksperci laboratorium aktywnie uczestniczą w międzynarodowych inicjatywach dotyczących bezpieczeństwa AI. Dr inż. Sebastian Cygert został powołany do panelu naukowego EU AI Office przy Komisji Europejskiej, wspierającego rozwój regulacji oraz nadzoru nad najbardziej zaawansowanymi systemami sztucznej inteligencji.

Laboratorium rozwija również współpracę z zagranicznymi ośrodkami badawczymi, uczestniczy w międzynarodowych programach, takich jak MATS Program, oraz współpracuje z uczelniami, m.in. New York University i środowiskiem ELLIS.

Kroki milowe w rozwoju Centrum Cyberbezpieczeństwa NASK

Laboratorium AITAS stanowi kolejny etap rozwoju Centrum Cyberbezpieczeństwa NASK, którego realizacja jest coraz bliżej. W maju instytut otrzymał pozwolenie na budowę. Decyzja to kamień milowy w projekcie CCN, która kończy fazę przygotowawczą projektu. To oznacza, że NASK przechodzi do etapu realizacji robót budowlanych.

W ramach Centrum Cyberbezpieczeństwa NASK powstają m.in.:

• Krajowe Centrum Odzyskiwania Danych (KCOD);
• Krajowe Centrum Operacyjne Cyberbezpieczeństwa (KCOC);
• Modelowy Ośrodek treningowo – szkoleniowy w obszarze Cyberbezpieczeństwa (OSC);
• Laboratorium Fuzzingu i Badania Złośliwego Oprogramowania (FUMAL);
• Krajowe Centrum Wsparcia Security dla JST (KCWS);
• Ośrodek Modelowania Certyfikacji Cyberbezpieczeństwa (OMCC).

– To jest ogromny projekt, ale mam na myśli nie tylko sam budynek. Centrum Cyberbezpieczeństwa NASK to choćby szkolenia dla samorządowców z cyberbezpieczeństwa czy centra odzyskiwania danych. Te laboratoria i centra już funkcjonują w ramach NASK, ale potrzebna nam większa skala. Bo trzeba mieć świadomość, że na przykład macierz dyskowa waży kilkaset kilogramów i żeby przeanalizować zawarte w niej dane, należy mieć odpowiednie możliwości i sprzęt, żeby ją przetransportować i umieścić w danym miejscu – wyjaśnia dyrektor NASK.

Projekt CCN jest dofinansowany ze środków Europejskiego Funduszu Rozwoju Regionalnego oraz ze środków Budżetu Państwa w ramach Programu Fundusze Europejskie na Rozwój Cyfrowy 2021-2027.