NASK i OpenAI współpracują w obszarze bezpieczeństwa AI. Jedyna taka umowa w UE

Nowe zagrożenia wymagają wspólnego działania. NASK i OpenAI podpisały porozumienie o współpracy w zakresie badań nad bezpieczeństwem AI. Partnerstwo połączy wiedzę i doświadczenie obu organizacji, by szybciej identyfikować zagrożenia związane z tą technologią i lepiej się przed nimi chronić. Pozwoli też skuteczniej weryfikować, jak zaawansowane metody AI mogą pomóc zwiększyć bezpieczeństwo i odporność usług cyfrowych.

Sztuczna inteligencja ma coraz większe możliwości. Twórcy technologii i publiczne instytucje badawcze z różnych krajów muszą za nimi nadążać, dlatego często łączą siły, by lepiej rozumieć ryzyko i opracowywać skuteczniejsze zabezpieczenia. Taka współpraca już przynosi efekty.

Wspólne działania OpenAI z amerykańskim Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), brytyjskim AI Security Institute (AISI) i innymi publicznymi instytucjami badawczymi pomogły wykryć i usunąć luki w agentach i modelach AI. Przyczyniły się też do poprawy bezpieczeństwa najbardziej zaawansowanych modeli. Teraz do tego grona dołącza Polska.

Jedyna taka umowa w Unii Europejskiej

Po stronie NASK współpracę poprowadzi Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji, który pełni funkcję polskiego Instytutu Bezpieczeństwa Sztucznej Inteligencji (AISI). Wspólnie z OpenAI będzie badać bezpieczeństwo coraz bardziej zaawansowanych systemów AI. Przeprowadzane analizy pomogą lepiej oceniać te systemy, wykrywać ich słabe punkty i wzmacniać zabezpieczenia.

– Bezpieczeństwa AI nie da się zapewnić w pojedynkę. Dlatego współpraca z OpenAI to ważny krok dla NASK i naszego Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji. Tym bardziej, że to jedyna taka umowa w Unii Europejskiej, co jest dla nas ważnym wyróżnieniem i docenieniem kompetencji naszych specjalistów. Badamy nowe zagrożenia, rozwijamy zabezpieczenia i pracujemy nad wykrywaniem treści generowanych przez AI. Sprawdzamy też, jak sztuczna inteligencja może służyć do szkodliwych działań i jak te zagrożenia różnią się w zależności od języka rozmowy. Współpraca z OpenAI pozwoli nam połączyć wiedzę badawczą z doświadczeniem w rozwoju najbardziej zaawansowanych modeli. Dzięki niej będziemy mogli wcześniej rozpoznawać zagrożenia i skuteczniej im przeciwdziałać. Tak buduje się również społeczne zaufanie do AI – poprzez konkretne działania na rzecz jej bezpieczeństwa – powiedział Radosław Nielek, dyrektor instytutu.

Wykorzystanie talentów polskich naukowców

– Polska ma znakomitych naukowców i wyjątkowe talenty technologiczne. Mają one swój udział także w badaniach prowadzonych w OpenAI. Sztuczna inteligencja ma coraz większe możliwości, dlatego potrzebujemy również spojrzenia z zewnątrz. Pomaga nam ono weryfikować nasze założenia, testować systemy i wzmacniać zabezpieczenia. Dzięki porozumieniu z NASK możemy robić to wspólnie i korzystać z polskiego dorobku badawczego w międzynarodowych pracach nad bezpieczeństwem AI – dodał Tom Duff Gordon, wiceprezes i szef polityki publicznej na region EMEA. –

Bezpieczna AI wymaga wspólnych zasad

OpenAI zaapelowało o współpracę Stanów Zjednoczonych z innymi krajami nad międzynarodowymi standardami technicznymi dla najbardziej zaawansowanych systemów AI. W ich opracowaniu mają pomóc instytuty bezpieczeństwa AI i organizacje normalizacyjne. Wspólne zasady oceny możliwości AI, analizy ryzyka, testowania zabezpieczeń i zgłaszania incydentów ułatwią krajom porównywanie wyników i reagowanie na zagrożenia ponad granicami.

NASK wnosi do tych prac polską wiedzę z badań nad bezpieczeństwem AI, którą na co dzień wykorzystuje do ochrony usług publicznych i polskiej przestrzeni informacyjnej. Udział krajowych partnerów pomaga tworzyć standardy, które odpowiadają na konkretne zagrożenia i uwzględniają lokalne warunki korzystania z AI.

Współpraca, która już przynosi efekty

Podpisane właśnie porozumienie to kolejny etap współpracy NASK z OpenAI. W lipcu zespół CERT Polska, który działa w strukturach instytutu, otrzymał w programie Daybreak dostęp do zaawansowanych modeli OpenAI w zakresie cyberbezpieczeństwa. CERT Polska z ich pomocą wykrył sześć podatności w systemie MikroTik RouterOS. Połączenie części z nich pozwalało przejąć kontrolę nad urządzeniem bez logowania. Producent udostępnił poprawki, a zespół potwierdził, że skutecznie blokują one wykryte metody ataku.