Prestiżowy grant z programu Horyzont Europa! Badania nad fundamentami bezpiecznej AI na czterech kontynentach

Naukowcy Politechniki Krakowskiej staną na czele międzynarodowego konsorcjum, które uzyskało właśnie wsparcie finansowe z prestiżowego programu Horyzont Europa w ramach konkursu „Marie Skłodowska-Curie Actions„.

Badacze z 4 kontynentów i 9 państw w projekcie pn. HyperXAI skupią się na opracowaniu teoretycznych ram wyjaśnialnej sztucznej inteligencji (XAI). Istotą nowatorskich badań, które koordynować będą naukowcy z Wydziału Informatyki i Matematyki PK, jest odejście od standardowych modeli operujących w dziedzinie liczb rzeczywistych na rzecz algebr wyższych rzędów. Badania mogą wyznaczyć kierunki rozwoju nowych technologii m.in. dla medycyny, przemysłu, inżynierii materiałów czy energetyki i wpłynąć na to, by przyszłe zastosowania AI były bezpieczne i społecznie akceptowalne.

Prof. Marcin Ostoja-Starzewski, dr Agnieszka Niemczynowicz i dr Radosław Kycia z Wydziału Informatyki i Matematyki PK będą badać fundamenty sztucznej inteligencji | źródło: Politechnika Krakowska

Przedsięwzięcie pn. „Hiperzespolona wyjaśnialna AI: matematyczne podstawy wiarygodnych modeli sztucznej inteligencji” (Hypercomplex Explainable AI: Mathematical Foundations for Trustworthy Models”, HyperXAI) zdobyło uznanie ekspertów Komisji Europejskiej, uzyskując grant w wys. ponad 870 tys. EUR i ocenę 94,8%. Tak wysoki wynik plasuje krakowską politechnikę w czołówce jednostek koordynujących kluczowe badania nad transparentnością algorytmów uczenia maszynowego. Przedsięwzięcie, przygotowane i koordynowane przez dr Agnieszkę Niemczynowicz, realizowane jest w ramach prac grupy badawczej Mathematics for Computer Science and Applications (M4CSA), kierowanej przez dr. Radosława Kycię. W skład zespołu grantowego wchodzą dr Agnieszka Niemczynowicz, dr Radosław Kycia oraz prof. Marcin Ostoja-Starzewski z Katedry Informatyki Wydziału Informatyki i Matematyki PK.

Nowy paradygmat: Sieci hiperzespolone

Sztuczna inteligencja coraz częściej wspiera decyzje w obszarach o wysokiej odpowiedzialności, takich jak medycyna, energetyka czy systemy bezpieczeństwa. Mimo rosnącej skuteczności algorytmów, ich działanie w wielu przypadkach pozostaje nieprzejrzyste. W odpowiedzi na ten problem powstały metody wyjaśniania klasycznych, rzeczywistych modeli AI, które – choć niedoskonałe – umożliwiają częściowe zrozumienie procesu decyzyjnego.

– Hiperzespolone sieci neuronowe znajdują się jednak poza tym nurtem rozwoju. Są one jednym z najbardziej innowacyjnych kierunków współczesnej sztucznej inteligencji, ponieważ wykorzystują zaawansowane struktury matematyczne, takie jak liczby zespolone, kwaterniony czy algebry Clifforda. Dzięki temu potrafią w sposób naturalny modelować relacje wielowymiarowe i geometryczne, często przy większej efektywności obliczeniowej niż klasyczne sieci neuronowe. Jednocześnie dla tych modeli nie istnieją dziś ugruntowane, dedykowane narzędzia ani formalne metryki wyjaśnialności – powiedziała dr Agnieszka Niemczynowicz z WIiM PK, liderka projektu.

Brak teoretycznych ram wyjaśnialności sprawia, że hiperzespolone modele – mimo swojego potencjału – pozostają trudne do kontrolowania i weryfikacji. Opracowanie ram oznaczałoby więc przejście od intuicyjnych, fragmentarycznych interpretacji do formalnych, matematycznie zdefiniowanych wyjaśnień, które można analizować, porównywać i oceniać w sposób obiektywny.

– Nasz projekt HyperXAI odpowiada na tę lukę, rozwijając wyjaśnialność dokładnie na styku matematyki i informatyki. Efektem naszych badań będzie nie tylko lepsze zrozumienie działania zaawansowanych modeli AI, ale także realne wzmocnienie kontroli człowieka nad sztuczną inteligencją. Wyjaśnialność przestaje być dodatkiem, a staje się integralnym elementem projektowania modeli – fundamentem dla bezpiecznej, odpowiedzialnej i innowacyjnej sztucznej inteligencji nowej generacji – podkreśliła Agnieszka Niemczynowicz.

Od badań podstawowych do praktycznych zastosowań

Badania prowadzone w ramach projektu HyperXAI mają charakter podstawowy – ich celem jest stworzenie solidnych, matematycznych fundamentów wyjaśnialności dla nowej generacji modeli sztucznej inteligencji. Tego typu badania, choć nie prowadzą bezpośrednio do gotowych produktów, to wyznaczają kierunki rozwoju technologii w dłuższej perspektywie i decydują o tym, czy przyszłe zastosowania AI będą bezpieczne, wiarygodne i społecznie akceptowalne.

Rezultaty projektu tworzą podstawę do odpowiedzialnego wykorzystania zaawansowanych modeli, w szczególności hiperzespolonych sieci neuronowych, w obszarach, w których sztuczna inteligencja analizuje złożone, wielowymiarowe dane.

– Dotyczy to m.in. obrazowania medycznego i analizy sygnałów biomedycznych, gdzie kluczowe znaczenie ma możliwość zrozumienia, które cechy danych wpływają na decyzje algorytmu. Podobne wymagania pojawiają się w inżynierii materiałowej, monitorowaniu procesów przemysłowych czy systemach energetycznych, gdzie AI wspiera wykrywanie anomalii, ocenę jakości lub prognozowanie, a jej decyzje muszą być stabilne i możliwe do zweryfikowania przez człowieka – zaznaczyła dr Agnieszka Niemczynowicz.

Istotnym efektem badań będzie także rozwój nowych narzędzi naukowych:

• metod analizy,
• metryk jakości wyjaśnień,
• protokołów ewaluacji,

które umożliwią systematyczne porównywanie modeli i ich interpretowalności. Dzięki temu sztuczna inteligencja przestaje być „czarną skrzynką”, a staje się obiektem rzetelnej analizy naukowej. Otwarty charakter tworzonych narzędzi, zbiorów danych i oprogramowania sprawi, że będą one mogły być wykorzystywane i rozwijane przez inne zespoły badawcze w Europie i na świecie.

Wyniki projektu mogą w przyszłości wspierać rozwój standardów wyjaśnialności i transparentności AI, zgodnych z europejskimi regulacjami i zasadami odpowiedzialnego wykorzystania sztucznej inteligencji. W tym sensie HyperXAI buduje zaplecze wiedzy, metod i narzędzi, bez którego długofalowe zastosowania AI w medycynie, inżynierii czy przemyśle nie byłyby możliwe.

Globalna współpraca naukowa w interdyscyplinarnym wydaniu

Projekt HyperXAI będzie realizowany przez interdyscyplinarne konsorcjum, kierowane przez naukowców Politechniki Krakowskiej, a obejmujące ośrodki z czterech kontynentów i 9 krajów: Polski, Hiszpanii, Czech, Łotwy, Azerbejdżanu, Turcji, Iraku, Korei Południowej i Brazylii.

– Problem wyjaśnialności sztucznej inteligencji – zwłaszcza w przypadku hiperzespolonych sieci neuronowych – nie mieści się w granicach jednej dyscypliny naukowej. Zrozumienie działania takich modeli wymaga jednoczesnego połączenia zaawansowanej matematyki, informatyki oraz nauk inżynieryjnych – powiedział dr Radosław Kycia.

W badaniach biorą udział naukowcy zajmujący się matematyką czystą i stosowaną, w szczególności algebrą, analizą matematyczną, topologią, matematyką rozmytą oraz teorią struktur hiperzespolonych. To właśnie matematyka dostarcza języka i formalnych narzędzi pozwalających opisać, czym w ogóle jest „wyjaśnienie” w modelach opartych na hiperzespolonych strukturach matematycznych. Bez takiego formalnego fundamentu wyjaśnialność pozostaje intuicyjna i trudna do weryfikacji.

Równocześnie kluczową rolę odgrywa informatyka, a zwłaszcza sztuczna inteligencja i uczenie maszynowe.

– Informatycy projektują architektury sieci neuronowych, implementują algorytmy wyjaśnialności oraz testują je na danych syntetycznych i rzeczywistych. Ich zadaniem jest przełożenie pojęć matematycznych na działające metody obliczeniowe i sprawdzenie, czy zaproponowane wyjaśnienia są stabilne, porównywalne i użyteczne – dodała dr Niemczynowicz.

Trzecim filarem projektu są nauki inżynieryjne, w tym inżynieria materiałowa i obszary związane z analizą danych technicznych.

– To one dostarczają realistycznych kontekstów badawczych, w których wyjaśnialność nie jest abstrakcyjnym pojęciem, lecz realną potrzebą – na przykład przy analizie obrazów materiałowych, detekcji defektów czy monitorowaniu procesów. Dzięki temu rozwijane metody są od początku testowane w warunkach, które odzwierciedlają rzeczywiste wyzwania naukowe i technologiczne – zaznaczył dr Kycia.

Według prof. Marcin Ostoja-Starzewski interdyscyplinarność nie jest dodatkiem, lecz warunkiem powodzenia projektu:

– Matematyka bez informatyki pozostałaby teorią, informatyka bez matematyki – zbiorem heurystyk, a oba te obszary bez kontaktu z inżynierią nie dawałyby narzędzi możliwych do odpowiedzialnego wykorzystania – stwierdził.

HyperXAI łączy te perspektywy w jeden spójny proces badawczy, w którym teoria, algorytmy i kontekst aplikacyjny rozwijają się równolegle i wzajemnie się uzupełniają.

Aplikowanie o prestiżowe granty europejskie się opłaca

Europejski grant, którym kierować będzie Politechnika Krakowska i naukowcy z Wydziału Informatyki i Matematyki PK, uzyskał finansowanie w ramach programu „Maria Skłodowska-Curie Actions Staff Exchanges”. Jest on częścią prestiżowego programu Horyzont Europa, największego i najważniejszego programu finansowania badań i innowacji przez Unię Europejską.

– Akcje Marii Skłodowskiej-Curie zajmują w strukturze programu Horyzont Europa szczególne miejsce, ponieważ są umiejscowione w Filarze I: Doskonała baza naukowa (Excellent Science) razem z grantami ERC i infrastrukturami badawczymi. Filar I wspiera naukę na najwyższym europejskim i światowym poziomie – podkreślił Sebastian Bąk, kierownik Centrum Wsparcia Projektów (CWP) Politechniki Krakowskiej, które pomaga naukowcom uczelni w przygotowaniu i realizacji wniosków grantowych z europejskich i krajowych programów.

Jak informuje Komisja Europejska, w rozstrzygniętym właśnie konkursie MSCA Staff Exchanges 2025 (HORIZON-MSCA-2025-SE-01) złożono 363 wnioski, a do finansowania rekomendowano 81 projektów. Będą realizowane przez międzynarodowe konsorcja z udziałem podmiotów z 95 krajów. Granty uzyskały 23 jednostki z Polski, które będą uczestniczyć w roli koordynatora lub partnera w łącznie 13 projektach MSCA Staff Exchanges 2025. Trzy z nich są koordynowane przez polskie uczelnie, w tym PK.

Projekt „Hypercomplex Explainable AI: Mathematical Foundations for Trustworthy Models” jest zaawansowaną kontynuacją badań i interdyscyplinarnej współpracy politechnicznych naukowców z grupy M4CSA, realizowanych wcześniej m.in. w ramach projektu „Partnerstwa strategiczne na rzecz matematycznych aspektów zespolonych, hiperzespolonych i rozmytych sieci neuronowych” (finansowanego z NAWA).

Sukcesy grantowe badaczy PK zachęcają do odważnego aplikowania o europejskie środki na badania. Kolejna edycja MSCA SE jest już ogłoszona.

– Bardzo zachęcamy wszystkich zainteresowanych do kontaktu z naszym Centrum, udzielimy wszechstronnego wsparcia na każdym etapie przygotowania i realizacji projektu – zaprosił Sebastian Bąk z CWP PK.

„Maria Skłodowska-Curie Actions” oferuje 5 programów dla instytucji i naukowców indywidualnych. Wspiera naukowców na różnych etapach kariery zawodowej, finansując prace badawcze oraz szkolenia prowadzone zarówno w Europie, jak i krajach pozaeuropejskich. Umożliwia instytucjom biorącym udział w projektach MSCA rozwój ich kadry poprzez zatrudnianie badaczy z zagranicy i udział pracowników w międzynarodowych projektach badawczych i szkoleniowych.

Zespoły badawcze uczestniczące w projekcie HyperXAI

• Politechnika Krakowska im. Tadeusza Kościuszki (Polska), koordynator projektu

Koordynator zespołu po stronie uczelni: Agnieszka Niemczynowicz

Zespół specjalizuje się w sztucznej inteligencji i głębokim uczeniu, ze szczególnym uwzględnieniem projektowania hiperzespolonych sieci neuronowych oraz analizy ich własności. Odpowiada za rozwój metod wyjaśnialności oraz koordynację badań i działań upowszechniających.

• Universidade Estadual de Campinas (Brazylia)

Koordynator zespołu: Marcos Valle

Zespół o silnym dorobku w obszarze inteligencji obliczeniowej i przetwarzania obrazów. Koncentruje się na matematycznych modelach i obliczeniowych ramach dla złożonych problemów, w tym hiperzespolonych sieci neuronowych.

• Universidad de Cádiz (Hiszpania)

Koordynator zespołu: Jesús Medina

Zespół posiada duże doświadczenie w rozwijaniu zaawansowanych narzędzi matematycznych do analizy, przetwarzania i predykcji danych, wspierających formalne podstawy wyjaśnialności.

• University of Málaga (Hiszpania)

Koordynator zespołu po stronie instytucji: Manuel Ojeda-Aciego

Zespół specjalizuje się w logice rozmytej, formalnej analizie pojęć oraz algebraicznych metodach w informatyce, wnosząc kluczowy wkład w logiczne i algebraiczne aspekty wyjaśnialności.

• University of Ostrava (Czechy)

Koordynator zespołu: Irina Perfilieva

Zespół znany z pionierskich prac nad teorią transformaty rozmytej, szeroko stosowanej w analizie sygnałów, obrazów i szeregów czasowych. W projekcie odpowiada za matematyczne podstawy wyjaśnialności i ich walidację.

• Baku State University (Azerbejdżan)

Koordynator zespołu: Sadi Bayramov

Zespół zajmuje się topologią, algebrą rozmytą i teorią zbiorów miękkich, wzmacniając teoretyczne podstawy interpretowalności modeli hiperzespolonych.

• Kocaeli University (Turcja)

Koordynator zespołu: Arzu Erdem Coşkun

Zespół specjalizuje się w problemach odwrotnych, topologii algebraicznej i strukturach miękkich, rozwijając formalne modele wyjaśnialności oparte na strukturach topologicznych.

• Igdir University (Turcja)

Koordynator zespołu po stronie instytucji: Faruk Özger

Zespół koncentruje się na teorii aproksymacji i modelowaniu matematycznym, wspierając optymalizację architektur i mechanizmów wyjaśnialności.

• University of Latvia (Łotwa)

Koordynator zespołu po stronie instytucji: Olga Grigorenko

Zespół bada teoretyczne aspekty struktur rozmytych i ich zastosowania w modelowaniu niepewności oraz interpretowalności modeli AI.

• Hanyang University Industry – University Cooperation Foundation (Korea Południowa)

Koordynator zespołu: Kyungsik Han

Zespół specjalizuje się w sztucznej inteligencji, analizie dużych zbiorów danych i obliczeniach wysokowydajnych, umożliwiając walidację metod na dużą skalę.

• University of Kufa (Irak)

Koordynator zespołu: Ali Shukur

Zespół zajmuje się matematyką stosowaną, teorią operatorów i analizą spektralną, wspierając badania nad dynamiką modeli i metrykami wyjaśnialności.

• Ankara University (Turcja)

Koordynator zespołu: Canay Aykol Kocakuşaklı

Zespół koncentruje się na analizie harmonicznej i funkcjonalnej, dostarczając narzędzi do matematycznej analizy transformacji hiperzespolonych.

Źródło: Politechnika Krakowska