Stworzeniem – przy pomocy sztucznej inteligencji – godnego zaufania, bezpiecznego narzędzia, będzie się zajmował międzynarodowy zespół Centrum Wiarygodnej Sztucznej Inteligencji, otwarte w zeszłym tygodniu na Politechnice Warszawskiej.

Źródło: Politechnika Warszawska – Centrum Wiarygodnej Sztucznej Inteligencji na PW zainaugurowało swoją działalność

Dyrektor Centrum Współpracy Międzynarodowej Politechniki Warszawskiej Grzegorz Robak powiedział podczas inauguracji, że centrum zostało utworzone, ponieważ szybki rozwój technik sztucznej inteligencji nie szedł dotąd w parze z rozwojem technologii związanych z jej bezpieczeństwem.

— Misją centrum jest pomoc w zrozumieniu, jak tworzyć systemy sztucznej inteligencji, które są skuteczne, przejrzyste i weryfikowalne — wyjaśnił dyrektor.

CCAI pomocne w rozwoju, uwierzytelnianiu i weryfikacji modeli AI

Centrum Wiarygodnej Sztucznej Inteligencji (Centre for Credible AI – CCAI) będzie rozwijać nowe metody wieloetapowego wyjaśniania i walidacji modeli AI. W efekcie mają powstać służące temu narzędzia i schemat kształcenia specjalistów umiejących projektować godne zaufania systemy sztucznej inteligencji.

CCAI powstało dzięki prawie 30 mln PLN z programu Fundusze Europejskie dla Nowoczesnej Gospodarki (FENG), przyznanych przez Fundację na rzecz Nauki Polskiej (FNP).

—  Mam szczerą nadzieję, że ta inwestycja przyniesie korzyści nie tylko uczelni, ale także społeczeństwu —  stwierdził prof. Krzysztof Pyrć, prezes zarządu FNP, podczas otwarcia CCAI.

W rozmowie z PAP prof. dodał, że nowy ośrodek jest jednym z powstających dzięki FNP Centrów Doskonałości .

—Te międzynarodowe agendy badawcze mają wynosić naukę na wyższy poziom, skupiać doskonałych naukowców i budować doskonałe otoczenie naukowo-gospodarcze. Mają zbliżać naukę do społeczeństwa i biznesu, tworząc wartość, która później będzie przekładała się na jakość życia i konkurencyjność naszej gospodarki — podkreślił szef FNP.

Zauważył, że niewiarygodna AI, wykorzystywana na przykład w medycynie albo wojskowości, jest poważnym zagrożeniem, stąd konieczność prac nad weryfikowalnymi i godnymi zaufania rozwiązaniami.

Cztery grupy badawcze

Dyrektor CCAI prof. dr hab. inż. Przemysław Biecek poinformował w rozmowie z PAP, że w centrum działają cztery grupy badawcze:

• interakcja AI z człowiekiem: analiza algorytmów wykorzystywanych przez platformy społecznościowe;
• prawa fizyczne, bo – zdaniem naukowca – modele AI często nie rozumieją fizyki i świata rzeczywistego;
• medycyna;
• fundamenty matematyczne AI.

— Będzie to więc interdyscyplinarna przygoda — ocenił prof. Biecek.

Przyznał, że prace nad wiarygodną sztuczną inteligencją są trudniejsze niż tworzenie standardowych modeli AI.

— Trenowanie modeli AI jest relatywnie proste. Stawia się pewną funkcję celu, resztę robi komputer. Trzeba po prostu mieć dużo danych i mocy obliczeniowej. Ale okazuje się, że wiele z tych modeli uczy się niepoprawnych zachowań. Szukanie zachowań poprawnych to prawdziwa intelektualna zagadka, bardzo ciekawa, ale też trudna— podsumował prof. Przemysław Biecek.

Partnerem CCAI jest Fraunhofer Heinrich-Hertz-Institut (HHI) w Berlinie – ośrodek specjalizujący się w telekomunikacji, przetwarzaniu sygnałów, wizji komputerowej i sztucznej inteligencji.

Źródło: PAP, Politechnika Warszawska