Koniec ery nieuchwytnych algorytmów – projekt ustawy o systemach AI przyjęty przez Radę Ministrów

Przepisy ustawy o systemach sztucznej inteligencji wzmacniają bezpieczeństwo obywateli i ustanawiają skuteczny nadzór nad AI, a dla przedsiębiorców tworzą stabilne i sprzyjające warunki do rozwoju innowacji. Ustawa zapewnia stosowanie w polskim prawie przepisów unijnego rozporządzenia o sztucznej inteligencji AI Act. Rada Ministrów przyjęła projekt, który teraz trafi do dalszych prac w Sejmie.

– Przepisy ustawy o systemach sztucznej inteligencji wprowadzają procedury chroniące użytkowników, a równocześnie zapewniają bezpieczne warunki do rozwoju nowych technologii. Nowe prawo przyczyni się także do większego zrozumienia sztucznej inteligencji – po to, aby przestała być postrzegana jako zbiór niezrozumiałych algorytmów – powiedział wicepremier, minister cyfryzacji Krzysztof Gawkowski.

– Ustawa o AI to przyspieszenie rozwoju sztucznej inteligencji godnej zaufania. Tworzymy piaskownice regulacyjne, w których przedsiębiorcy będą mogli testować swoje rozwiązania w przyjaznym środowisku i przy wsparciu ekspertów. Wprowadzamy elastyczne, nowoczesne przepisy – bez zbędnych formalności, za to z pełnym poszanowaniem bezpieczeństwa oraz praw użytkowników – dodał wiceminister cyfryzacji Dariusz Standerski.

Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – nadzór nad stosowaniem przepisów i wsparcie rozwoju AI

Funkcję krajowego organu odpowiedzialnego za nadzór nad stosowaniem przepisów dotyczących AI będzie pełnić Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). Komisja zapewni obywatelom i państwu skuteczne narzędzia wpływu na rozwój i wykorzystanie AI.

W zakresie nadzoru nad stosowaniem przepisów KRiBSI będzie m.in.:

• prowadzić postępowania administracyjne;
• wydawać decyzje;
• nakładać sankcje administracyjne za naruszenie przepisów;
• koordynować nadzór nad systemami sztucznej inteligencji w Polsce.

Kolejnym obszarem działań Komisji będzie

• wspieranie konkurencyjności gospodarki;
• rozwój badań naukowych i zastosowań systemów sztucznej inteligencji.

Ponadto do zadań Komisji będzie należeć wspieranie rozwoju ekosystemu AI. W zakresie działań KRiBSI będzie więc tworzenie piaskownic regulacyjnych i zarządzanie nimi, prowadzenie działań edukacyjnych i informacyjnych. W tym celu Komisja będzie współpracować z organami nadzoru rynku innych państw, instytucjami Unii Europejskiej i organizacjami międzynarodowymi.

Wreszcie, istotnym elementem działalności Komisji będzie udział w kształtowaniu polityk publicznych w obszarze sztucznej inteligencji. KRiBSI będzie opiniować projekty aktów prawnych oraz dokumentów rządowych, a także wydawać opinie indywidualne w zakresie stosowania przepisów rozporządzenia AI Act.

Konkretne korzyści i możliwości dla obywateli

• Możliwość skarg i kontroli: obywatel zyska realny wpływ na to, jak działają systemy sztucznej inteligencji. Będzie mógł złożyć skargę do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, gdy uzna, że AI zadziałała nieprawidłowo.
  • Przykład: System AI banku odrzuca Twój wniosek, a Ty masz przekonanie, że decyzja była niesprawiedliwa lub dyskryminująca. Teraz możesz wysłać zgłoszenie do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zespół pracowników merytorycznych zajrzy „pod maskę” systemu i sprawdzi, czy wszystko odbyło się zgodnie z prawem.
• Ochrona praw obywatela: państwo będzie mogło zagwarantować obywatelowi bezpieczeństwo w sytuacji, gdy technologia wymknie się spod kontroli. Zgodnie z nowymi przepisami innowacja nie będzie mogła odbywać się kosztem ludzkiego zdrowia, życia czy praw podstawowych. Przepisy ustawy zapewniają mechanizmy stanowiące „bezpiecznik”, aby technologia służyła człowiekowi, a nie zagrażała.
  • Przykład: Na rynek trafia nowa aplikacja oparta na AI, która obiecuje rewolucję w diagnostyce zdrowia. Okazuje się jednak, że jej błędy mogą realnie komuś zaszkodzić. Komisja nie czeka latami na wyrok sądu. Jeśli ryzyko jest bezpośrednie, może wydać w trybie przyspieszonym, z rygorem natychmiastowej wykonalności, nakaz wycofania systemu z użytku.
• Jawność i dobre praktyki: obywatel będzie mógł dowiedzieć się, w jaki sposób dana organizacja postępuje z AI. Każdy będzie miał bowiem możliwość zapoznania się z treścią decyzji Komisji, wydanych na podstawie przepisów.

Dostępny będzie także wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary za naruszenie przepisów.

Do 31 marca każdego roku Komisja będzie publikowała informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców.

Głos obywatela w sercu technologii – Społeczna Rada ds. SI

Nadzór nad AI to sprawa nie tylko informatyków i urzędników, ale całego społeczeństwa. Dlatego przepisy ustawy o systemach sztucznej inteligencji zakładają, że powstanie Społeczna Rada ds. Sztucznej Inteligencji (SI). Będzie ona pełnić funkcję organu opiniodawczo-doradczego KRiBSI, przez który przechodzić będą ważne działania Komisji w zakresie AI. Dzięki temu możliwe będzie uwzględnienie różnorodnych perspektyw, interesów społecznych oraz gospodarczych w decyzjach Komisji. Jest to kluczowe w dynamicznie rozwijającej się dziedzinie AI.

Opinie Rady będą jawne. Każdy będzie mógł je sprawdzić w internecie.

Plany na najbliższe lata

Polska planuje nie tylko kupować technologię z zagranicy, ale chce ją tworzyć u siebie, w sposób etyczny i według najnowszych standardów.

Podmioty tworzące AI będą mogły korzystać z piaskownic regulacyjnych tworzonych przez KRiBSI. Możliwe będzie otrzymanie wsparcia w osiąganiu zgodności z przepisami lub zgody na odstępstwo od stosowania niektórych przepisów, w zakresie niezbędnym do realizacji projektu.

Będzie można też wystąpić do KRiBSI o wydanie opinii indywidualnych, w których otrzymają wiążące stanowisko Komisji w ich konkretnej sprawie. Zapewni ono przedsiębiorcom i innym podmiotom pewność co do legalności planowanych lub realizowanych działań.

Dodatkowo, dzięki nowym przepisom, Ministerstwo Cyfryzacji będzie mogło pomóc w finansowaniu badań nad sztuczną inteligencją, która uwzględnia polski kontekst.

Źródło: Ministerstwo Cyfryzacji