Unia Europejska doszła do wstępnego porozumienia w sprawie rozporządzenia AI Act. Jest to pierwsze na świecie kompleksowe prawo regulujące stosowanie systemów sztucznej inteligencji. Zawiera ono m.in. szereg zagadnień, w których użycie AI będzie niedozwolone, uprawnienia organów ścigania, a także kary za złamanie ustawy.

Sztuczna inteligencja jest technologią, która zdecydowanie zmieni przyszłość świata. Ma bardzo duży potencjał polepszyć nasze życie w wielu obszarach, takich jak opieka medyczna, transport, organizacja produkcji czy też dystrybucja energii. Jednak z tą technologią wiąże się również wiele zagrożeń związanych z profilowaniem i prywatnością, zwłaszcza w dobie mediów społecznościowych, gdy tak wiele informacji o każdym z nas jest dostępnych publicznie.

Zabronione zastosowania sztucznej inteligencji

AI Act wprowadza cztery kategorie systemów AI. Wśród nich wyróżniamy zastosowania, które w myśl prawa są absolutnie niedopuszczalne. Należą do nich:

• Systemy rozpoznające emocje w pracy i edukacji,
• Systemy biometryczne kategoryzujące osoby fizyczne według chronionych cech i atrybutów,
• Scoring społeczny,
• Manipulowanie zachowaniem ludzkim poprzez wykorzystanie technik podprogrowych,
• Prognozowanie ryzyka popełnienia przestępstwa.

Za stworzenie systemu wykorzystującego te techniki grożą dotkliwe kary. Maksymalną granicą jest 7% światowego obrotu handlowego lub 35 mln euro.

Systemy wysokiego ryzyka

Ustawa definiuje także systemy wysokiego ryzyka. Można je stosować i projektować, ale tylko pod pewnymi warunkami i pod ścisłą kontrolą. Są to np.:

• Obsługa i zarządzanie infrastrukturą,
• Usługi medyczne,
• Pojazdy autonomiczne,
• Służby porządkowe,
• Interpretacja prawa i wyroki sądowe,
• Zarządzanie pracownikami,
• Dostęp do usług publicznych i prywatnych,
• Edukacja.

W takich przypadkach niezbędne będzie dostarczenie dokładnej dokumentacji opisującej w sposób precyzyjny działanie systemu. Dokumentacja ta będzie podlegała kontroli odpowiednich organów. Za niedopełnienie obowiązków wynikających z AI Act przewidziana jest kara do wysokości 3% światowego obrotu lub 15 mln euro. Z kolei za dostarczenie nieprawdziwych informacji w dokumentacji przewidywana jest kara do wysokości 1,5% obrotu światowego lub 7,5 mln euro.

Znaczenie AI Act

AI Act jest procedowany od kwietnia 2021. 9 grudnia 2023 doszło do wstępnego porozumienia pomiędzy Radą Europejską i Parlamentem Europejskim. Do ostatecznego uprawomocnienia się aktu ma dojść w styczniu 2024 roku, kiedy to odbędzie się ostateczne głosowanie w Parlamencie Europejskim. Vacatio legis ma trwać od 6 miesięcy w najważniejszych kwestiach (zwłaszcza systemów zakazanych) do 2 lat. Będzie obowiązywać wszystkie systemy działające na rynku unijnym.

Specjaliści już teraz wskazują na pewne niedoskonałości prawa, np. związane z praktycznym brakiem uwzględnienia systemów militarnych. Tym niemniej jest to bardzo ważny krok w celu regulacji technologii sztucznej inteligencji. Podobne akty prawne przygotowują już rządy USA i Chin.