AI Act: Nowy obowiązek wyraźnego oznaczania treści generowanych przez AI

NASK poinformował o konieczności oznaczania treści wygenerowanych przez sztuczną inteligencję. Przepisy unijnego AI Act zaczęły obowiązywać od 2 sierpnia 2026 r. Do obowiązków przedstawicieli firm, mediów twórców internetowych i organizacji wykorzystujące sztuczną inteligencję. Będą musieli informować użytkowników o kontakcie z chatbotem. Pojawią się też nowe obowiązki dotyczące deepfake’ów.

Celem unijnego rozporządzenia jest zapewnienie, że sztuczna inteligencja jest rozwijana i wykorzystywana w sposób bezpieczny, przejrzysty i zgodny z prawami obywateli.

Źródło: NASK (materiały prasowe)

– Przepisy są wdrażane etapami. Od 2 sierpnia zaczną obowiązywać kolejne regulacje, w tym te dotyczące przejrzystości korzystania ze sztucznej inteligencji, a także rozpocznie się ich egzekwowanie. Nowe regulacje będą miały znaczenie nie tylko dla dostawców systemów AI, ale również dla mediów, wydawców, influencerów, twórców internetowych oraz organizacji wykorzystujących generatywną AI do tworzenia treści – mówi Olga Zabolewicz, główna specjalistka ds. legislacji w NASK.

Uwaga! Rozmawiasz z AI

Nowe przepisy wymagają, aby użytkownik wiedział, kiedy komunikuje się z systemem opartym na sztucznej inteligencji. Dotyczy to m.in.:

• chatbotów obsługi klienta,
• voicebotów,
• wirtualnych asystentów,
• innych narzędzi prowadzących rozmowę z użytkownikiem.

Według rozporządzenia, informacja o wykorzystaniu AI powinna pojawić się najpóźniej przy pierwszej interakcji, chyba że wynika to z kontekstu. Choć obowiązek spoczywa na dostawcy systemu, firmy korzystające z takich rozwiązań powinny upewnić się, że użytkownicy rzeczywiście otrzymują taką informację.

Treści wygenerowane przez sztuczną inteligencję

Od sierpnia nowe obowiązki obejmą również osoby i organizacje korzystające z generatywnej AI.

Jeżeli AI wygenerowała lub w istotny sposób zmodyfikowała obraz, materiał audio lub wideo albo tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, odbiorca powinien zostać o tym jasno poinformowany.

Przepisy dotyczą m.in.:

• redakcji i dziennikarzy,
• influencerów i twórców internetowych,
• agencji marketingowych,
• działów komunikacji i PR,
• firm wykorzystujących AI do tworzenia treści.

– W praktyce wystarczy czytelne oznaczenie, np. „Treść wygenerowana przez sztuczną inteligencję” lub „Obraz wygenerowany przez AI” – podpowiada Olga Zabolewicz.

Obowiązek nie dotyczy osób wykorzystujących AI wyłącznie do celów prywatnych.

W przygotowanym przez ekspertów NASK przewodniku „Masz wpływ. Przewodnik po cyberbezpieczeństwie dla twórców cyfrowych” rekomendowana jest zasada ostrożności: jeżeli istnieją wątpliwości, czy dana treść utworzona lub współtworzona z wykorzystaniem sztucznej inteligencji powinna zostać oznaczona, warto takie oznaczenie zastosować.

Przepisy te nie mają zastosowania, gdy AI pełni jedynie funkcję pomocniczą, np. poprawia jakość obrazu, dźwięku lub tekstu, nie tworząc nowych treści.

Szczególne obowiązki dotyczą materiałów typu deepfake – takie treści powinny być wyraźnie oznaczone jako wygenerowane lub zmanipulowane przez AI. Wyjątek stanowią materiały o charakterze artystycznym, satyrycznym lub fikcyjnym – w ich przypadku wystarczy poinformowanie o wykorzystaniu AI w sposób, który nie utrudnia odbioru utworu.

Sankcje

Za naruszenie obowiązków dotyczących przejrzystości grożą wysokie kary administracyjne – do 15 mln EUR lub do 3% całkowitego światowego rocznego obrotu przedsiębiorstwa z poprzedniego roku, w zależności od tego, która kwota jest wyższa.

Wysokość kary będzie zależała m.in. od charakteru naruszenia, czasu jego trwania i działań naprawczych. Niezależnie od AI Act niewłaściwe informowanie odbiorców o wykorzystaniu AI może naruszać również przepisy dotyczące ochrony konsumentów.

Komisja nadzorująca AI

Od 2 sierpnia 2026 r. kraje UE powinny wyznaczyć organy odpowiedzialne za nadzorowanie przestrzegania AI Act, przyjmowanie skarg oraz nakładanie kar. Polska ustawa o systemach sztucznej inteligencji zakłada, że funkcję tę będzie pełnić Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji (KRiBSI).

Źródło: NASK