Kiedy pod koniec lat 90. XX. w zaczął upowszechniać się Internet nikt nie zastanawiał się, jakie będą tego skutki za dwadzieścia, czy trzydzieści lat. Wówczas zachłystywano się przede wszystkim zupełnie nowymi możliwościami jakie stwarzał. Zmieniła się forma komunikacji między ludźmi, zmieniły się formy pracy, otworzył się dostęp do publikacji. Obecnie na świecie funkcjonuje wiele firm, których pracownicy nigdy nie mieli okazji do bezpośredniego spotkania ze swoimi szefami,  a usługi można świadczyć klientom przebywającym na drugiej stronie kuli ziemskiej. Dziś, po niemal trzydziestu latach korzystania z Internetu można wyraźnie zaobserwować zmiany zachodzące w społeczeństwie. Dodajmy, że zmiany nie zawsze pozytywne i oczekiwane. Nie małą rolę odgrywają tu media społecznościowe. Do niedawna możliwość zachowywania anonimowości skutkowała falą hejtu wylewającego się do życia codziennego głównie za pośrednictwem Internetu. Chociaż podjęto próby walki z tym zjawiskiem, nadal występuje ono w bardzo szerokiej skali. Już wtedy, trzydzieści lat temu można było w zasadzie przewidzieć taki rozwój wydarzeń, gdyż podobne zachowania są w naturze ludzkiej.

Quo vadis AI?

Źródło Techspot

Dzisiaj stoimy wobec podobnego problemu, którego źródłem jest tym razem sztuczna inteligencja. Wkracza ona szeroką ławą do naszego życia i podobnie jak w początkach Internetu bardziej myślimy o jej świetlanej przyszłości, niż ewentualnych katastrofalnych skutkach, które może wywołać. Wprawdzie sceptycznych postaw jest znacznie więcej w odniesieniu do AI niż do Internetu w jego początkach, ale jak mówi jedno z podstawowych praw Murpchy’ego: „jeśli coś może pójść nie tak, to na pewno pójdzie”. Powodów do obaw mamy więc dużo i są to obawy ciężkiego gatunku. Pierwsze zajawki niepożądanych zjawisk już obserwujemy.

16 „rozbieranych” stron internetowych AI pozwanych za tworzenie fałszywych nagich zdjęć.

Strony były odwiedzane 200 milionów razy w ciągu pierwszych sześciu miesięcy 2024 r.

Jednym z najbardziej złowieszczych trendów, które pojawiły się w ostatnich latach w związku z rozwojem generowania obrazów przez sztuczną inteligencję, jest powstanie stron internetowych i aplikacji, które mogą „rozbierać” kobiety i dziewczęta. Miarka się jednak przebrała. Biuro prokuratora w San Francisco pozywa 16 z tych najczęściej odwiedzanych witryn w celu ich zamknięcia.

Pozew był pomysłem Yvonne Meré, pełniącej funkcję głównego zastępcy prokuratora miejskiego w San Francisco, która czytała o chłopcach używających aplikacji do „nagości”, aby zamienić zdjęcia swoich w pełni ubranych koleżanek z klasy w fałszywą pornografię. Jako matka 16-letniej dziewczynki, Meré chciała coś zrobić w tej sprawie, więc zebrała swoich współpracowników, aby przygotowali pozew mający na celu zamknięcie 16 najpopularniejszych stron internetowych z rozbieranymi zdjęciami, pisze New York Times.

W skardze, która została opublikowana z utajnionymi nazwami witryn, stwierdza się, że strony te były łącznie odwiedzane 200 milionów razy w ciągu pierwszych sześciu miesięcy 2024 roku. Jedna z tych rozbieranych witryn reklamuje się: „Wyobraź sobie marnowanie czasu na zabieranie jej na randki, kiedy możesz po prostu użyć [redacted website], aby zdobyć jej akty”.

Prokurator miejski David Chiu powiedział, że modele sztucznej inteligencji na tych stronach zostały przeszkolone przy użyciu prawdziwej pornografii i obrazów przedstawiających wykorzystywanie dzieci do tworzenia deepfake’ów. Dodał, że po rozpowszechnieniu obrazów prawie niemożliwe było stwierdzenie, która witryna je stworzyła.

Pozew twierdzi, że strony naruszają stanowe i federalne przepisy dotyczące pornografii, stanowe i federalne przepisy dotyczące pornografii dziecięcej oraz kalifornijskie prawo o nieuczciwej konkurencji.

– To śledztwo zaprowadziło nas do najciemniejszych zakątków Internetu i jestem absolutnie przerażony kobietami i dziewczętami, które musiały znosić ten wyzysk – powiedział Chiu na forum X. – To duży, wieloaspektowy problem, który my, jako społeczeństwo, musimy jak najszybciej rozwiązać.

Jest to pierwszy tego rodzaju pozew, w którym zarzuca się właścicielom i operatorom stron internetowych naruszenie przepisów CA i federalnych zakazujących pornografii deepfake, pornografii zemsty i pornografii dziecięcej.

Problem wykorzystywania sztucznej inteligencji do tworzenia nagich zdjęć ludzi bez ich zgody sięga daleko wstecz – w 2020 r. stwierdzono, że deepfake bot na Telegramie wykonał ponad 100 000 fałszywych nagich zdjęć kobiet na podstawie zdjęć z mediów społecznościowych.

Ostatnie postępy w generatywnej sztucznej inteligencji zaostrzyły kwestię deepfake, sprawiając, że obrazy wydają się jeszcze bardziej realistyczne. Zdjęcia Taylor Swift, które zostały udostępnione online w styczniu, doprowadziły do tego, że amerykańscy prawodawcy wezwali do podjęcia działań, a Google zakazał reklam deepfake porno i stron rozbieranych.

W nowym projekcie ustawy uwzględniono pociągnięcie podmiotów do odpowiedzialności za tworzenie bez zgody „cyfrowych replik” ludzi. Ustawa Nurture Originals, Foster Art, and Keep Entertainment Safe Act z 2024 r. (NO FAKES Act) będzie nakładać na osoby fizyczne i firmy odpowiedzialność za szkody, jeśli tworzą, hostują lub udostępniają generowane przez sztuczną inteligencję dźwiękowe lub wizualne wizerunki osób.

Sądowe dowody wideo

Aż strach pomyśleć, jakie skutki mogłyby spowodować spreparowane materiały dowodowe użyte w rozprawach sądowych, czy nawet w ogólnoświatowej polityce. Na razie mówimy tylko o statycznych obrazach, ale ewolucja AI na pewno, nie ulega to wątpliwości, spowoduje, że generowanie spreparowanych materiałów video z syntetyzowanym dźwiękiem nie będzie już większym problemem. Obym się mylił.

Źródło: Rob Thubron – Techspot