Rozwój AI budzi obawy. Trwa debata o kontroli

Przedstawiciele firm wyspecjalizowanych w AI, m.in. OpenAI i Anthropic, coraz głośniej mówią o ryzyku i zagrożeniach związanych z szybkim rozwojem tej technologii. Wskazują, że modele AI pozostawione bez kontroli mogą przekroczyć ludzkie możliwości rozumienia i nadzorowania systemów. Temat ten pojawił się także na forum Rady Bezpieczeństwa ONZ.

Źródło: Newseria

Firmy AI apelują o międzynarodowe standardy

Liderzy OpenAI, Anthropic i Hugging Face podczas briefingu Rady Bezpieczeństwa ONZ zaapelowali o pilne wprowadzenie międzynarodowych standardów i kontroli nad rozwojem autonomicznych technologii. Z podobnym apelem wystąpiła grupa 22 państw i instytucji, m.in. Kanada, Australia, Niemcy, Hiszpania, a także Komisja Europejska. Sekretarz generalny António Guterres wskazał na możliwość utworzenia instytucji międzynarodowej, która miałaby ustalać standardy, umożliwiać weryfikację i w razie potrzeby inicjować konsultacje między państwami.

Stany Zjednoczone i Chiny konkurują w rozwoju AI

Chiny przodują pod względem liczby publikacji, cytowań i przyznanych patentów. Stany Zjednoczone z kolei zachowują przewagę pod względem patentów o większym wpływie. W 2025 roku opracowały 59 znaczących modeli, podczas gdy w Chinach powstało ich 35.

Korea Południowa przoduje natomiast pod względem liczby patentów AI przypadających na mieszkańca. Jednocześnie udział Chin w 100 najczęściej cytowanych pracach o AI wzrósł z 33 do 41 proc. Dotyczy to okresu od 2021 do 2024 roku. Tak wynika z raportu Stanford AI Index 2026.

– To się wymknęło spod kontroli, a może w ogóle nigdy pod nią nie było. Mamy do czynienia z globalną konkurencją. Wszyscy chcą rozwijać i uczyć modele AI szybciej, żeby były jeszcze inteligentniejsze – mówi Tobiasz Bocheński, europoseł PiS z grupy EKR.

Jak podkreśla, bardzo niepokojące są wypowiedzi ekspertów dotyczące rozwoju sztucznej inteligencji w ciągu najbliższych 10 lat. Według nich może stać się tak zaawansowana, że ludzie nie będą już rozumieli jej działania. To może absolutnie zmienić świat, w którym żyjemy.

Tobiasz Bocheński, europoseł PiS z grupy EKR | Źródło: Newseria

Eksperci ostrzegają przed utratą kontroli

Dario Amodei, współzałożyciel Anthropic, która stoi za modelem Claude, zwraca uwagę na szybkie tempo rozwoju AI. Jego zdaniem najbardziej zaawansowane modele wymagają większej ostrożności oraz międzynarodowej współpracy w zakresie bezpieczeństwa.

Również Evan Hubinger, który prowadzi badania nad dostosowaniem AI w firmie Anthropic, ostrzega przed potencjalnym zagrożeniem ze strony sztucznej inteligencji. We wpisie w mediach społecznościowych przyznał, że istnieje ponad 10 proc. prawdopodobieństwa na to, że w ciągu następnej dekady może ona doprowadzić do śmierci wszystkich ludzi.

– Niektórzy chińscy eksperci mówią, że skończyła się era człowieka, a zaczęła się era sztucznej inteligencji i robotyki. Wiem, że każdy myśli o „Terminatorze” albo „Matriksie”, ale nie bagatelizowałbym tego zagrożenia. Jeżeli sztuczna inteligencja wymknie się spod kontroli, nie wiemy, jakie może mieć to skutki dla całej ludzkości – podkreśla Tobiasz Bocheński.

Incydent z agentem AI pokazał problem z zabezpieczeniami

W lipcu 2026 roku doszło do incydentu podczas testowania możliwości sztucznej inteligencji. Agent AI wykorzystujący modele OpenAI obszedł zabezpieczenia, które miały odizolować go od internetu. Następnie uzyskał dostęp do części infrastruktury badawczej OpenAI oraz systemów firmy Hugging Face⁠. O tym zdarzeniu wspomniała szefowa Komisji Europejskiej podczas ostatniego orędzia o stanie Unii Europejskiej w 2026 roku, które wygłosiła 16 września br. w Strasburgu.

Firma wyjaśniła, że środowisko testowe nie zapewniało agentowi bezpośredniego dostępu do internetu. System wykorzystał jednak nieznaną wcześniej lukę w zabezpieczeniach, aby ominąć to ograniczenie.

Do zdarzenia odwoływali się również europejscy politycy w dyskusji dotyczącej bezpieczeństwa zaawansowanych modeli AI.

– W następstwie incydentu Hugging Face deweloperzy biją na alarm. Dyrektorzy najbardziej zaawansowanych przedsiębiorstw mówią, że pora spowolnić rozwój modeli samodoskonalących się. Dotyczy to także rozwoju najbardziej zaawansowanych rozwiązań. Skoro twórcy tej technologii mają wątpliwości, my również powinniśmy być zaniepokojeni – zapowiedziała Ursula von der Leyen.

Według von der Leyen kluczowym narzędziem wprowadzania zabezpieczeń jest akt w sprawie sztucznej inteligencji. Dzięki niemu Europa może uczestniczyć w kształtowaniu globalnych działań dotyczących tego problemu. To pozwoli zintensyfikować współpracę z partnerami o zbieżnych poglądach, takimi jak Kanada czy Zjednoczone Królestwo. Potrzebna jest współpraca przy ocenie modeli, ich weryfikacji, wczesnym ostrzeganiu i bezpieczeństwie sztucznej inteligencji. Konieczna jest dyskusja z laboratoriami opracowującymi modele pionierskie. Należy ustalić, jak wspierać działania przemysłu dotyczące bezpieczeństwa najbardziej zaawansowanych modeli.

Źródło: Newseria

Państwa różnią się w podejściu do kontroli AI

Propozycje dotyczące międzynarodowej kontroli AI spotykają się jednak ze sprzeciwem administracji USA. Donald Trump podkreśla przewagę Stanów Zjednoczonych nad Chinami w rozwoju AI i chce ją utrzymać. USA nie dołączyły także do deklaracji części państw dotyczącej międzynarodowego nadzoru nad zaawansowanymi systemami AI.

– Dylemat polega na tym, że można przyjąć jedno globalne rozwiązanie, które wszyscy zastosują. W przeciwnym razie żadna metoda kontroli się nie sprawdzi. Nikt się jednak na to nie zgodzi – uważa Tobiasz Bocheński.

Zaawansowane modele mogą wpływać na procesy decyzyjne

Jak podkreśla europoseł, coraz bardziej zaawansowane modele AI będą rozwiązywać coraz trudniejsze problemy. Według niego będzie to dotyczyć nie tylko matematyki i fizyki, lecz także geopolityki oraz polityki.

– Może dojść do sytuacji, w której korporacje lub państwa wykorzystujące najnowocześniejsze modele AI zyskają przewagę nad pozostałymi. W efekcie wszyscy zaczną z nich korzystać, choć ludzie mogą nie rozumieć sposobu ich działania. Może się też zdarzyć, że rząd i polityka wymkną się spod kontroli człowieka. Nikt na świecie nie ma dziś pomysłu, jak ten dylemat rozwiązać. Wszyscy zmierzają w stronę coraz większych możliwości obliczeniowych sztucznej inteligencji – wskazuje europoseł.

Źródło: Newseria