Zanim zapytasz AI, pomyśl sam! Nie przyjmuj bezkrytycznie odpowiedzi wygenerowanych przez algorytmy

Czy sztuczna inteligencja myśli za nas?

Korzystamy z AI podczas pracy, nauki i codziennych czynności. Ponadto sięgamy po jej porady przed podjęciem ważnych decyzji. Podczas XVI edycji Festiwalu Przemiany, który organizuje Centrum Nauki Kopernik, eksperci i uczestnicy szukali odpowiedzi na festiwalowe pytanie: „Czy AI myśli za ciebie?”. Zastanawiali się również, jakie mogą być tego konsekwencje dla społeczeństwa.

Wpływ AI na samodzielność myślenia, budowanie kompetencji oraz sprawczość analizowali uczestnicy panelu mistrzowskiego pt. „Po rozum do głowy, czy do AI?”. W dyskusji uczestniczyli prof. Michael Gerlich z The Human Factor Association i dr Gabriela Czarnek z Uniwersytetu Jagiellońskiego. Dołączył do nich dr hab. Konrad Talmont-Kamiński z Uniwersytetu w Białymstoku. Natomiast dyskusję aktywnie moderował dr Iwo Zmyślony z Uniwersytetu Warszawskiego.

Wpływ AI wykracza poza obszar informatyczny

Prof. Gerlich zwrócił uwagę na podstawowy problem związany z AI, występujący nawet w dużych korporacjach. Polega on na sprowadzaniu znaczenia tej technologii wyłącznie do działań z obszaru technicznego i informatycznego.

– Tymczasem konsekwencje są znacznie szersze i wykraczają daleko poza obszar informatyczny, wpływając na całą organizację. Dlatego zarządy przed zastosowaniem AI powinny analizować przede wszystkim jej oddziaływanie na pracowników. Powinny także ocenić skutki dla całej organizacji w dłuższej perspektywie – powiedział ekspert.

Według dr Gabrieli Czarnek warunkiem pozytywnego doświadczenia podczas korzystania z AI jest zachowanie sprawczości użytkownika. Obejmuje ona możliwość rozumienia sytuacji i jej kształtowanie.

Badaczka wyjaśniała, że skuteczność chatbotów wiąże się z ich personalizacją, czyli dopasowywaniem języka i argumentów do konkretnej osoby. Jednocześnie rozróżniła dwa zjawiska często łączone pod hasłem pochlebstwa (sykofancji).

– Pierwsze to emocjonalne utwierdzanie rozmówcy w poczuciu, że jest rozumiany i może bezpiecznie wyrażać swoje przekonania. Drugie polega na dobieraniu faktów i dowodów zgodnie z tym, co chciałby usłyszeć. Chatbot może korzystać z pierwszego mechanizmu, a równocześnie dążyć do zmiany opinii użytkownika – zaznaczyła dr Gabriela Czarnek.

Jak podkreśliła, „uprzejmy” chatbot może budzić zaufanie. Dzięki temu może skuteczniej oddziaływać na użytkownika.

Perswazja chatbotów podczas kampanii wyborczych

Dr Czarnek odniosła się również do analizy ostatnich kampanii wyborczych na urząd prezydenta w USA i kampanii prezydenckiej w Polsce. Zauważyła, że nie należy lekceważyć pozornie niewielkich efektów perswazji. W tych konkretnych kampaniach skutki te wynosiły od 3 do 10 punktów procentowych wzrostu poparcia dla kandydatów. Natomiast tradycyjne reklamy i banery powodują zwiększenie poparcia o około 1 pkt proc.

– Nie jest to uniwersalna miara skuteczności chatbotów w ogóle. Ponadto w analizowanych rozmowach nie obserwowano też oporu podobnego do reakcji na nielubianą reklamę – zaznaczyła badaczka.

Prof. Gerlich ostrzegał, że rozmowy z chatbotami mogą ujawniać preferencje, przekonania i reakcje użytkowników. Przywołał Cambridge Analytica oraz jej działania poprzedzające Brexit. Jednocześnie wskazał na możliwość wykorzystania danych do profilowania i precyzyjnej perswazji.

Festiwal Przemiany w Centrum Nauki Kopernik | źródło: PAP MediaRoom

Sama wiedza o zagrożeniach nie wystarczy

Dr hab. Konrad Talmont-Kamiński podkreślał z kolei, że sama informacja o zagrożeniach nie wystarcza. Podobnie ostrzeżenia na paczkach papierosów nie gwarantują zmiany zachowania. W jego opinii trzeba kształtować społeczne warunki kontaktu z AI. Należy również zadbać o kontrolę nad technologią, której rozwój pozostaje w rękach niewielkiej grupy podmiotów.

– Samo ostrzeżenie użytkownika nie zastępuje namysłu nad tym, jakie zachowania promuje sam system. Ważne jest również, kto wyznacza jego cele i czy interesy dostawców odpowiadają potrzebom społeczeństwa – powiedział naukowiec.

Przyznał, że sam używa sztucznej inteligencji w swojej pracy, ale raczej jako interlokutora do podważania jego hipotez. Zaleca, żeby najpierw myśleć samodzielnie. Natomiast sztuczną inteligencję warto włączać do działania dopiero po zmierzeniu się z problemem.

– Chodzi o to, żeby AI poszerzała nasze rozumowanie, a nie zastępowała ćwiczenia umiejętności. Używaj AI tak, by to poznawczo „bolało” – powiedział profesor.

Dr Iwo Zmyślony powiązał tę zasadę z ograniczaniem przenoszenia procesów poznawczych na narzędzia (cognitive offloading).

– Nie mam nic przeciwko używaniu AI jako narzędzia do zapisywania i przechowywania wiedzy. Można także korzystać z chatbotów do poznawania różnych perspektyw. Jednak to my sami powinniśmy konfrontować stanowiska i podejmować decyzje – podkreślił.

Efekt Elizy i nadmierne zaufanie do AI

Dr Zmyślony przestrzegał jednocześnie przed antropomorfizacją, czyli przypisywaniem AI osobowości, intencji czy świadomości. Takie podejście może bowiem budować nadmierne zaufanie.

Przypomniał również o „efekcie Elizy”, wywodzącym się z programu ELIZA, który Joseph Weizenbaum stworzył w 1966 roku. Program ten wykazał psychologiczną skłonność ludzi do przypisywania programom komputerowym oraz sztucznej inteligencji ludzkich cech, takich jak świadomość czy empatia.

Dr hab. Konrad Talmont-Kamiński zauważył, że w tworzeniu takich wyobrażeń mają udział interfejsy i przekazy medialne.

– Precyzyjny język powinien przypominać, że są to zaprojektowane technologie, które ludzie mogą kontrolować – ocenił.

Z kolei dr Gabriela Czarnek postulowała ujawnianie informacji o tym, kto sponsoruje AI. Zwróciła przy tym uwagę, że informacja o źródle finansowania danego systemu daje kontekst do oceny przekazu. Jednak sama w sobie nie gwarantuje ochrony przed manipulacją.

AI wpływa również na osoby, które z niej nie korzystają

Według prof. Gerlicha sztuczna inteligencja jest już obecna w pracy, edukacji i przekazach medialnych. Dlatego unikanie bezpośredniej rozmowy z chatbotem nie oznacza życia poza pośrednim oddziaływaniem tej technologii.

Ekspert zwrócił również uwagę na możliwość wykluczenia osób, które nie nadążają za zmianami. Jako przykład wskazał cyfryzację płatności i usług w Szwajcarii. Początkowo korzystanie z nich w formie cyfrowej było opcjonalne. Jednak z czasem stało się warunkiem uczestnictwa w życiu społecznym.

Na zakończenie dyskusji eksperci zgodzili się, że bezpieczna współpraca z AI wymaga od ludzi zdolności do wysiłku. Ważne są również uczenie się na błędach i samodzielny osąd. Jednocześnie potrzebujemy przejrzystości narzędzi oraz społecznej i instytucjonalnej odpowiedzialności za ich dalszy rozwój i nadzór.

Źródło: PAP MediaRoom