„Shadow AI” w firmach: dlaczego tak wielu pracowników korzysta ze sztucznej inteligencji bez zgody firmy?

Nieautoryzowane korzystanie z narzędzi sztucznej inteligencji bez wiedzy i nadzoru firmy stało się jednym z najszybciej rosnących kanałów wycieku danych w przedsiębiorstwach. To również powód, dla którego firmy dostają od AI słabsze odpowiedzi, niż mogłyby. Z badania PwC wynika, że 80% pracowników w Polsce nie posiada formalnej zgody na korzystanie z generatywnej AI w pracy. Nieautoryzowane narzędzia i agenty AI tworzą w organizacjach niewidoczne przepływy danych, pozostające poza kontrolą zespołów bezpieczeństwa.

Zdjęcie ilustracyjne

Technologia AI poza kontrolą

W Polsce grunt pod to zjawisko, zwane “Shadow AI”, jest wyjątkowo podatny. PwC w badaniu „Polskie firmy nie wykorzystują w pełni potencjału AI” ujawnia, że choć 75% firm zrealizowało w ostatnim roku projekty z obszaru AI lub zaawansowanej analityki, jedynie 45% organizacji posiada sprecyzowaną strategię AI. Technologia działa i przynosi efekty, jednak często dzieje się to poza jakąkolwiek kontrolą, a o tym, jakie dane trafiają do modeli, decyduje nie zarząd, lecz pojedynczy pracownik. Skala zjawiska nie wynika ze złej woli. Pracownicy korzystają z AI prywatnie – do streszczania tekstów, pisania maili czy tworzenia grafik – i przenoszą te nawyki do pracy, ponieważ narzędzia realnie skracają czas wykonania zadań. To, co jest wygodne w domu, w firmie oznacza jednak wyprowadzenie poufnych informacji poza jej kontrolę.

Dane firmowe powinny być przetwarzane w środowisku zaprojektowanym do pracy z takimi danymi. Gdy pracownik wkleja umowę, dane klientów albo prognozę finansową do narzędzia, które wybrał sam i którego firma nie skonfigurowała ani nie nadzoruje, informacje te opuszczają obieg, w którym organizacja potrafi je kontrolować. Konsekwencje nie zatrzymują się na pracowniku: za dane osobowe odpowiada administrator, czyli firma, a AI Act dokłada do tego obowiązki nadzoru i zarządzania ryzykiem wykorzystania sztucznej inteligencji. Zarząd musi więc widzieć całość — kto w organizacji pracuje z AI i z jakich danych korzysta. Narzędzie odcięte od firmowych zasobów nie ma także dostępu do kontekstu, w którym pracownik działa, więc odpowiada wyłącznie na podstawie dostarczonego wsadu, który może być niepełny.

Bezpieczna alternatywa działa lepiej niż zakaz

Problem często leży w braku nadzoru, a same zakazy przynoszą efekt odwrotny do zamierzonego – pracownicy obchodzą blokady, szukając mniej kontrolowanych sposobów wykonania zadania, co tworzy w organizacji martwe pola. Dlatego w pierwszym kroku warto wyznaczyć osobę odpowiadającą za zasady korzystania z AI, która raportuje do zarządu i odpowiada za politykę, edukację oraz dobór narzędzi. To zarząd ponosi odpowiedzialność za bezpieczeństwo danych, musi więc mieć pełny obraz tego, jak AI jest używana w firmie. Jeżeli organizacja nie zapewni pracownikom konkretnych rozwiązań, sięgną oni po to, do czego są przyzwyczajeni.

W środowisku klasy enterprise umowa z dostawcą zawiera zapis określający, że firmowe dane nie są wykorzystywane do trenowania modeli, a dział IT zyskuje jeden panel do zarządzania tym, kto, z jakich narzędzi i z jakimi danymi pracuje. Tak działa Gemini Enterprise: pracownik dostaje jedno, bezpieczne wejście do AI, a firma zachowuje nadzór i ślad audytowy. Takie narzędzie jest także podłączone do firmowych danych i systemów, więc pracuje na pełnym kontekście organizacji. Bezpieczne środowisko to również widoczność – firma powinna wiedzieć, z jakich aplikacji korzystają pracownicy, oraz mieć mechanizmy chroniące w czasie rzeczywistym przed wyciekiem wrażliwych danych i próbami manipulacji. Realną ochronę daje dopiero połączenie polityki, edukacji i technologii.

AI drogą, a nie celem

“Shadow AI” zniknie wtedy, gdy korzystanie z firmowego narzędzia stanie się dla pracownika prostsze i skuteczniejsze niż szukanie obejścia. Wygrają organizacje, które zapewnią pracownikom bezpieczne oraz bardziej jakościowe wejście do AI, zanim zrobią oni to samodzielnie. Przegrają zaś te, które poprzestaną na zakazach – nie usuwają one tego zjawiska, jedynie spychając je w cień. Technologia, która umożliwia przejrzystą implementację AI w firmach, jest już dostępna, ale zakup licencji jest jedynie krokiem wstępnym. Realna zmiana wymaga przemodelowania procesów, wypracowania nowych nawyków i traktowania AI jako środka do uzyskania celu biznesowego, a nie celu samego w sobie.