Pracownicy coraz częściej korzystają z ChatGPT i innych narzędzi generatywnej AI, aby szybciej pisać maile, analizować dokumenty, poprawiać kod albo przygotowywać oferty. Problem zaczyna się wtedy, gdy robią to bez wiedzy firmy, z prywatnych kont i na danych, które nie powinny trafić poza organizację. W wielu firmach generatywna AI pojawiła się szybciej niż procedury jej używania. Z raportu Cisco 2024 Data Privacy Benchmark Study wynika, że 92% organizacji uznaje GenAI za technologię wymagającą nowych technik zarządzania danymi i ryzykiem. Jednocześnie pracownicy wpisują do takich narzędzi informacje, które mogą być wrażliwe biznesowo. Cisco wskazuje, że 62% badanych wprowadzało do aplikacji GenAI informacje o procesach wewnętrznych, 48% niepubliczne informacje o firmie, 45% dane pracowników, a 38% dane klientów. To pokazuje, że Shadow AI nie jest abstrakcyjnym problemem działu IT. To realne ryzyko wycieku danych, naruszenia poufności i utraty kontroli nad informacją.
Czym jest Shadow AI?
Shadow AI to korzystanie przez pracowników z narzędzi sztucznej inteligencji poza oficjalnym nadzorem organizacji. Chodzi przede wszystkim o sytuacje, w których pracownik używa publicznego chatbota, prywatnego konta, niezatwierdzonej aplikacji, rozszerzenia przeglądarki albo narzędzia do automatycznego tworzenia notatek bez wiedzy działu IT, bezpieczeństwa prawnego lub compliance.
Samo używanie AI nie musi być problemem. Ryzyko pojawia się wtedy, gdy firma nie wie, jakie narzędzia są używane, jakie dane trafiają do promptów, kto ma dostęp do historii rozmów, jak długo dane są przechowywane i czy dostawca może je analizować. W praktyce oznacza to utratę kontroli nad obiegiem informacji.
Do Shadow AI można zaliczyć m.in.:
wklejanie do ChatGPT treści umów, ofert, prezentacji i dokumentów strategicznych;
analizowanie przez publiczne chatboty danych klientów lub pracowników;
przesyłanie kodu źródłowego do narzędzi AI w celu znalezienia błędów;
używanie botów do streszczania wewnętrznych spotkań;
korzystanie z niezatwierdzonych aplikacji AI do transkrypcji rozmów;
używanie rozszerzeń przeglądarki, które mają dostęp do poczty, dokumentów lub CRM;
tworzenie odpowiedzi do klientów na podstawie poufnej korespondencji.
Jakie dane pracownicy mogą wkleić do bota?
Największe ryzyko dotyczy danych, które z pozoru nie wyglądają jak „tajemnica firmy”. Pracownik może uznać, że pojedynczy fragment umowy, mail od klienta albo kawałek kodu nie ma dużego znaczenia. Problem polega na tym, że takie informacje często nabierają wartości po połączeniu z innymi danymi.
Do narzędzi AI mogą trafiać m.in.:
dane klientów: nazwiska, adresy e-mail, numery telefonów, treść reklamacji, historia zamówień;
dane pracowników: imiona i nazwiska, stanowiska, oceny, wynagrodzenia, informacje kadrowe;
dokumenty prawne: umowy, aneksy, zapisy NDA, projekty regulaminów;
informacje handlowe: cenniki, marże, rabaty, oferty, warunki negocjacji;
know-how: procedury, instrukcje, procesy wewnętrzne, schematy działania;
kod źródłowy, konfiguracje, logi, opisy błędów i architektury systemów;
informacje strategiczne: plany produktowe, plany wejścia na rynek, analizy konkurencji;
treść wewnętrznej komunikacji, np. maile, notatki ze spotkań, dokumenty zarządu.
Cisco w swoim raporcie pokazuje, że wiele organizacji jest świadomych tych ryzyk. Wśród głównych obaw związanych z GenAI badani wskazywali możliwość naruszenia praw własności intelektualnej firmy, ryzyko udostępnienia informacji publicznie lub konkurencji oraz możliwość otrzymania błędnych odpowiedzi. Każdy z tych problemów ma znaczenie przy Shadow AI, bo firma może nawet nie wiedzieć, że dane zostały użyte w zewnętrznym narzędziu.
Dlaczego publiczny chatbot nie jest zwykłą wyszukiwarką?
Część pracowników traktuje ChatGPT lub inne boty jak wyszukiwarkę. Wpisują pytanie, dostają odpowiedź i przechodzą dalej. Z punktu widzenia bezpieczeństwa to błędne podejście, bo prompt może zawierać dane firmowe, osobowe albo poufne. Brytyjskie National Cyber Security Centre w publikacji „ChatGPT and large language models: what's the risk?” zwraca uwagę, że zapytania kierowane do publicznych modeli są widoczne dla organizacji dostarczającej usługę. NCSC wskazuje też, że takie zapytania są przechowywane i mogą być wykorzystywane do rozwoju usługi lub modelu. Dlatego przed wpisaniem wrażliwych informacji trzeba rozumieć warunki korzystania z usługi i politykę prywatności dostawcy.
Ryzyko nie ogranicza się do samego dostawcy narzędzia. NCSC wskazuje również na możliwość wycieku, włamania, przypadkowego upublicznienia przechowywanych zapytań albo zmiany podejścia do prywatności po przejęciu dostawcy przez inną organizację. Dla firmy oznacza to, że poufność danych zależy od podmiotu, z którym często nie ma umowy, audytu ani kontroli.
Jakie zagrożenia tworzy Shadow AI?
Głównym zagrożeniem powodowanym przez Shadow AI jest utrata poufności. Jeżeli pracownik wklei do chatbota ofertę dla klienta, projekt umowy albo fragment kodu, firma traci kontrolę nad tym, gdzie te dane się znalazły. W przypadku danych osobowych dochodzi jeszcze ryzyko naruszenia zasad ochrony danych. NIST w dokumencie „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile” wskazuje, że ryzyko prywatności danych w GenAI obejmuje m.in. wyciek, nieuprawnione użycie, ujawnienie lub deanonimizację informacji identyfikujących osobę albo danych wrażliwych.
Drugim zagrożeniem jest naruszenie tajemnicy przedsiębiorstwa i własności intelektualnej. NIST zalicza do ryzyk generatywnej AI także ekspozycję tajemnic handlowych oraz problemy z treściami chronionymi prawem autorskim, znakami towarowymi lub licencjami. W praktyce może to dotyczyć kodu, dokumentacji technicznej, projektów graficznych, materiałów marketingowych, baz wiedzy, danych treningowych lub dokumentów produktowych.
Inne zagrożenie to błędne decyzje oparte na odpowiedziach AI. NIST opisuje ryzyko konfabulacji, czyli generowania treści podanych pewnym tonem, ale błędnych lub fałszywych. Cisco wskazuje z kolei, że 68% badanych obawiało się, że informacje zwracane przez GenAI mogą być błędne. Jeśli pracownik wykorzysta taką odpowiedź w analizie prawnej, ofercie dla klienta, decyzji HR albo konfiguracji systemu, błąd może mieć realne skutki biznesowe. Tak było chociażby w przypadku halucynacji AI w raporcie Deloitte dla australijskiego Departamentu Zatrudnienia i Stosunków Pracowniczych.
I wreszcie zagrożeniem jest także rozproszenie narzędzi. Firma może oficjalnie używać jednego bezpiecznego rozwiązania, a jednocześnie pracownicy korzystają z kilku innych aplikacji np. generatorów tekstu, botów do prezentacji, transkrypcji, streszczania PDF-ów, narzędzi programistycznych i wtyczek przeglądarki. Każde z nich może mieć inne warunki korzystania, inny model przechowywania danych i inne zabezpieczenia.
Dlaczego sam zakaz nie rozwiązuje problemu?
Zakaz korzystania z narzędzi AI może wydawać się prostym rozwiązaniem. W praktyce często prowadzi do przeniesienia użycia poza widoczność firmy. Pracownik, który ma pilne zadanie, może użyć prywatnego telefonu, domowego komputera albo prywatnego konta. Wtedy organizacja ma jeszcze mniejszą kontrolę.
Dane Cisco pokazują, że organizacje próbują różnie ograniczać ryzyko. 63% badanych firm wprowadziło ograniczenia dotyczące tego, jakie dane można wprowadzać do GenAI, 61% ograniczenia dotyczące narzędzi, z których mogą korzystać pracownicy, a 27% czasowo zakazało korzystania z aplikacji GenAI. To pokazuje, że organizacje nie mogą zostawić tematu bez zasad.
Jak firma może opanować Shadow AI?
Pierwszym krokiem jest rozpoznanie skali zjawiska. Firma powinna ustalić, z jakich narzędzi AI korzystają pracownicy, w jakich działach, do jakich zadań i na jakich danych. Nie chodzi o karanie ludzi za samo używanie AI, ale o zrozumienie, gdzie powstaje ryzyko. Drugi krok to polityka dopuszczalnego użycia AI. NIST w kontekście generatywnej AI wskazuje na potrzebę aktualizowania polityk akceptowalnego użycia GenAI, także w odniesieniu do technologii własnościowych, open source, danych, konsultantów, kontraktorów i innych podmiotów trzecich.
Taka polityka powinna być krótka, praktyczna, zrozumiała i powinna określać:
jakie narzędzia AI są dopuszczone,
czy można używać prywatnych kont,
jakich danych nie wolno wpisywać do publicznych chatbotów,
kiedy wymagane jest narzędzie firmowe,
kto zatwierdza nowe aplikacje AI,
jak postępować z danymi klientów i pracowników,
jak weryfikować odpowiedzi AI,
jak zgłosić incydent lub omyłkowe ujawnienie danych.
Kolejny krok to klasyfikacja danych. Pracownik powinien wiedzieć, czy dany dokument jest publiczny, wewnętrzny, poufny, czy szczególnie chroniony. Bez klasyfikacji trudno oczekiwać, że będzie umiał samodzielnie ocenić, czy może wkleić fragment dokumentu do chatbota. Ważna jest też lista zatwierdzonych narzędzi. NIST rekomenduje tworzenie wykazu podmiotów trzecich mających dostęp do treści organizacji oraz ustanowienie list zatwierdzonych technologii i dostawców GenAI. To bardzo ważne przy Shadow AI. Firma powinna wiedzieć, które narzędzia są sprawdzone pod kątem bezpieczeństwa, prywatności, umów, retencji danych i zgodności z prawem.
Istotna jest też ocena dostawców. NIST wskazuje, że procesy zakupu i oceny dostawców GenAI powinny uwzględniać m.in. własność intelektualną, prywatność danych, bezpieczeństwo, monitoring ryzyk stron trzecich oraz ocenę dostawców wobec baz incydentów i podatności. W praktyce oznacza to, że wybór narzędzia AI nie powinien polegać wyłącznie na tym, czy działa dobrze i jest tanie.
Podsumowanie
Generatywna AI może realnie pomagać pracownikom, przyspieszyć analizę dokumentów, przygotowanie tekstów, porządkowanie notatek, tłumaczenia, obsługę klienta i pracę programistów. Problem pojawia się wtedy, gdy każde takie użycie odbywa się poza kontrolą firmy. NCSC jasno rekomenduje, aby nie wpisywać informacji wrażliwych do publicznych modeli LLM. NIST pokazuje, że generatywna AI wymaga zarządzania ryzykiem, obejmującego prywatność danych, bezpieczeństwo informacji, własność intelektualną, dostawców i procedury incydentowe. Cisco pokazuje natomiast, że pracownicy już wprowadzają do narzędzi GenAI informacje o procesach wewnętrznych, firmie, klientach i pracownikach. Dla przedsiębiorcy wniosek jest prosty – Shadow AI nie zniknie samo. Trzeba je nazwać, opisać w procedurach, ograniczyć technicznie tam, gdzie to potrzebne, i dać pracownikom bezpieczny sposób korzystania z AI. W przeciwnym razie narzędzie stworzone do oszczędzania czasu może stać się kanałem wycieku danych i firmowych sekretów.
Źródła
- Cisco, „2024 Data Privacy Benchmark Study”,
- K. Dhanji, Deloitte to pay money back to Albanese government after using AI in $440,000 report, „The Guardian”, 2025,
- National Cyber Security Centre, „ChatGPT and large language models: what's the risk?”,
- National Institute of Standards and Technology, „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”, NIST AI 600-1.
