Pracownik korzysta ze sztucznej inteligencji w pracy. Kto odpowiada za błędy wygenerowane przez AI?

• Sztuczna inteligencja nie jest pracownikiem ani osobą odpowiedzialną za decyzję
• Największym zagrożeniem jest bezkrytyczne zaufanie do odpowiedzi AI
• Osobnym problemem są dane wprowadzane do AI
• AI Act zmienia podejście do kompetencji pracowników
• Sama polityka korzystania z AI nie wystarczy
• Firma powinna określić trzy poziomy korzystania z AI
• Potrzebna jest również lista dopuszczonych narzędzi
• Szkolenie z AI nie powinno być szkoleniem z promptów
• AI nie zdejmuje odpowiedzialności z organizacji

Model językowy może podać nieprawdziwą informację, stworzyć nieistniejące źródło, błędnie wykonać obliczenie albo przygotować odpowiedź, która wygląda bardzo przekonująco, mimo że opiera się na błędnych założeniach. Jeżeli pracownik wykorzysta taką odpowiedź w swojej pracy, trudno później bronić się argumentem: „to ChatGPT się pomylił”.

Sztuczna inteligencja nie jest pracownikiem ani osobą odpowiedzialną za decyzję

Jedną z najważniejszych zasad korzystania ze sztucznej inteligencji w organizacji powinno być traktowanie AI jako narzędzia wspierającego człowieka, a nie jako osoby podejmującej za niego odpowiedzialność. Jeżeli pracownik przygotowuje ofertę dla klienta przy pomocy kalkulatora, programu Excel czy wyszukiwarki internetowej, nadal odpowiada za sposób wykonania swojej pracy. Podobnie należy patrzeć na narzędzia generatywnej AI. W praktyce oznacza to, że odpowiedzialności za błędną decyzję biznesową nie można po prostu „przenieść” na model językowy.

Z punktu widzenia relacji pracodawca–pracownik znaczenie ma również to, że szkoda może zostać wyrządzona osobie trzeciej podczas wykonywania obowiązków pracowniczych. Kodeks pracy przewiduje w takich przypadkach szczególne zasady odpowiedzialności pracownika i pracodawcy, natomiast Kodeks cywilny przewiduje odpowiedzialność podmiotu powierzającego wykonywanie czynności osobie działającej pod jego kierownictwem. Dlatego dla przedsiębiorstwa kluczowym pytaniem nie powinno być wyłącznie: „kto popełnił błąd?”, ale również: czy organizacja stworzyła prawidłowy system korzystania z AI?

Największym zagrożeniem jest bezkrytyczne zaufanie do odpowiedzi AI

Generatywna sztuczna inteligencja potrafi tworzyć odpowiedzi, które brzmią profesjonalnie, logicznie i stanowczo. Nie oznacza to jednak, że są prawdziwe.

Pracownik może przykładowo poprosić AI o:

• analizę warunków umowy,
• przygotowanie kalkulacji,
• wskazanie podstawy prawnej,
• ocenę dokumentacji technicznej,
• stworzenie odpowiedzi dla klienta,
• porównanie produktów,
• przygotowanie raportu dla zarządu.

Jeżeli uzyskany rezultat zostanie bez weryfikacji przekazany dalej, pozornie drobny błąd może stać się błędem organizacji. Im większe znaczenie ma dana informacja dla klienta, bezpieczeństwa, finansów lub decyzji zarządczej, tym większy powinien być udział człowieka w jej weryfikacji. AI świetnie sprawdza się jako pierwszy etap pracy. Znacznie gorzej jako ostatnia osoba „podpisująca się” pod wynikiem.

Osobnym problemem są dane wprowadzane do AI

Ryzyko nie ogranicza się do błędnych odpowiedzi. Pracownik przygotowujący prompt może wkleić do zewnętrznego narzędzia: dane klienta, fragment umowy, listę pracowników, dane finansowe, informacje objęte tajemnicą przedsiębiorstwa, dane osobowe albo wewnętrzną korespondencję. W tym przypadku problem powstaje jeszcze przed wygenerowaniem odpowiedzi. RODO nakłada na administratorów i podmioty przetwarzające m.in. obowiązek zapewnienia odpowiedniego bezpieczeństwa danych oraz stosowania odpowiednich środków technicznych i organizacyjnych.

Także Urząd Ochrony Danych Osobowych zwraca uwagę na ryzyka związane z generatywną sztuczną inteligencją i możliwością wykorzystywania przetwarzanych przez takie technologie danych w sposób wykraczający poza pierwotny zamiar użytkownika. Dlatego pracownik powinien wiedzieć nie tylko jak napisać dobry prompt, ale przede wszystkim jakich informacji nie wolno mu do promptu wpisywać.

AI Act zmienia podejście do kompetencji pracowników

Kwestia przygotowania pracowników do korzystania ze sztucznej inteligencji nabiera dodatkowego znaczenia w związku z unijnym AI Act. Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 ustanawia jednolite zasady dotyczące sztucznej inteligencji na rynku Unii Europejskiej.

Istotny z punktu widzenia przedsiębiorców jest art. 4 dotyczący kompetencji w zakresie AI. Obowiązek związany z AI literacy zaczął być stosowany 2 lutego 2025 r. W 2026 r. regulacja została zmodyfikowana w ramach zmian unijnych, jednak obowiązek podejmowania przez dostawców i podmioty stosujące AI działań wspierających kompetencje osób korzystających z tych systemów pozostał. Komisja Europejska wskazuje jednocześnie, że przepisy nie narzucają jednego, identycznego dla wszystkich organizacji poziomu kompetencji.

To ważne. Nie oznacza to bowiem, że każdy pracownik powinien ukończyć ten sam kilkugodzinny kurs i otrzymać certyfikat. Innych kompetencji potrzebuje specjalista marketingu wykorzystujący AI do tworzenia pierwszych wersji tekstów, innych pracownik działu finansowego analizujący dane, a jeszcze innych osoba wykorzystująca system AI do podejmowania decyzji dotyczących ludzi. Szkolenie powinno odpowiadać rzeczywistemu sposobowi wykorzystania narzędzia.

Sama polityka korzystania z AI nie wystarczy

W wielu organizacjach odpowiedzią na rozwój AI jest stworzenie regulaminu lub polityki korzystania ze sztucznej inteligencji. To dobry krok, ale niewystarczający. Można przygotować dokument mówiący, że pracownik nie powinien przekazywać poufnych danych do zewnętrznych systemów AI. Jeżeli jednak nie rozumie on, czym w praktyce jest informacja poufna albo które dane powinien zanonimizować, regulamin nie rozwiąże problemu.

Podobnie można zobowiązać pracowników do weryfikacji odpowiedzi ChatGPT. Trzeba jednak nauczyć ich, jak tę weryfikację przeprowadzać. Właśnie dlatego wdrożenie AI powinno być traktowane jako projekt organizacyjny, a nie zakup kolejnego programu komputerowego.

Firma powinna określić trzy poziomy korzystania z AI

Dobrym rozwiązaniem jest stworzenie prostego podziału zastosowań AI. Pierwsza grupa może obejmować zadania niskiego ryzyka. Będzie to na przykład przygotowanie propozycji tytułów prezentacji, zmiana stylistyki tekstu czy tworzenie pomysłów podczas burzy mózgów. Druga grupa to zadania wymagające weryfikacji. Może obejmować analizy, tworzenie raportów, przygotowywanie komunikacji z klientami czy pracę na danych. Trzecia grupa powinna obejmować zastosowania, w których wynik AI nie może być wykorzystany bez kontroli odpowiednio kompetentnego człowieka. Dotyczy to szczególnie informacji wpływających na istotne decyzje finansowe, prawne, kadrowe czy związane z bezpieczeństwem. Taki podział jest dla pracownika znacznie bardziej użyteczny niż ogólna instrukcja: „korzystaj z AI odpowiedzialnie”.

Potrzebna jest również lista dopuszczonych narzędzi

Jednym z częstych błędów jest pozostawienie pracownikom pełnej swobody wyboru narzędzi. W efekcie jedna osoba korzysta z ChatGPT, druga z Gemini, trzecia z Claude, a kolejna z nieznanej bezpłatnej aplikacji znalezionej w internecie. Z punktu widzenia bezpieczeństwa organizacji jest to sytuacja trudna do kontrolowania.

Firma powinna określić przynajmniej: które narzędzia można wykorzystywać, do jakich celów, jakie informacje można do nich przekazywać, których danych nie wolno przetwarzać oraz kiedy konieczna jest dodatkowa weryfikacja odpowiedzi. Dopiero wtedy można mówić o zarządzaniu wykorzystaniem AI w przedsiębiorstwie.

Szkolenie z AI nie powinno być szkoleniem z promptów

Jeszcze niedawno szkolenia dotyczące sztucznej inteligencji koncentrowały się przede wszystkim na sposobach formułowania poleceń. Dziś to zdecydowanie za mało. Pracownik powinien rozumieć między innymi, dlaczego model może podawać informacje niezgodne z prawdą, jak sprawdzać uzyskane wyniki, jakie dane może przekazywać do narzędzia, kiedy AI może wspierać jego decyzję oraz w jakiej sytuacji powinien całkowicie zrezygnować z automatyzacji. Dobra znajomość AI nie polega więc na umiejętności napisania skomplikowanego promptu. Polega na świadomości kiedy można zaufać narzędziu, kiedy trzeba je sprawdzić, a kiedy nie powinno się go używać.

AI nie zdejmuje odpowiedzialności z organizacji

W najbliższych latach pytanie prawdopodobnie nie będzie już brzmiało: „czy pracownicy korzystają z AI?”. W wielu firmach odpowiedź jest oczywista. Znacznie ważniejsze będzie pytanie: czy robią to w sposób kontrolowany? Zakaz korzystania ze sztucznej inteligencji nie zawsze jest realnym rozwiązaniem. Pracownicy mogą sięgać po ogólnodostępne narzędzia również bez wiedzy pracodawcy.

Dlatego bezpieczniejszym modelem jest świadome wdrożenie AI: określenie narzędzi, stworzenie zasad, wskazanie granic odpowiedzialności, wyznaczenie procesów wymagających kontroli człowieka oraz przygotowanie pracowników do praktycznego korzystania z technologii. Bo ostatecznie największym zagrożeniem dla firmy nie jest to, że ChatGPT czasami się myli.

Największym zagrożeniem jest sytuacja, w której pracownik nie wie, że powinien jego odpowiedź sprawdzić.

NIS2 w Polsce. Jak przygotować firmę na nowe wymogi cyberbezpieczeństwa