Dyskryminacja algorytmiczna w zatrudnieniu

Kaja Kalisz^*

Algorithmic discrimination in employment

1. Wprowadzenie

Postępująca digitalizacja sfery zatrudnienia prowadzi do fundamentalnych zmian w sposobie rekrutacji, selekcji i zarządzania kapitałem ludzkim. Rozwiązania wykorzystujące metody sztucznej inteligencji oraz techniki uczenia maszynowego stopniowo przejmują kompetencje dotychczas pozostające w gestii czynnika ludzkiego, obejmując ocenę kandydatów, predykcję wydajności pracowniczej oraz formułowanie rozstrzygnięć personalnych. Automatyzacja procesów rekrutacyjnych czy wydawania decyzji wobec pracowników postrzegana jako neutralna może prowadzić do utrwalania i pogłębiania mechanizmów dyskryminacyjnych. W odniesieniu do algorytmów trenowanych na danych historycznych odzwierciedlających społeczne uprzedzenia i strukturalne nierówności istnieje ryzyko replikacji wzorców dyskryminacyjnych w nowym, technologicznym wymiarze. Zagadnienie to zyskuje szczególną doniosłość z perspektywy ochrony praw podstawowych, a także respektowania zasady równego traktowania w zatrudnieniu. Głównym problemem badawczym staje się wskazanie granic stosowania algorytmów w obszarze, który bezpośrednio determinuje szanse życiowe jednostek oraz ich pozycję społeczno-ekonomiczną.

Artykuł ma na celu przybliżenie czytelnikom podstawowych pojęć: „algorytm” oraz „dyskryminacja”. Wskazano, że algorytm coraz częściej powoduje dyskryminację w zatrudnieniu, ale także podczas procesów rekrutacyjnych. W następnych częściach autorka skupia się na poparciu tezy dotyczącej dyskryminacyjnej natury algorytmu, wskazaniu wyzwań oraz trudności, jakie powstają w związku z automatyzowaniem decyzji. Ostatnim celem niniejszego opracowania będzie analiza godności pracownika w erze algorytmu.

2. Pojęcie algorytmu

Potrzeba coraz szybszej analizy, ale także wydawania coraz większej liczby decyzji powoduje, że wzrosło zapotrzebowanie na system, który byłby w stanie temu sprostać. Należy zauważyć, że era cyfryzacji spowodowała rozwój technologii, w wyniku którego powstał algorytm, narzędzie, które znalazło swoje zastosowanie w wielu dziedzinach życia codziennego. Zasadne staje się jednak zagłębienie w zakres znaczeniowy algorytmu. Termin ten pochodzi od nazwiska Abu Abdullaha Muhammada ibn Musa al-Khwarizmi, perskiego matematyka żyjącego na przełomie VIII i IX w. Niezrozumiana łacińska wersja jego imienia brzmiała Algoritmi. W średniowieczu stosowano algorytm opisujący wszystkie operacje wykonywane na liczbach naturalnych^[1]. Jednakże obecnie pojęcie to, w zależności od dziedziny, jest różnie rozumiane. Bardzo często w literaturze podnosi się, że próba zdefiniowania jądra algorytmu przysparza trudności^[2]. W związku z powyższym wskazuje się, że to pojęcie powinno być rozumiane na płaszczyźnie informatyki, która stanowi system maszynowy do wykonywania określonych zadań, możliwy do zakodowania w formie programu komputerowego. Pojęcie informatyki obejmuje triadę następujących czynników: informacji, automatu, algorytmu, zawierających w sobie trzy priorytetowe pojęcia informatyki. W ten sposób podkreśla się, że analizowana dziedzina koncentruje się na algorytmicznym przetwarzaniu informacji (danych), które zostały odpowiednio zakodowane, przy użyciu specyficznych typów automatów (komputerów). Centralny element analizowanej triady stanowią jednak algorytmy, charakteryzujące się immanentnym powiązaniem z dziedziną informatyki. Związek ten wynika głównie z tego, że istotna część algorytmów tworzy podstawę do rozwiązywania zagadnień informatycznych (w tym układów i równań). Po pierwsze, za pośrednictwem mechanizmu matematycznego (np. złożoność czasową wyraża się za pomocą funkcji jednej zmiennej) prowadzone są badania nad zróżnicowanymi właściwościami algorytmów, takimi jak czas wykonania^[3]. Przyglądając się strukturze algorytmów, należy uwzględniać ich pięć kluczowych cech, tj.: (1) skończoność (po skończonej liczbie kroków algorytm się zatrzyma), (2) dobre zdefiniowanie (każdy krok algorytmu musi być jednoznacznie zdefiniowany), (3) dane wejściowe, (4) dane wyjściowe, (5) efektywność (każdy krok możliwy jest do zrealizowania w praktyce, w skończonym czasie)^[4]. Można więc wysnuć konkluzję, że algorytm stanowi precyzyjny proces, który w ograniczonym czasie przekształca określone dane wejściowe w konkretne dane wyjściowe, czyli rezultaty^[5]. Podobnie zawarta w Encyklopedii PWN definicja ukazuje, że jest to przepis postępowania, który prowadzi do rozwiązania konkretnego problemu, opisujący sekwencję czynności elementarnych, które muszą być zrealizowane, aby wykonać cel^[6]. Jak już wspomniano, algorytm stanowi skończony zbiór reguł, które wskazują kolejność operacji przy rozwiązywaniu określonego typu problemu^[7]. W literaturze wskazuje się również, że algorytmiczne podejmowanie decyzji powinno być rozumiane jako zautomatyzowane podejmowanie decyzji oraz zdalna kontrola, a także standaryzacja rutynowych decyzji w miejscu pracy^[8]. Dodatkowo systemy algorytmiczne zdolne są do przetwarzania informacji mających swoje źródło w coraz bardziej zróżnicowanym zestawie technologii informacyjnej, umożliwiając tym samym bezprecedensowy dostęp do bardzo szczegółowych danych. Należy wskazać na interoperacyjność systemów przetwarzających dane, dzięki czemu mogą one łączyć zestawy danych oraz uzyskiwać nieujawnione informacje na temat pracownika, które nie były widoczne, gdy poszczególne zestawy danych gromadzono i przechowywano oddzielnie^[9]. Podsumowując, w literaturze występuje wiele różnorodnych definicji, które niestety niejednoznacznie definiują algorytm. Można przyjąć, że sztuczna inteligencja stanowi niejako ogólny termin, dzięki któremu staje się możliwe określenie szerokiej gamy modeli, zaleceń i metod wykorzystywanych do gromadzenia, przetwarzania oraz działania na danych.

3. Pojęcie dyskryminacji

Pojęcie dyskryminacji, mimo że bardzo często pojawia się w aktach prawnych, nie doczekało się jednoznacznej i wyczerpującej definicji. Jedna z najprostszych interpretacji wywodzi się od łacińskiego terminu discriminatio, oznaczającego nierówne traktowanie, rozróżnianie oraz selektywną ocenę^[10]. Współcześnie w słownikach i encyklopediach dyskryminację opisuje się jako ograniczanie praw, marginalizowanie bądź prześladowanie jednostek lub grup społecznych ze względu na ich pochodzenie, rasę, przynależność etniczną, religijną, narodową czy klasową^[11]. W takim ujęciu oznacza to gorsze traktowanie osób lub zbiorowości wyróżniających się na tle reszty społeczeństwa z powodu ich odmienności. Zjawisko to może przejawiać się w różnych formach^[12]. Art. 18^3a Kodeksu pracy^[13] zawiera obszary, w ramach których powinno występować równe traktowanie pracowników, tj.:

1. nawiązanie i rozwiązanie stosunku pracy,
2. warunki zatrudnienia,
3. awansowanie oraz dostęp do szkolenia w celu podnoszenia kwalifikacji zawodowych,

a w szczególności powinni oni być równo traktowani bez względu na płeć, wiek, niepełnosprawność, rasę, religię, narodowość, przekonania polityczne, przynależność związkową, pochodzenie etniczne, wyznanie, orientację seksualną, zatrudnienie na czas określony lub nieokreślony, zatrudnienie w pełnym lub niepełnym wymiarze czasu pracy. Wymienione wyżej obszary, w których nie powinno dochodzić do dyskryminacji, nie są jedynymi możliwymi wariantami. Gwarantuje to użycie przez ustawodawcę zwrotu „w szczególności”, który rozszerza definicję na inne dobra mogące być pod ochroną. Kodeks pracy w art. 18³^a § 3 wprost odnosi się do zjawiska dyskryminacji bezpośredniej. Przejawia się ona wówczas, gdy pracownik – z powodu jednej lub kilku przesłanek wskazanych w art. 18³^a § 1, takich jak płeć, rasa czy orientacja seksualna – był, jest lub mógłby być traktowany gorzej niż inni zatrudnieni w porównywalnej sytuacji. Warto podkreślić, że przepis ten przedstawia pojęcie dyskryminacji w różnych możliwych konfiguracjach faktycznych. Poszkodowanym może być zarówno pracownik aktualnie doświadczający gorszego traktowania, jak i osoba, która spotkała się z nim w przeszłości, choć obecnie już tego nie doświadcza. Dodatkowo w literaturze wskazuje się na istotny element tego ujęcia – ustawodawca uwzględnia tu również zachowania o charakterze hipotetycznym^[14].

Dyskryminacja pośrednia stanowi drugi rodzaj dyskryminacji uregulowany w polskim Kodeksie pracy. Jej definicja prawna, zawarta w art. 18^3a § 4, wskazuje, że dochodzi do niej w sytuacji, gdy pozornie neutralny zapis, zastosowane kryterium lub podjęte działanie prowadzą do niekorzystnych różnic w warunkach zatrudnienia wobec wszystkich albo większej liczby pracowników należących do grupy wyróżnionej ze względu na jedną lub kilka przesłanek wymienionych w § 1 (takich jak wiek, płeć, niepełnosprawność, rasa, wyznanie, narodowość, przynależność do związku zawodowego czy przekonania polityczne), o ile różnic tych nie da się uzasadnić obiektywnymi przyczynami^[15]. W literaturze akcentuje się, że dyskryminacja pośrednia nie musi wynikać z celowego działania. Jeżeli więc brak jest racjonalnego i obiektywnego uzasadnienia dla takiego środka, o istnieniu dyskryminacji decyduje nie sam motyw, lecz rezultat, jakim jest powstanie realnej nierówności. Słusznie zatem podkreśla się, że kluczowe znaczenie ma tutaj efekt wprowadzonych regulacji, a nie ich intencja^[16].

4. Dyskryminacja algorytmiczna

W dyskursie naukowym formułowany bywa argument, że systemy algorytmiczne dysponują potencjałem eliminacji praktyk dyskryminacyjnych. Uzasadnienie tej tezy opiera się na założeniu, że zautomatyzowane mechanizmy decyzyjne operują wyłącznie na zgromadzonych zbiorach danych, nie bazują na aspekcie emocjonalnym oraz pozostają wolne od indywidualnych predyspozycji aksjologicznych, takich jak uprzedzenia czy awersje, stanowiących inherentny element ludzkiego aparatu poznawczego. Obiektywne maszyny podejmują optymalne decyzje na podstawie nieograniczonej ilości danych. Niemniej jednak coraz więcej dowodów wskazuje na to, że algorytmy mogą odzwierciedlać i wzmacniać ludzkie uprzedzenia, co prowadzi do dyskryminacji. Programiści, którzy je tworzą, wprowadzają swoje własne przekonania, a algorytmy, ucząc się na podstawie ludzkich zachowań, odzwierciedlają społeczne tendencje. Sztuczna inteligencja znajduje się na progu przekształcenia świata w sposób, który jest trudny do przewidzenia, o czym mówi raport The Malicious Use of Artificial Intelligence: Forecasting, Prevention and Mitigation^[17], w którym zwrócono uwagę na wiele zagrożeń, w tym na uprzedzenia wynikające z działania algorytmów. Niewłaściwe użycie sztucznej inteligencji może prowadzić do nielegalnych i dyskryminujących rezultatów, które są szkodliwe dla konsumentów, osłabiają zaufanie społeczne oraz mogą stwarzać poważne problemy dla firm i instytucji publicznych. Algorytmy mogą zawierać wbudowane uprzedzenia, które bywają trudne do zidentyfikowania lub skorygowania. Sytuacja ta staje się coraz bardziej niepokojąca, ponieważ systemy sztucznej inteligencji zaczynają przewyższać ludzką wydajność^[18].

Na uwagę zasługuje bliższa analiza problematyki dyskryminacji algorytmicznej w zatrudnieniu. Należy zatem rozpatrzyć kilka możliwych wariantów ingerencji algorytmów w sferę zatrudnienia. Na polskim rynku pracy do zawodów najbardziej zagrożonych skutkami automatyzacji, rozwoju algorytmów i robotyzacji zalicza się m.in. pracowników przetwórstwa spożywczego, administracji, sektora finansowego, a także osoby wykonujące prace porządkowe, robotników budowlanych, górników, kolejarzy, kasjerów oraz kierowców samochodów ciężarowych. Natomiast profesje o szczególnie ograniczonych perspektywach rozwoju, stopniowo zanikające, to przede wszystkim doradcy bankowi, pracownicy laboratoriów fotograficznych, osoby zajmujące się sporządzaniem dokumentacji podatkowej, agenci przewozowi i cargo, zegarmistrze, agenci ubezpieczeniowi, technicy matematycy, krawcy oraz telemarketerzy^[19]. Analiza raportów dotyczących rynku pracy wskazuje jednoznacznie, że proces automatyzacji w coraz większym stopniu wpływa na zatrudnienie, prowadząc nie tylko do zjawisk o charakterze dyskryminacyjnym, lecz także do realnego ryzyka utraty miejsc pracy. Wprowadzenie nowych technologii, w tym zautomatyzowanych systemów produkcji, już obecnie doprowadziło w wielu zakładach przemysłowych do zastąpienia pracy ludzkiej pracą maszyn, uznanych za bardziej efektywne i opłacalne rozwiązanie. Maszyny charakteryzują się bowiem większą szybkością i precyzją, a ich obsługa sprowadza się do regularnych przeglądów serwisowych. W odróżnieniu od pracowników nie wymagają przerw, nie korzystają z urlopów ani zwolnień lekarskich, nie podlegają przepisom o minimalnym wynagrodzeniu, a także nie generują kosztów związanych z podwyżkami płac^[20].

Kolejnym zagrożeniem wynikającym z zastosowania algorytmów w obszarze zatrudnienia jest możliwość bezpośredniego porównania efektów pracy człowieka i maszyny. Jeżeli założymy, że zarówno pracownik, jak i algorytm wykonają to samo zadanie w identycznym czasie i z porównywalnym poziomem błędów, wówczas istnieje obiektywna podstawa do zestawienia ich wyników. W takiej sytuacji, mimo podobnego sposobu realizacji pracy, algorytm zyskuje przewagę konkurencyjną nad człowiekiem. Pracodawca, dokonując oceny, częściej zdecyduje się na wdrożenie rozwiązań technologicznych, gdyż maszyna, w odróżnieniu od pracownika, nie wymaga wynagrodzenia ani innych świadczeń związanych z zatrudnieniem. Z perspektywy ekonomicznej człowiek okazuje się zatem mniej opłacalny niż jego zautomatyzowany odpowiednik. Według raportu McKinsey Global Institute^[21] ze stycznia 2017 r. szacuje się, że w Stanach Zjednoczonych około połowy istniejących stanowisk pracy może zostać poddanych procesowi automatyzacji. Konsekwencją tego mogłoby być zmniejszenie łącznych wydatków na wynagrodzenia o około 2,7 biliona dolarów rocznie^[22]. Wnioski te prowadzą do logicznej konkluzji, że w przedsiębiorstwach i instytucjach opierających swoją działalność na technologiach automatyzacyjnych może dochodzić do faworyzowania sztucznej inteligencji kosztem pracowników. Warto podkreślić, że algorytmy nie tylko pełnią rolę narzędzia w rękach pracodawców, ale same w sobie stanowią bardziej konkurencyjną alternatywę w zakresie analizy danych czy podejmowania decyzji niż praca wykonywana przez ludzi.

Po trzecie, analizując proces podejmowania decyzji, należy zwrócić uwagę na specyfikę algorytmu jako narzędzia matematycznego wykorzystywanego w sferze zatrudnienia^[23]. Algorytm funkcjonuje wyłącznie na podstawie danych, które zostały w nim zaprogramowane, co powoduje, że uwzględnia jedynie te elementy, które zostały mu „wgrane”. W praktyce rodzi to ryzyko, że raporty generowane przez algorytmy lub same algorytmy staną się źródłem działań o charakterze dyskryminacyjnym. Systemy tego typu nie biorą bowiem pod uwagę okoliczności losowych, takich jak choroba, stres, zmęczenie czy inne czynniki wpływające na czasową obniżkę wydajności pracownika. Podczas gdy algorytm utrzymuje stały poziom danych i nie zwalnia tempa pracy, człowiek, ze względu na swoją biologiczną i psychiczną naturę nie jest w stanie przez dłuższy czas realizować wysoko ustawionych norm. Próby ich nieustannego utrzymywania prowadzą do przeciążenia, a niejednokrotnie okazują się po prostu niemożliwe do zrealizowania. Brak uwzględnienia przez algorytmy przywołanych czynników skutkuje w praktyce dyskryminacją pracownika, który traktowany jest jak jednostka niewpisująca się w sztywne, technologicznie narzucone kryteria. Występujące we współczesnym świecie coraz większe podporządkowanie pracownika systemom algorytmicznym powoduje, że przestaje on być podmiotem samoistnym, indywidualnym, wolnym, a staje się w coraz większym stopniu algorytmicznym, wikłanym w erę pracy technologicznej^[24]. Staje się elementem algorytmicznej rzeczywistości, w której sprowadzany jest do kodu lub liczby mieszczącej się w zaprogramowanych granicach albo, w razie ich niespełnienia, do „elementu” przeznaczonego do wyeliminowania.

Praktyki dyskryminacyjne generowane przez zautomatyzowane systemy decyzyjne ulegają sukcesywnemu rozszerzeniu, oddziałując na procedury rekrutacyjne oraz sferę zarządzania istniejącymi stosunkami pracowniczymi. Skutecznym narzędziem, które znacząco wpłynęło na ramy rozwoju AI, jest Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji)^[25]. Akt ten wprowadza wiele istotnych zasad, które muszą być uwzględniane podczas procesów rekrutacyjnych. Należy do nich minimalizacja ryzyka, gdyż systemy AI wykorzystywane do przetwarzania danych HR (np. CV, wyników testów, historii zatrudnienia) wymagają zaprojektowania w taki sposób, by zminimalizować naruszenie prawa do prywatności oraz by zjawisko dyskryminacji było jak najmniejsze. Konieczne jest także, aby zarówno pracownicy, jak i kandydaci na dane stanowisko byli informowani, że ich dane są przetwarzane za pośrednictwem sztucznej inteligencji oraz w jakim celu są wykorzystywane. Również wykorzystywanie podczas rozmów rekrutacyjnych chatbotów narzuca obowiązek poinformowania kandydata, że porozumiewa się z nim maszyna, a nie człowiek. AI Act wprowadza obowiązek stosowania takich algorytmów, aby podejmowane przez nie decyzje można było uzasadnić i by nie dochodziło do zjawiska rozumianego jako black box. Działania podejmowane na danych dotyczących kandydatów z wykorzystaniem sztucznej inteligencji wymagają właściwej podstawy prawnej czy to w postaci wyraźnej zgody osoby, której dane dotyczą, czy też realizacji uzasadnionych interesów pracodawcy. Dodatkowo narzędzia oparte na sztucznej inteligencji nie mogą dyskryminować ani faworyzować żadnej grupy osób ubiegających się o pracę. W związku z tym pojawia się konieczność prowadzenia regularnego audytu algorytmów pod kątem potencjalnych uprzedzeń i ich korygowania^[26].

5. Wyzwania związane z algorytmami – decyzje wykreowane przez algorytm

Technologie cyfrowe operują siłami, które są poza zasięgiem ludzkiego wzroku, lecz ich wpływ jest widoczny w postaci logiki algorytmów. Są to siły, które autonomicznie działają w społecznej przestrzeni. Pomimo że stanowią elementy nieposiadające namacalności, są niewidoczne oraz nieoczywiste, to nadal są obecne w ludzkim środowisku^[27]. W miarę upływu czasu coraz bardziej zrozumiała staje się rola, jaką algorytmy odgrywają w społeczeństwie. Sytuacja ta powoduje skupienie uwagi na analizowaniu oraz sprawdzaniu zasad ich funkcjonowania^[28]. Bardzo często, zwłaszcza w środowisku teoretyków AI, podkreśla się, że w kontekście globalizacji algorytmy odgrywają kluczową rolę w decydowaniu o codziennym życiu każdego z nas^[29]. Pomimo licznych zalet, m.in. szybkości, analizowania niezmierzonej liczby danych, podsuwania gotowych rozwiązań, algorytmy stanowią hermetyczny system, który niejednokrotnie niesie za sobą wiele nieprawidłowości, trudności w analizie czy też łamania/naginania prawa. W związku z tym zasadne staje się przeanalizowanie jednego z największych wyzwań, jakie niesie algorytm.

Jednym z głównych problemów w kontekście algorytmów jest automatyczne podejmowanie decyzji. Należy brać pod uwagę, że tak naprawdę większość osób korzystających z algorytmów nie podejmuje szczegółowej analizy wydanej decyzji. Główną rolę odgrywa tutaj tzw. efekt zakotwiczenia lub nadmierne zaufanie pokładane w narzędziach AI, przez co w praktyce dochodzi do całkowitej rezygnacji z ingerencji w wyniki wydane przez algorytm. Analizując strukturę algorytmów, niewątpliwie należy się pochylić nad dość istotną kwestią, a mianowicie nad problematyką danych wejściowych. W literaturze słusznie podkreśla się, że nie jest możliwe bezbłędne i niezawodne działanie algorytmów w sytuacji otrzymania negatywnie nacechowanego „wsadu”^[30]. Zakorzenione w nim uprzedzenia, dyskryminacje, błędne dane każdorazowo będą kreować wynik, który nie będzie stanowił rzetelnej podstawy wydanej decyzji/opinii. Praktycznie w każdym przypadku dane wykorzystywane przez algorytm są wprowadzane przez informatyków czy inne podmioty pracujące w danym przedsiębiorstwie. Możliwość zakorzenienia przesądów, uprzedzeń lub też uprzywilejowania danej rasy staje się więc zjawiskiem bez wątpienia możliwym. Utrwalenie w strukturze algorytmu danych obarczonych błędem lub nacechowanych uprzedzeniami wobec określonych grup społecznych niewątpliwie sprzyja generowaniu decyzji o charakterze dyskryminacyjnym. W konsekwencji pojawia się uzasadniona wątpliwość co do wiarygodności oraz obiektywności rezultatów uzyskiwanych w wyniku działania takich systemów. Z tego zasadniczego powodu znaczenia nabiera problematyka oceny jakości algorytmów, a także potrzeba systematycznej weryfikacji ich poprawności oraz identyfikacji potencjalnych błędów w procesie decyzyjnym^[31].

Kontrowersyjna staje się kwestia powielania oraz przetwarzania przez algorytmy wygenerowanych fałszywych bądź szkodliwych wniosków. Jeżeli uczą się one na przeszłych przypadkach, to kreuje to dwa problemy:

• nie są w stanie zareagować na zmiany w rzeczywistości do czasu, aż ponownie nie zostaną przeszkolone;
• nieumyślnie powielają bądź pogłębiają już zakorzenione stronnicze wzorce przez to, że potrafią traktować człowieka tylko w odniesieniu do innych ludzi.

W związku z tym nie dziwi fakt, że dane używane do szkolenia systemów są często wypaczone w wyniku wcześniejszej praktyki dyskryminacyjnej lub poprzez niedostateczną reprezentację członków grup zmarginalizowanych^[32]. Osoby, w stosunku do których wykorzystywane jest generowanie decyzji opartych na algorytmie, niewątpliwie będą narażone m.in. na nielegalny przymus, nadużycie nadzoru, celową dezinformację i nieuczciwą manipulację^[33].

Analizując problematykę wykorzystywania algorytmów do wydawania decyzji, należy poświęcić uwagę na prawne regulacje dotyczące możliwej ochrony przed nadużyciami. W tym przypadku zasadne będzie zapoznanie się z uregulowaniami zawartymi w Rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE^[34]. Warto wspomnieć, że dopiero to rozporządzenie wprowadziło do porządku prawnego legalną definicję profilowania. Wcześniej obowiązywała Dyrektywa 95/46/WE Parlamentu Europejskiego i Rady z dnia 24 października 1995 r. w sprawie ochrony osób fizycznych w zakresie przetwarzania danych osobowych i swobodnego przepływu tych danych, która ograniczała się wyłącznie do regulacji dotyczących tzw. automatycznego podejmowania decyzji, stanowiąc kategorię inną niż samo profilowanie^[35]. W odniesieniu do obowiązującego w Polsce prawa omawiana definicja ma swoje ugruntowanie w art. 4 pkt 4 RODO. Według rozporządzenia pojęcie to oznacza dowolną formę zautomatyzowanego przetwarzania danych osobowych, które polega na wykorzystaniu danych osobowych do oceny niektórych czynników osobowych osoby fizycznej, w szczególności do analizy lub prognozy aspektów dotyczących efektów pracy tej osoby fizycznej, jej sytuacji ekonomicznej, zdrowia, osobistych preferencji, zainteresowań, wiarygodności, zachowania, lokalizacji lub przemieszczania się. Definicja legalna profilowania nie nakłada dodatkowych wymogów na administratorów i podmioty przetwarzające. Konieczne jednak będzie spełnienie szczególnych przesłanek wyłącznie w sytuacji, kiedy wystąpi podstawa do podjęcia decyzji opartej na zautomatyzowanym przetwarzaniu w postaci profilowania wobec danej osoby. W pozostałych przypadkach profilowania podejmowanego środkami tradycyjnymi podlegać ono będzie ogólnym zasadom przetwarzania danych, o których mowa w art. 6 i 9 RODO^[36]. Natomiast art. 22 ust. 1 RODO kreuje zakaz korzystania z automatycznego podejmowania decyzji, o ile ta opiera się wyłącznie na zautomatyzowanym przetwarzaniu, tj. bez ludzkiej ingerencji w proces decyzyjny, oraz wywołuje wobec konkretnej osoby skutek prawny lub w podobny sposób istotnie na nią wpływa^[37]. Natomiast ust. 2 art. 22 RODO reguluje, przytoczone wyżej, szczególne przesłanki profilowania, które stanowią fundament do podejmowania decyzji wobec konkretnej osoby. Treść omawianego przepisu stanowi, że jest możliwa sytuacja przetwarzania danych osobowych, jeżeli podejmowana decyzja:

• jest niezbędna do zawarcia lub wykonania umowy między osobą, której dane dotyczą, a administratorem;
• jest dozwolona prawem Unii lub prawem państwa członkowskiego, któremu podlega administrator i które przewiduje właściwe środki ochrony praw, wolności i prawnie uzasadnionych interesów osoby, której dane dotyczą;
• opiera się na wyraźnej zgodzie osoby, której dane dotyczą.

A contrario, jeśli wymienione powyżej kryteria nie zostaną spełnione, osoba, której dane dotyczą, może żądać, zgodnie z prawem, by nie podlegać decyzji wydanej wyłącznie na podstawie profilowania i związku z tym decyzja taka wywołuje wobec niej skutki prawne lub w istotny sposób na nią wpływa^[38]. Analizując omawiane przepisy, należy wskazać, że każdy ma możliwość uwolnienia się od decyzji wydawanej na podstawie algorytmicznego profilowania. Należy wziąć pod uwagę, że w sytuacji skorzystania z omawianych wyjątków konieczne jest wdrożenie właściwych środków ochrony praw, wolności i uzasadnionych interesów osoby, której dane dotyczą, w tym co najmniej prawa do uzyskania interwencji ludzkiej, do wyrażenia własnego stanowiska i do zakwestionowania tej decyzji. W przypadku pełnej automatyzacji procesu przetwarzania danych osoba, której dane dotyczą, zostaje pozbawiona realnego wpływu na jego przebieg. Nie istnieje bowiem możliwość odwołania się do człowieka w celu weryfikacji lub zmiany decyzji, gdyż ostateczne rozstrzygnięcie zapada wyłącznie w sposób automatyczny, za pośrednictwem systemu komputerowego. Tego rodzaju procedura może jednak pomijać istotne czynniki mające znaczenie dla oceny sytuacji jednostki – algorytmy, na podstawie których dokonywane jest przetwarzanie, nie zawsze są w stanie uwzględnić przypadki nietypowe, wyjątkowe bądź odbiegające od standardowych wzorców^[39].

Globalne wykorzystywanie szeroko rozumianej sztucznej inteligencji spowodowało, że zrodziła się potrzeba wykreowania rozwiązań prawnych, które stworzą konkretne ramy rzetelnego jej stosowania bez naruszeń podstawowych praw jednostki, ale także zagwarantowania ochrony m.in. właśnie przed profilowaniem oraz, w szerszym zakresie, przed decyzjami stanowiącymi rezultat działania systemów algorytmicznych.

6. Era algorytmu a godność pracownicza

W obszarze zatrudnienia coraz częściej dochodzi do korelacji pomiędzy człowiekiem a wykorzystywanymi nowymi technologiami. Od dłuższego czasu rynek pracy podlega dynamicznym przeobrażeniom, będącym konsekwencją rozwoju procesów cyfryzacji, automatyzacji oraz szerokiego dostępu do zasobów informacyjnych i baz danych. Transformacje te doprowadziły do zjawiska przesycenia rynku, w wyniku którego obserwuje się stopniowe ograniczanie potrzeby zatrudniania znacznej liczby pracowników w poszczególnych sektorach gospodarki. Analizując rynek pracy, można rozróżnić jego ujęcie przedmiotowe oraz podmiotowe. W literaturze przedmiotu akcentuje się jednak zasadność przyjęcia perspektywy podmiotowej, zgodnie z którą rynek pracy postrzegany jest jako struktura o wymiarze osobowym i humanistycznym, gdyż jego fundamentem pozostaje udział i aktywność jednostki ludzkiej^[40]. Kontynuując powyższe rozważania, zasadne wydaje się przyjęcie tezy, że to człowiek stanowi w systemie prawa pracy element absolutnie priorytetowy. Jako istota żywa, homo sapiens, jednostka funkcjonująca na rynku pracy wymaga ochrony nie tylko w zakresie podstawowych praw, lecz również wartości gwarantowanych konstytucyjnie. Szczególnej ochronie podlega w tym kontekście godność pracownika, która stanowi fundament zarówno dla stosunków zatrudnienia, jak i całego porządku prawnego. W obszarze regulacji dotyczących zatrudnienia odnaleźć można liczne odniesienia do norm chroniących podstawowe prawa jednostki. Należy jednak podkreślić, że wartością nadrzędną i fundamentalną, której przestrzeganie winno być bezwzględnie zapewnione, pozostaje wspomniana godność człowieka.

Każdy człowiek posiada niezbywalne prawo do godności. Podstawowym gwarantem tego prawa jest art. 30 Konstytucji Rzeczypospolitej Polskiej^[41], zgodnie z którym przyrodzona i niezbywalna godność osoby ludzkiej stanowi źródło wolności oraz praw człowieka i obywatela. Godność ta ma charakter nienaruszalny, a obowiązek jej poszanowania i ochrony spoczywa na organach władzy publicznej. Ponadto art. 32 ust. 1 Konstytucji RP ustanawia zasadę równości wobec prawa, co oznacza konieczność wyeliminowania wszelkich form dyskryminacji naruszających godność jednostki. Należy przy tym podkreślić, że godność nie może być uzależniana ani od wieku, ani od stanu psychicznego człowieka. Choć wskazane czynniki mogą wpływać na zakres zdolności do czynności prawnych, nie mogą one determinować samego faktu człowieczeństwa jednostki^[42].

W związku z powyższym wykorzystywanie algorytmów w sferze zatrudnienia nie może naruszać omawianej godności pracownika. Ich wsad jest jednak bardzo nacechowany historycznie i dyskryminacyjnie. Istotne jest, że w znacznej liczbie przypadków zrekonstruowanie podstaw, na których oparto decyzję w sprawach pracowniczych, pozostaje wysoce utrudnione. Wówczas pojawia się problem nieprzejrzystości algorytmicznej, określany w literaturze jako black box. Pracownicy bądź też osoby rekrutowane mogą nie zdawać sobie sprawy z zastosowania wobec nich dyskryminacyjnego algorytmu. Wychwycenie, że model czarnej skrzynki podejmuje błędne decyzje lub w stały sposób generuje niedokładne albo negatywnie nacechowane wyniki, bądź dostosowanie modelu w celu skorygowania jego działania może być zadaniem bardzo trudnym. Problematyka czarnych skrzynek jest na tyle skomplikowana, że nawet programiści nie wiedzą, jakie mechanizmy działają wewnątrz modelu. Tym samym przeciętna osoba nie będzie świadoma, że została dotknięta naruszeniem^[43]. Algorytmy funkcjonują na podstawie skomplikowanych modeli matematycznych, których mechanizmy działania pozostają często nieprzejrzyste i trudne do zrozumienia dla pracowników. Brak transparentności w procesach decyzyjnych może generować poczucie utraty kontroli nad własną ścieżką zawodową, co w konsekwencji może być interpretowane jako naruszenie godności pracowniczej. Istotnym aspektem jest również konieczność uwzględnienia kontekstu indywidualnego. Regulacje prawa pracy nakładają obowiązek podejmowania decyzji kadrowych z poszanowaniem indywidualnych kwalifikacji, osiągnięć oraz szczególnych okoliczności dotyczących pracownika. Algorytmy, z powodu swojej konstrukcji, wykazują ograniczoną zdolność do uwzględniania tego rodzaju czynników, co stwarza ryzyko niesprawiedliwego traktowania jednostek. Przykładowo, system rekrutacyjny oparty na algorytmie może automatycznie odrzucać kandydatów mających przerwy w zatrudnieniu, nie uwzględniając przyczyn, takich jak sprawowanie opieki nad rodziną bądź choroba, co stanowi przejaw naruszenia ich godności.

W związku z możliwością naruszenia godności przez pracodawcę, a także przez wykorzystywaną przez niego w sektorze pracy technologię, Kodeks pracy zawiera uregulowanie, które zapewni możliwość ochrony przed tego rodzaju naruszeniami. Zgodnie z treścią art. 11¹ k.p. pracodawca zobowiązany jest do poszanowania godności oraz innych dóbr osobistych pracownika. Analizując powyższe zagadnienia, należy wskazać, że ochrona godności pracowniczej znajduje swoje umocowanie zarówno w regulacjach kodeksowych, jak i konstytucyjnych. Godność oraz inne dobra osobiste stanowią podstawowe zasady prawa pracy, które muszą być bezwzględnie przestrzegane. Odpowiedzialność pracodawcy aktualizuje się nie tylko w przypadku, gdy sam dopuści się naruszenia, lecz także wówczas, gdy sprawcą jest inny pracownik lub osoba trzecia, a pracodawca nie podjął działań zapobiegających temu naruszeniu. W konsekwencji również wprowadzenie do algorytmu danych nacechowanych w sposób negatywny, skutkujących naruszeniem dóbr osobistych, obciąża odpowiedzialnością pracodawcę, o ile nie dochował on należytej staranności w zakresie ochrony pracownika. Pracownik w razie naruszenia jego dóbr osobistych dysponuje szerokim katalogiem środków ochrony prawnej przewidzianych w Kodeksie cywilnym^[44], takich jak żądanie zaniechania naruszeń, wystąpienie o stosowne przeprosiny, zasądzenie świadczenia na cel społeczny czy odszkodowanie. Ważne we wspomnianych uregulowaniach jest to, że osoba poszkodowana może się na nie powoływać nie tylko w sytuacji, kiedy działania pracodawcy wyrządziły szkodę, ale także w sytuacji dokonania przez niego zaniechań. Najistotniejsze jest wskazanie, że na osobie poszukującej ochrony prawnej ciąży obowiązek wykazania, że doszło do zagrożenia bądź naruszenia dobra osobistego^[45]. Dodatkowo przepisy Kodeksu pracy przyznają możliwość rozwiązania stosunku pracy bez wypowiedzenia z winy pracodawcy, a także dochodzenia rekompensaty pieniężnej. Tym samym obowiązek respektowania godności i dóbr osobistych ma charakter bezwzględny i nie może być uzależniany od żadnych okoliczności, a każde naruszenie skutkuje odpowiedzialnością pracodawcy.

7. Podsumowanie

Rozwój nowych technologii, a w szczególności systemów opartych na algorytmach i sztucznej inteligencji, w sposób bezprecedensowy oddziałuje na rynek pracy oraz relacje pracownicze. Algorytmy, choć początkowo postrzegane jako narzędzia neutralne, wolne od ludzkich uprzedzeń, w praktyce okazują się nośnikami zakorzenionych w społeczeństwie dyskryminacyjnych wzorców. Ich wykorzystanie w procesach rekrutacyjnych, ocenie efektywności czy podejmowaniu decyzji kadrowych może prowadzić do naruszeń zasady równego traktowania, a przede wszystkim godności pracownika, która stanowi wartość konstytucyjnie chronioną i będącą fundamentem prawa pracy. Istotnym problemem jest brak przejrzystości mechanizmów algorytmicznych (tzw. black box), ograniczona zdolność wpływania na nieuwzględnienie przez system kontekstu indywidualnego oraz ryzyko reprodukcji błędnych i dyskryminujących działań. W konsekwencji decyzje podejmowane w oparciu o algorytmy posiadające dyskryminacyjnie lub też błędnie nacechowany wsad mogą prowadzić do nierówności oraz poczucia utraty autonomii przez pracownika. Z tego względu kluczowe pozostaje stosowanie istniejących instrumentów ochronnych – zarówno konstytucyjnych (art. 30 i 32 Konstytucji RP), kodeksowych (art. 11¹ i 18^3a k.p.), jak i wynikających z prawa unijnego, w tym RODO oraz AI Act. Wnioskiem nadrzędnym jest stwierdzenie, że człowiek jako podmiot pracy powinien pozostać w centrum systemu prawa pracy niezależnie od stopnia zaawansowania technologicznego procesów zatrudnienia. Algorytm wchodzący wraz z informacją oraz automatem w skład triady informatyki, stanowi najważniejszy i najbardziej kolizyjny aspekt, który musi zostać ujęty w odpowiednie ramy prawne. Jak wynika z wyżej przetoczonych rozważań, do dyskryminacji dochodzi zarówno podczas stosunku pracy, jak i na etapie rekrutacji. Wraz z coraz większym rozwojem technologicznym również struktura działania algorytmów ulega zmianie. Algorytmy mogą stanowić użyteczne narzędzie wspierające podejmowanie decyzji, lecz ich funkcjonowanie musi podlegać zasadzie transparentności, kontroli i zgodności z wartościami demokratycznymi. Ostatecznym celem regulacji oraz praktyki powinno być zapewnienie równowagi między efektywnością technologiczną a nienaruszalnością praw jednostki.