Systemy SI wykazują silniejsze uprzedzenia przy wyborze kandydatów niż ludzie

Jak podaje MIT Technology Review (https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/), aktualne badania pokazują, że sztuczna inteligencja (SI) przy wyborze kandydatów częściej wydaje stronnicze oceny niż ludzie. Chociaż systemy SI często są przedstawiane jako obiektywne narzędzia usprawniające procesy rekrutacyjne, nowe badania ujawniają, że nie tylko przejmują ludzkie uprzedzenia z danych treningowych, lecz także mogą rozwijać własne, systematyczne zniekształcenia.

Uprzedzenia SI w rekrutacji

Badanie opiera się na szeroko zakrojonych testach dużych modeli językowych (Large Language Models, LLM), które są coraz częściej wykorzystywane w systemach zarządzania kandydatami. Modele te analizują CV, listy motywacyjne i inne dokumenty aplikacyjne, aby wyłonić odpowiednich kandydatów. Okazało się, że SI nie tylko reprodukuje istniejące społeczne uprzedzenia, ale w niektórych przypadkach działa nawet bardziej dyskryminująco niż rekruterzy-ludzie. Przykładem jest faworyzowanie określonych płci lub grup etnicznych, które są nadreprezentowane w danych treningowych. Ponadto systemy SI mają tendencję do wzmacniania stereotypowych wzorców, na przykład poprzez dyskryminowanie kandydatów z nietypowymi ścieżkami kariery lub pochodzących z mniej znanych instytucji edukacyjnych.

Dlaczego powstają uprzedzenia SI?

Przyczyny tkwią w sposobie trenowania modeli SI. Uczą się one na podstawie dużych zbiorów danych historycznych, które odzwierciedlają ludzkie decyzje i społeczne nierówności. Ponieważ te dane nie są neutralne, modele przejmują ukryte uprzedzenia. Dodatkowo mechanizmy algorytmiczne mogą same generować nowe zniekształcenia, na przykład przez nadawanie wagi określonym cechom lub sposób rozpoznawania wzorców.

Konsekwencje dla kandydatów i firm

Skutki są poważne: kandydaci niesprawiedliwie oceniani przez systemy SI mogą nie otrzymać szansy na rozmowę kwalifikacyjną, mimo że są wykwalifikowani. Dla firm oznacza to nie tylko utratę potencjalnie odpowiednich talentów, ale także ryzyko prawne i reputacyjne, jeśli zostanie udowodniona dyskryminacja.

Podejścia do poprawy

Naukowcy i twórcy pracują nad metodami uczynienia systemów SI bardziej sprawiedliwymi. Obejmują one staranny dobór i oczyszczanie danych treningowych, stosowanie algorytmów wykrywających uprzedzenia oraz integrację mechanizmów transparentności, które pozwalają zrozumieć, jak podejmowane są decyzje. Obiecujące są także modele hybrydowe, w których rekomendacje SI są weryfikowane przez ludzi.

Dlaczego to ważne

Ponieważ systemy oparte na SI są coraz częściej stosowane w rekrutacji, kluczowe jest zrozumienie i przeciwdziałanie ich słabościom. Tylko w ten sposób można zapewnić, że innowacje technologiczne rzeczywiście przyczynią się do większej równości szans, zamiast pogłębiać istniejące nierówności. Dla kandydatów oznacza to uczciwą szansę, dla firm lepszą jakość wyboru personelu, a dla społeczeństwa ogólnie większą sprawiedliwość na rynku pracy.

Perspektywy

Debata na temat SI i uprzedzeń jest częścią szerszego dyskursu o etyce i odpowiedzialności w sztucznej inteligencji. W miarę postępu technologii rośnie też potrzeba ustanowienia jasnych standardów i regulacji, które zapobiegną dyskryminacji i zwiększą transparentność. Wyniki obecnych badań podkreślają, że SI nie jest panaceum, lecz narzędziem, które musi być stosowane z rozwagą i krytyczną kontrolą.