Wybieracie narzędzie AI do rekrutacji i od każdego dostawcy słyszycie, że jego system jest bezpieczny. Zapewnienia nie da się sprawdzić, a po podpisaniu umowy to Wy będziecie tłumaczyć kandydatom, prawnikom i zarządowi, jak ten system działa. Poniżej pięć pytań, które warto zadać przed decyzją, oraz wskazówki, po czym poznać dobrą odpowiedź.
1. Jak klasyfikujecie system i jakie dokumenty dostaniemy?
Unijny akt o sztucznej inteligencji (AI Act) co do zasady zalicza systemy AI używane w rekrutacji do kategorii systemów wysokiego ryzyka. Obowiązki ma wtedy także pracodawca, który z systemu korzysta, a nie tylko dostawca. Dlatego pierwsze pytanie dotyczy tego, jak dostawca sam określa swój system i co dostaniecie do ręki.
Dobra odpowiedź to lista dokumentów i terminy. Sygnał ostrzegawczy to samo zapewnienie, że wszystko jest w porządku.
Ułatwcie dostawcy zadanie i nazwijcie to, czego potrzebujecie. Możecie poprosić o instrukcję użytkowania, program szkolenia dla osób, które będą nadzorować system, opis tego, jak system używa kryteriów, sposób wstrzymania systemu i kanał zgłoszeń, okres przechowywania zapisów działania i dostęp do historii oraz wzór informacji dla kandydatów. Przy każdej pozycji zapytajcie o cztery rzeczy: co działa dziś, czego jeszcze nie ma, do kiedy będzie i w którym dokumencie można to sprawdzić.
Dla przykładu: wirtualny rekruter SmartyTalent jest projektowany i dokumentowany jako system wysokiego ryzyka. Przed decyzją dostajecie od nas instrukcję użytkowania, pakiet kompetencji i program szkolenia osób nadzorujących, wzory klauzul informacyjnych, analizę ryzyka przetwarzania danych, raport z testów modeli oraz stan każdego zabezpieczenia z terminem jego wdrożenia. Ten artykuł nie jest poradą prawną. To lista rzeczy, o które można poprosić każdego dostawcę.
2. Kto podejmuje decyzję o kandydacie?
Odpowiedź „człowiek” to za mało. Poproście o listę: co system robi samodzielnie, a o czym decyduje człowiek. Sygnał ostrzegawczy to ogólne zapewnienie bez takiej listy.
Dobra lista jest konkretna i nie ukrywa wyjątków. Nasza wygląda tak. Wirtualny rekruter przygotowuje wszystko do decyzji. Odmowę po ocenie zgłoszenia, rozmowie i zadaniu tylko proponuje i uzasadnia, a zatwierdza ją człowiek. Bez udziału człowieka zgłoszenie zamyka tylko jedna sytuacja: odpowiedź w formularzu, która nie spełnia wymogu koniecznego ustalonego z menedżerem. Taką decyzję też można cofnąć. Gdy kandydat nie odpowiada w wyznaczonym terminie, na przykład na zaproszenie do testu, wirtualny rekruter proponuje zamknięcie zgłoszenia, a zatwierdza je człowiek.
Uczciwa lista zawiera więc także to, co dzieje się automatycznie. Jeśli dostawca twierdzi, że jego system niczego nie robi sam, zapytajcie o pytania eliminacyjne w formularzu i o kandydatów, którzy nie odpowiadają na wiadomości. Zapytajcie też, kto u Was będzie mógł zmienić decyzję systemu, jak zostanie do tego przeszkolony i czy każdy etap da się przełączyć na tryb ręczny.
3. Gdzie trafiają dane kandydatów i kto je przetwarza?
CV, nagranie rozmowy i wynik zadania to dane osobowe ludzi, którzy zgłosili się do Was, a nie do dostawcy. Za dostawcą stoją zwykle kolejne firmy, które też przetwarzają te dane.
Dobra odpowiedź zawiera listę podmiotów i krajów oraz podstawę każdego przekazania danych poza Europejski Obszar Gospodarczy. Sygnał ostrzegawczy: lista z rozmowy różni się od listy w dokumentach. Jeśli tak jest, zapytajcie, która lista jest wiążąca.
Warto dopytać o trzy sprawy. Pierwsza: czy modele AI uczą się na danych Waszych kandydatów. Druga: jak długo dane są przechowywane i co dzieje się z nimi po zakończeniu umowy. Trzecia: jakie materiały dostaniecie do oceny skutków dla ochrony danych i jak wygląda umowa powierzenia. Podstawa prawna, klauzula informacyjna i ocena skutków pozostają po Waszej stronie, więc te materiały będą Wam potrzebne.
4. Czy system rozpoznaje emocje albo analizuje głos i mimikę?
Rozpoznawanie emocji w miejscu pracy jest w Unii zakazane od lutego 2025 roku. Tu dobra odpowiedź jest krótka: nie.
Samo „nie” jeszcze niczego nie dowodzi. Sygnał ostrzegawczy to „nie” bez potwierdzenia w dokumentacji. Poproście, żeby dostawca pokazał Wam miejsce w dokumentach, które opisuje, co system zapisuje po rozmowie z kandydatem i z czego powstaje ocena tej rozmowy. To pytanie jest ważne zwłaszcza wtedy, gdy narzędzie prowadzi rozmowy telefoniczne albo wideo.
5. Jak sprawdzacie, czy ocena nie dyskryminuje?
Dobra odpowiedź opisuje test, wynik i to, czego jeszcze nie zmierzono. Sygnał ostrzegawczy to zapewnienie, że system ocenia wszystkich sprawiedliwie, bez opisu żadnego testu. Takiego zdania nie da się sprawdzić.
Pokażemy to na własnym przykładzie. W naszych testach, na danych syntetycznych, dajemy modelowi to samo zgłoszenie ze zmienioną jedną cechą, na przykład imieniem albo rokiem urodzenia, i porównujemy oceny. Kryteria zaliczenia testu zapisujemy przed jego rozpoczęciem. Taki test wykrył u nas dwa problemy, które naprawiliśmy. Nie mamy jeszcze miar pozwalających ocenić wyniki dla całych grup kandydatów. Tego będzie dotyczył nasz następny pomiar.
W tej odpowiedzi są cztery elementy, których warto szukać u każdego dostawcy: metoda, kryteria zapisane z góry, wynik razem z wykrytymi problemami i ograniczenie nazwane wprost. Dostawca, który pokazuje także własne błędy i to, co z nimi zrobił, mówi Wam więcej niż ten, który pokazuje same sukcesy.
Zapytajcie też, co system robi, gdy menedżer poprosi o kandydata w określonym wieku albo określonej płci. Dopilnujcie, żeby kryteria wpisywane do systemu wynikały z wymagań stanowiska, i poproście o opis tego, jak system ich używa.
Do sprawdzenia u siebie
- Czy macie od dostawcy listę dokumentów z terminami, a nie samo zapewnienie?
- Czy wiecie, co system robi samodzielnie, a o czym decyduje człowiek, i kto u Was może zmienić decyzję systemu?
- Czy lista podmiotów przetwarzających dane, którą usłyszeliście w rozmowie, zgadza się z listą w dokumentach?
- Czy odpowiedź „nie” w sprawie emocji, głosu i mimiki jest potwierdzona w dokumentacji?
- Czy dostawca opisał test, wynik i to, czego jeszcze nie zmierzył?
Film: „5 pytań do dostawcy AI w rekrutacji”
Poproście o odpowiedzi na piśmie, razem z dokumentami. Im lepiej wiecie, co system przygotowuje sam, tym pewniej możecie powiedzieć, że u Was decyduje człowiek.