Bywa tak: HR wybiera narzędzie AI do rekrutacji, a prawnik i inspektor ochrony danych dostają umowę na końcu, gdy decyzja już zapadła. Wtedy trudno o cokolwiek zapytać, a jeszcze trudniej coś zmienić. Zebrałam więc to, o co warto zapytać dostawcę i co przygotować u siebie, zanim system zacznie pracować.
Jedna klasyfikacja i trzy daty
Najpierw zastrzeżenie: ten tekst nie jest poradą prawną. To lista pytań i rzeczy do przygotowania. Ocenę własnej sytuacji zostawcie swoim prawnikom.
W AI Act, czyli unijnym akcie o sztucznej inteligencji, systemy do selekcji i oceny kandydatów to co do zasady systemy wysokiego ryzyka (załącznik III pkt 4 i art. 6). Dlatego zaczynam od pytania, jak dostawca klasyfikuje swój system i jakie dokumenty dostaniecie.
Warto też znać trzy daty. Rozpoznawanie emocji w miejscu pracy jest co do zasady zakazane od lutego 2025 (art. 5 AI Act). Od sierpnia 2026 rozmówca musi się dowiedzieć, że rozmawia z AI, najpóźniej na początku rozmowy (art. 50 AI Act). Wymagania dla systemów wysokiego ryzyka w rekrutacji stosuje się od 2 grudnia 2027 (rozporządzenie (UE) 2026/1744).
Z dwóch pierwszych dat wynikają dwa pytania do dostawcy: czy system rozpoznaje emocje albo analizuje głos i mimikę oraz w jaki sposób kandydat dowiaduje się, że rozmawia z AI. Trzecia data wygląda na odległą, ale umowę podpisujecie dziś. O dokumenty i podział ról warto więc zapytać już teraz.
Dostawca i pracodawca odpowiadają za co innego
Często słyszę pytanie, kto odpowiada za obowiązki z AI Act: dostawca czy pracodawca. Odpowiedź ma dwie części.
Dostawca systemu wysokiego ryzyka odpowiada między innymi za zarządzanie ryzykiem, jakość danych, dokumentację, instrukcję użytkowania i ocenę zgodności. Pracodawca, który tego systemu używa, stosuje się do instrukcji, zapewnia nadzór człowieka, przechowuje logi oraz informuje pracowników, ich przedstawicieli i kandydatów.
Trzy punkty po stronie pracodawcy warto przeczytać dokładniej. Nadzór sprawują osoby z kompetencjami, przeszkoleniem, uprawnieniami i wsparciem (art. 26 ust. 2 AI Act). Logi pracodawca przechowuje co najmniej 6 miesięcy, jeśli są pod jego kontrolą, a inne przepisy nie stanowią inaczej (art. 26 ust. 6 AI Act). Pracowników i ich przedstawicieli pracodawca informuje przed użyciem systemu, a kandydatów wtedy, gdy system pomaga o nich decydować (art. 26 ust. 7 i 11 AI Act).
Jest też pułapka. Pracodawca może sam stać się dostawcą, na przykład gdy wprowadzi w systemie istotną zmianę albo opatrzy go własną nazwą lub znakiem towarowym (art. 25 ust. 1 AI Act). Zanim poprosicie dostawcę o wersję pod własną nazwą, zapytajcie prawnika, co to zmienia w podziale ról.
Do przygotowania u Was są więc trzy rzeczy. Wskażcie osoby, które będą nadzorować system, i zaplanujcie ich szkolenie. Ustalcie z dostawcą, kto przechowuje logi i jak długo. Zaplanujcie, kiedy i jak poinformujecie pracowników, ich przedstawicieli i kandydatów. Podział ról warto zapisać w umowie.
Człowiek decyduje, a kandydat wie, z kim rozmawia
Kolejny temat to decyzje o kandydatach. Artykuł 22 RODO dotyczy decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu. Poproście więc dostawcę, żeby pokazał, co system robi sam, a gdzie człowiek realnie ocenia wynik, a nie tylko formalnie go zatwierdza.
Pokażę to na przykładzie, który znam najlepiej. W wirtualnym rekruterze SmartyTalent kryteria ustala człowiek: brief z rozmowy z menedżerem wymaga akceptacji, zanim zacznie się praca. Każda ocena kandydata odwołuje się do tych kryteriów i ma uzasadnienie. Odmowa po ocenie CV, po rozmowie i po zadaniu jest propozycją z uzasadnieniem, którą zatwierdza człowiek. Bez udziału człowieka zgłoszenie zamyka tylko jedna sytuacja: odpowiedź na jawne pytanie eliminacyjne w formularzu, na przykład o prawo jazdy kategorii B, która nie spełnia wymogu koniecznego ustalonego z menedżerem. Traktujemy to jako decyzję zautomatyzowaną, a człowiek może taką decyzję cofnąć. Gdy kandydat nie odpowiada w wyznaczonym terminie, na przykład na zaproszenie do testu, wirtualny rekruter proponuje zamknięcie zgłoszenia, a zatwierdza je człowiek. Historia każdej decyzji zostaje w systemie.
Druga strona tej samej sprawy to kandydat. Gdy dzwoni do niego AI, sprawdzam trzy rzeczy. Po pierwsze, czy kandydat wie, że rozmawia z AI. Po drugie, czy wie, że rozmowa jest nagrywana, po co i jak długo nagranie będzie przechowywane. Po trzecie, czy może odmówić i porozmawiać z człowiekiem. W naszym przykładzie kandydat przed rozmową słyszy, że rozmowa jest nagrywana i prowadzi ją AI. Jeśli nie zgadza się na nagrywanie albo woli rozmowę z człowiekiem, dzwoni do niego człowiek.
Dokumenty i umowa przed decyzją
Odpowiedzi warto dostać na piśmie, razem z dokumentami. Przed wyborem narzędzia poproście dostawcę o:
- opis działania systemu: jak działa i jakie ma ograniczenia,
- instrukcję użytkowania: jak systemu używać i jak go nadzorować,
- ocenę ryzyka z analizą dyskryminacji i opis danych, na których system testowano,
- materiały do Waszej oceny skutków dla ochrony danych (DPIA),
- umowę powierzenia z listą dalszych podmiotów przetwarzających,
- program szkolenia dla osób, które nadzorują system.
Ocenę skutków dla ochrony danych przeprowadza pracodawca jako administrator danych, a dostawca dostarcza informacje (art. 35 RODO).
Potem umowa. Odpowiedzi z prezentacji muszą do niej trafić, inaczej zostaną obietnicą. W części o danych sprawdzam trzy zapisy. Pierwszy to umowa powierzenia z informacją o każdej zmianie dalszych podmiotów przetwarzających i prawem do sprzeciwu. Drugi to kraje, w których dane są przetwarzane, i podstawa transferu poza Europejski Obszar Gospodarczy. Trzeci mówi, czy dane kandydatów mogą posłużyć do trenowania modeli. Kolejne trzy dotyczą bezpieczeństwa i końca współpracy: termin, w jakim dostawca informuje o naruszeniu, prawo do audytu z dostępem do dokumentacji systemu oraz zwrot albo usunięcie danych po zakończeniu umowy.
Są też trzy zapisy związane z AI Act. Pierwszy to instrukcja użytkowania z informacjami, których człowiek potrzebuje do nadzorowania systemu. Drugi to logi: kto je przechowuje i jak długo. Trzeci to zmiany w systemie: jak i kiedy dostawca informuje o tych, które wpływają na ocenę kandydatów.
W SmartyTalent pakiet dokumentów przekazujemy przed decyzją o wdrożeniu. Są w nim między innymi dokumentacja techniczna, karty modeli i danych, ocena ryzyka z analizą dyskryminacji, instrukcja użytkowania i program szkolenia osób nadzorujących. System dokumentujemy z myślą o wymaganiach dla systemów wysokiego ryzyka już dziś.
Do sprawdzenia u siebie
- Jak dostawca klasyfikuje swój system według AI Act i jakie dokumenty dostaniemy przed podpisaniem umowy?
- Kto realnie podejmuje decyzję o kandydacie, a co system robi sam?
- Kto u nas będzie nadzorował system i czy ma do tego przeszkolenie, uprawnienia i wsparcie?
- Kto przechowuje logi systemu i jak długo?
- Skąd kandydat wie, że rozmawia z AI, i jak może poprosić o rozmowę z człowiekiem?
Do dalszego czytania polecam przewodnik z naszego bloga: „Darmowy przewodnik dla HR po AI Act i RODO”.
Film: „Bezpieczeństwo i AI Act w wirtualnym rekruterze”
AI może przygotować rekrutację, ale pytania, dokumenty i umowę warto mieć gotowe, zanim zacznie. Wtedy narzędzie przygotowuje, a o kandydacie decyduje człowiek.