Conformitate EU AI Act în recrutare
Folosirea inteligenței artificiale pentru selecția candidaților este încadrată la risc ridicat. Treegarden păstrează jurnalul fiecărei decizii, explicația din spatele scorului și urma intervenției umane, ca să poți arăta ce s-a întâmplat și de ce.
Ce spune regulamentul despre recrutarea cu AI
Regulamentul (UE) 2024/1689 privind inteligența artificială încadrează la risc ridicat sistemele de IA folosite pentru recrutarea sau selecția persoanelor, inclusiv pentru publicarea de anunțuri de job, analizarea și filtrarea candidaturilor și evaluarea candidaților (anexa III, punctul 4 litera a).
Compania care folosește un astfel de sistem este implementator în sensul regulamentului și are obligații proprii, prevăzute la articolul 26:
- să atribuie supravegherea umană unor persoane care au competența, formarea și autoritatea necesare (art. 26 alin. 2);
- să păstreze jurnalele generate automat de sistem cel puțin șase luni (art. 26 alin. 6);
- să informeze reprezentanții lucrătorilor și lucrătorii vizați înainte de punerea în funcțiune la locul de muncă (art. 26 alin. 7);
- să informeze persoanele care fac obiectul sistemului (art. 26 alin. 11).
Obligațiile de mai sus revin angajatorului. Rolul platformei este să îți dea înregistrările și mecanismele cu care le poți îndeplini, nu să le înlocuiască.
Ce înregistrează Treegarden pentru fiecare decizie
Pentru fiecare decizie a modulului Edera AI, Treegarden salvează:
- versiunea sistemului de IA care a produs rezultatul;
- tipul deciziei și categoriile datelor de intrare, împreună cu amprenta lor;
- scorul și recomandarea generate, plus explicația care le însoțește;
- dacă a fost necesară revizuirea umană;
- cine a intervenit, când, din ce motiv și care era rezultatul inițial, înainte de intervenție;
- termenul până la care se păstrează înregistrarea.
Jurnalul se exportă, astfel încât perioada minimă de șase luni cerută la art. 26 alin. 6 să poată fi acoperită și dovedită.
AI-ul propune, omul decide
Candidații evaluați de Edera AI ajung într-o coadă de revizuire, nu direct într-o decizie finală. Un recrutor confirmă sau schimbă rezultatul, iar modificarea se salvează împreună cu rezultatul inițial, cu autor, moment și motiv.
Treegarden nu respinge automat un candidat pe baza scorului generat de AI. Respingerea automată funcționează doar pe criteriile pe care le definești tu la crearea jobului, iar candidatul poate cere oricând revizuire umană sau explicații, conform articolului 22 din GDPR.
Cui i se aplică evaluarea de impact
Evaluarea impactului asupra drepturilor fundamentale, prevăzută la articolul 27, nu revine oricărui angajator privat. Ea este obligatorie pentru instituțiile publice, pentru entitățile private care prestează servicii publice și pentru sistemele din anexa III punctul 5 literele b și c, adică evaluarea bonității și asigurările de viață și sănătate.
Dacă organizația ta se încadrează în aceste categorii, Treegarden include un modul de evaluare în care înregistrezi evaluatorul și rolul lui, data completării, obligațiile bifate, data următoarei revizuiri și starea evaluării. Dacă nu te încadrezi, obligația nu îți revine, iar modulul rămâne opțional.
Întrebări despre conformitate
Recrutarea cu AI este cu adevărat un sistem cu risc ridicat?
Da. Anexa III punctul 4 litera a din Regulamentul (UE) 2024/1689 încadrează la risc ridicat sistemele de IA folosite pentru recrutarea sau selecția persoanelor, inclusiv pentru analizarea și filtrarea candidaturilor și evaluarea candidaților.
Ce obligații am eu, ca angajator, dacă folosesc Treegarden cu AI activ?
Ești implementator în sensul regulamentului. Articolul 26 îți cere să atribui supravegherea umană unor persoane competente și instruite, să păstrezi jurnalele generate automat cel puțin șase luni, să informezi reprezentanții lucrătorilor și lucrătorii vizați înainte de punerea în funcțiune și să informezi persoanele care fac obiectul sistemului.
Trebuie să fac o evaluare a impactului asupra drepturilor fundamentale?
Numai dacă ești instituție publică, entitate privată care prestează servicii publice sau dacă folosești sisteme din anexa III punctul 5 literele b și c, adică evaluarea bonității sau asigurări de viață și sănătate. Pentru recrutarea obișnuită din sectorul privat, articolul 27 nu se aplică.
Respinge Treegarden candidați în mod automat, pe baza scorului AI?
Nu. Scorul generat de AI propune, nu decide. Respingerea automată funcționează exclusiv pe criteriile definite de tine la crearea jobului, iar fiecare intervenție umană se înregistrează împreună cu rezultatul inițial.
Pot demonstra unui auditor cum a fost evaluat un candidat?
Da. Pentru fiecare decizie se păstrează versiunea sistemului, categoriile datelor de intrare, scorul, recomandarea și explicația, dacă a fost cerută revizuirea umană, cine a intervenit, când și de ce. Jurnalul se poate exporta.
Vezi Treegarden pe procesele tale
Îți arătăm într-o demonstrație ghidată cum arată jurnalul de decizii și coada de revizuire.
Solicită o demonstrație