AI personāla vadībā: 4. panta atbilstība cilvēku komandām
4. pants nesaka "IT nodaļas". Tas nesaka "juridiskās komandas". Tas saka — ikviens, kas nodarbojas ar AI sistēmu darbību un lietošanu. Lielākajā daļā organizāciju šis apraksts attiecas uz personāla nodaļu vairāk nekā uz jebkuru citu funkciju.
Kad ES AI regulas 4. pants kļuva izpildāms 2025. gada 2. februārī, lielākā daļa atbilstības sarunu koncentrējās uz juridiskajām nodaļām un IT pārvaldību. Šis fokuss izlaida acīmredzamo: personāla nodaļas ir starp visproduktvākajiem AI sistēmu izvietotājiem jebkurā modernā organizācijā. Tās izmanto AI, lai atlasītu kandidātus, analizētu darbinieku veiktspēju, ieteiktu mācību ceļus, prognozētu mainību un automatizētu darbaspēka plānošanu. Katra no šīm lietojumprogrammām aktivizē 4. panta pratības mandātu — un vairākas ietilpst tieši ES AI regulas augsta riska klasifikācijā.
Ja jūsu personāla funkcija vēl nav iesaistīta 4. panta plānošanā, jums ir plaisa, kas paplašinās ar katru AI papildinātu lēmumu, ko pieņem jūsu personāla komanda.
Personāla nodaļa kā AI izvietotājs: tvēruma problēma
- pants prasa, lai "AI sistēmu izvietotāji veiktu pasākumus, lai, cik vien iespējams, nodrošinātu pietiekamu AI pratības līmeni saviem darbiniekiem un citām personām, kas nodarbojas ar AI sistēmu darbību un lietošanu viņu vārdā." Teksts ir tehnoloģiski neitrāls un funkcionāli neitrāls. Tas attiecas visur, kur darbojas AI sistēmas.
Apsveriet AI sistēmas, ko tipiska vidēja lieluma Eiropas personāla nodaļa šobrīd darbina:
Personāla atlase un atlase. Tādas platformas kā HireVue izmanto AI, lai novērtētu video intervijas, vērtējot kandidātus pēc verbālām un neverbālām norādēm. Harver (iepriekš Pymetrics) izmanto neirozinātņu spēles ar AI vadītiem atbilstības algoritmiem. Eightfold AI izmanto dziļo mācīšanos, lai saskaistītu kandidātu profilus ar amatu prasībām. Katra no šīm ir AI sistēma regulas izpratnē, un personāla speciālisti, kas tās konfigurē un interpretē to rezultātus, ir izvietotāji.
Veiktspējas analītika. Rīki, kas apkopo produktivitātes datus, atzīmē iesaistes krituma modeļus vai iesaka attīstības darbības, izmanto mašīnmācīšanās modeļus, ar kuriem personāla darbinieki ikdienā mijiedarbojas.
Mācīšanās un attīstība. AI vadītas platformas, kas personalizē apmācības ieteikumus, novērtē prasmju trūkumus vai prognozē karjeras trajektorijas, kvalificējas. Ironija ir bagāta: AI sistēma, kas iesaka jūsu apmācības programmu, pati ir pakļauta pratības mandātam.
Darbaspēka plānošana. Prognozēšanas modeļi mainībai, personāla skaita prognozēšanai un iekšējai mobilitātei izmanto AI veidos, par kuriem lielākā daļa personāla speciālistu apzinās, bet reti saprot mehāniski.
Personāla funkcija ne tikai "lieto" šos rīkus. Tā tos konfigurē, interpretē to rezultātus un rīkojas pēc to ieteikumiem veidos, kas tieši ietekmē cilvēku nodarbinātību un iztikas līdzekļus.
Kāpēc personāla jomai ir īpaša regulatīvā uzmanība
ES AI regula neizturas pret visām AI sistēmām vienādi. III pielikums nosaka atsevišķas kategorijas kā augsta riska, pakļaujot tās pastiprināiem pienākumiem, tostarp atbilstības novērtējumiem, cilvēka pārraudzības prasībām un detalizētai dokumentācijai. Nodarbinātības un darbaspēka vadības AI ir tieši minēts III pielikuma 4. sadaļā:
AI sistēmas, kas paredzētas izmantošanai fizisko personu pieņemšanai darbā vai atlasei, jo īpaši mērķētu darba sludinājumu izvietošanai, darba pieteikumu analīzei un filtrēšanai un kandidātu novērtēšanai ... AI sistēmas, kas paredzētas izmantošanai lēmumu pieņemšanai, kas ietekmē darba attiecību noteikumus, paaugstināšanu vai darba attiecību izbeigšanu.
Tas nav maznozīmīgs pieminējums. Nodarbinātības AI ir starp regulas galvenajām regulatīvajām prioritātēm, novietots līdzās biometriskai identifikācijai, kritiskai infrastruktūrai un tiesībaizsardzībai. Praktiskā implikācija: personāla komandas, kas izvietot personāla atlases AI, saskaras ne tikai ar 4. panta pratības pienākumiem, bet ar pilnu regulas augsta riska ietvara svaru.
Papildus VDAR 22. pants jau aizliedz lēmumus, kas balstīti vienīgi uz automatizētu apstrādi un rada tiesiskas sekas vai līdzīgi nozīmīgas sekas attiecībā uz personu — un nodarbinātības lēmumi ir starp skaidrākajiem piemēriem. Personāla speciālists, kas nespēj izskaidrot, kā AI atlases rīks nonāca pie sava ieteikuma, ne tikai neatbilst 4. pantam — viņš var veicināt VDAR pārkāpumu.
Ko nozīmē "pietiekama AI pratība" personāla jomai
- panta "pietiekama līmeņa" standarts ir apzināti kontekstuāls. Personāla speciālistiem pietiekamībai jāņem vērā konkrētās sistēmas, ko viņi izvietot, nodarbinātības lēmumu jutīgums un gan AI regulas, gan VDAR regulatīvais slānis. Praksē tas nozīmē vairākas konkrētas spējas.
Sistēmas mehānikas izpratne funkcionālā līmenī. Personāla speciālistam, kas lieto Eightfold AI kandidātu atbilstības meklēšanai, nav jāsaprot transformeru arhitektūras. Viņam jāsaprot, ka sistēma mācās no vēsturiskajiem pieņemšanas datiem, ka šie dati var iekodēt iepriekšējos aizspriedumus un ka atbilstības vērtējumi ir varbūtīgi, nevis determinēti.
Aizspriedumu vektoru atpazīšana. Eiropas Komisijas Augsta līmeņa ekspertu grupa AI jautājumos ir konsekventi norādījusi uz personāla atlases AI kā galveno aizspriedumu problēmu. Personāla komandām jāsaprot, kā apmācības dati, starpniekpazīmes un atgriezeniskās saites cilpas var ieviest vai pastiprināt diskrimināciju — ne kā abstrakti jēdzieni, bet kā praktiski riski rīkos, ko viņi lieto ikdienā.
Rezultātu kritiska izvērtēšana. Kad atlases rīks iesaka noraidīt 200 no 300 pretendentiem, personāla speciālists ar pietiekamu pratību jautā: kādi kritēriji vadīja filtrēšanu? Vai kādas aizsargātās pazīmes korelēja ar noraidīšanu? Vai noraidīšanas rādītājs atšķiras demogrāfisko grupu griezumā? Bez šīs spējas rīka rezultāts kļūst par neapstrīdamu melno kasti.
Jēgpilnas cilvēka pārraudzības nodrošināšana. AI regulas augsta riska ietvars prasa jēgpilnu cilvēka pārraudzību, nevis zīmogu likšanu. Personāla jomai tas nozīmē spēju pārrakstīt AI ieteikumus, zināšanas par to, kad pārrakstīšana ir atbilstoša, un dokumentēšanas praksi, kas demonstrē, ka cilvēka spriedums patiešām tika izmantots.
Lēmumu izskaidrošana ietekmētajām personām. VDAR caurskatāmības prasības kopā ar AI regulas noteikumiem nozīmē, ka kandidātiem un darbiniekiem ir tiesības saprast, kā tika pieņemti AI ietekmēti lēmumi. Personāla darbiniekiem jāspēj sniegt šos paskaidrojumus — kas prasa pietiekamu sistēmu izpratni, lai tās izskaidrotu.
Praktiskā plaisa: kur lielākā daļa personāla komandu atrodas šodien
Lielākā daļa personāla nodaļu ieviesa AI rīkus caur piegādātāju iepirkuma procesiem, kas uzsvēra funkcionalitāti, integrāciju un izmaksas. Piegādātāja apmācība fokusējās uz to, kā lietot rīka saskarni, nevis uz AI sistēmas ierobežojumu, aizspriedumu risku vai regulatīvo implikāciju izpratni.
2024. gada CIPD aptauja (Chartered Institute of Personnel and Development) konstatēja, ka, lai gan 45% personāla funkciju ziņoja par AI rīku lietošanu, tikai 18% bija kāda formāla apmācība AI pārvaldībā. Mercer pētījums no tā paša perioda konstatēja, ka 67% personāla vadītāju jutās "nesagatavoti" novērtēt AI rīkus, ko viņu nodaļas jau bija ieviesušas.
Šī plaisa nav hipotētiska. 2023. gadā ASV Vienlīdzīgu nodarbinātības iespēju komisija panāca izlīgumu pirmajā AI diskriminācijas lietā pret iTutorGroup, kas izmantoja AI personāla atlases programmatūru, kura automātiski noraidīja sieviešu pretendentes virs 55 un vīriešu pretendentus virs 60 gadiem. Personāla komanda, kas lietoja rīku, nesaprata tā filtrēšanas loģiku — mācību grāmatas piemērs tam, kā nepietiekama AI pratība ved pie diskriminējošiem rezultātiem.
Pieci soļi personāla 4. panta atbilstībai
1. Inventarizējiet savas AI sistēmas. Kartējiet katru rīku savā personāla tehnoloģiju kopumā, kas izmanto AI vai mašīnmācīšanos. Iekļaujiet personāla atlases platformas, veiktspējas rīkus, mācību sistēmas un darbaspēka analītiku. Daudzas personāla komandas atklāj, ka izvietot vairāk AI, nekā apzinājās.
2. Klasificējiet riska līmeņus. Salīdziniet savu inventāru ar AI regulas III pielikuma kategorijām. Jebkura sistēma, kas iesaistīta personāla atlasē, veiktspējas novērtēšanā vai nodarbinātības lēmumos, visticamāk ir augsta riska, aktivizējot pastiprinātus pienākumus ārpus pamatpratības.
3. Novērtējiet pašreizējo pratību. Izvērtējiet savas personāla komandas izpratni par katru AI sistēmu, ko tā lieto. Vai viņi var funkcionālā līmenī izskaidrot, kā sistēma ražo savus rezultātus? Vai viņi var identificēt potenciālos aizspriedumu vektorus? Vai viņi var formulēt sistēmas ierobežojumus? Trūkumi šajās spējās ir 4. panta atbilstības trūkumi.
4. Veidojiet lomai specifisku apmācību. Vispārīga AI izpratnes apmācība neapmierina 4. panta kontekstuālo standartu. Personāla speciālistiem nepieciešama apmācība, kas specifiska AI sistēmām, ko viņi izvietot, nodarbinātības lēmumiem, ko šīs sistēmas ietekmē, un VDAR un AI regulas pienākumiem, kas piemērojami.
5. Dokumentējiet visu. 4. pants prasa demonstrējamas pūles ("veikt pasākumus"). Uzturiet ierakstus par savu AI inventāru, risku novērtējumiem, apmācību programmām, apmeklējumu un kompetences vērtējumiem. Kad regulatori jautās, kā jūs nodrošinājāt pietiekamu pratību, dokumentācija ir jūsu pierādījums.
Krustpunkts, par kuru neviens nerunā
- panta atbilstība parasti tiek formulēta kā apmācības pienākums. Personāla jomai tā ir kaut kas fundamentālāks: cilvēki, kas atbild par organizācijas apmācības programmu izstrādi un nodrošināšanu, paši ir pakļauti pratības mandātam, kuru viņi, iespējams, vēl neizpilda.
Tas rada rekursīvu izaicinājumu. Personāla nodaļai jāveido organizācijas mēroga AI pratība, lai apmierinātu 4. pantu — bet pašai personāla nodaļai vajadzīga AI pratība, lai veidotu efektīvas programmas. Funkcija, kas atbild par atbilstību, vienlaikus ir atbilstības subjekts.
Organizācijas, kas atpazīst šo duālo lomu un agri investē personāla AI pratībā, iegūs strukturālu priekšrocību. To atbilstības programmas veidos cilvēki, kas patiesi saprot sistēmas, riskus un regulatīvās prasības — nevis cilvēki, kas atzīmē izvēles rūtiņas, ko pilnībā nesaprot.
Sources
-
EU AI Act — Regulation (EU) 2024/1689, Article 4 and Annex III (2024): The full text of the AI literacy mandate and high-risk AI classification for employment and workforce management. eur-lex.europa.eu
-
GDPR — Article 22, Automated Decision-Making (2016): Prohibition of decisions based solely on automated processing that produce legal effects or similarly significant effects. gdpr-info.eu
-
CIPD — "Quantifying the Impact of Generative AI" (2024): Survey finding 45% of HR functions use AI tools but only 18% have formal AI governance training. cipd.org
-
Mercer — "Global Talent Trends" (2024): Study finding 67% of HR leaders feel "unprepared" to evaluate the AI tools their departments have deployed. mercer.com
-
U.S. Equal Employment Opportunity Commission — "iTutorGroup to Pay $365,000 to Settle EEOC Discriminatory Hiring Suit" (2023): The first AI discrimination case, where recruitment software automatically rejected applicants based on age. eeoc.gov
-
European Commission — High-Level Expert Group on AI (2019): Guidelines on trustworthy AI, including recruitment AI as a primary bias concern. digital-strategy.ec.europa.eu
Detalizētai 4. panta teksta un izpildes grafika analīzei skatiet mūsu 4. panta analīzi juridiskajām komandām. Plašākam kompetences ietvaram, kas kartē AI pratību organizācijas līmeņos, izpētiet Twin Ladder ietvaru.