Hvordan en virksomhed bruger maskinlæring til at fjerne bias fra ansættelsesprocessen
Udgivelsesdato:Redaktørens note: Stuart Nisbet er chefdataforsker hos Cadient Talent, et talentopkøbsfirma med base i Raleigh.
RALEIGH — Hos Cadient Talent er det et spørgsmål, vi kæmper med dagligt: Hvordan fjerner vi bias fra ansættelsesprocessen?
Den eneste måde at løse et problem eller en skævhed på er at anerkende det direkte under den videnskabelige undersøgelses kontrol. Gennem anvendelsen af maskinlæring er vi i stand til at lære, hvor vi har begået fejl i fortiden, hvilket giver os mulighed for at træffe mindre forudindtagede ansættelsesbeslutninger fremover. Når vi afslører ubevidst bias, eller endda bevidst bias, og uddanner os selv til at gøre det bedre baseret på upartisk maskinlæring, er vi i stand til at tage det første skridt mod at rette et identificeret problem.
HVAD ER BIAS?
Bias er defineret som en fordom eller en fordom til fordel for eller imod én ting, person eller gruppe sammenlignet med en anden, normalt på en måde, der anses for at være uretfærdig. Tænk på bias som tre sæt fakta: Det første er et sæt objektive fakta, der er universelt accepteret. Den anden er et sæt fakta, der bekræfter overbevisninger, på linje med, hvad en person mener er sandt. Hvor bias kommer ind i billedet, er i skæringspunktet mellem de objektive fakta og de fakta, der bekræfter personlige overbevisninger.
Ved selektivt at vælge de fakta, der bekræfter bestemte overbevisninger, og fokusere på de ting, der bekræfter disse overbevisninger, indtræder bias. Hvis vi ser på ansættelse fra det perspektiv, og hvis vores mål er at fjerne bias fra ansættelsesprocessen, så skal vi fjerne det personlige valg af, hvilke datapunkter der indgår i processen. Alle datapunkter, der bidrager til et positivt valg (ansæt ansøgeren) eller negativt valg (afvis ansøgeren), indgår i processen, og valget af datapunkterne og deres vægtning sker objektivt gennem statistik, ikke subjektivt gennem menneskelige valg.
Hvordan kan computeralgoritmer hjælpe os med dette? Vores mål er at være i stand til at øge menneskers intelligens, især ved at bruge erfaringer og forudgående dømmekraft i tidligere ansættelsesbeslutninger, med vægt på dem, der resulterede i gode ansættelsesbeslutninger. "God ansættelse" kan måles på en række måder, der ikke implementerer upassende bias, såsom medarbejdernes levetid. Hvis en nyansættelse ikke forbliver på jobbet ret længe, så var rekrutteringsindsatsen måske ikke godt udført, og set i bakspejlet ville du ikke have valgt den ansøger. Men hvis du ansætter en, der er produktiv og bliver i lang tid, vil denne person blive betragtet som en god ansættelse.
HVORFOR ØNSKER VI AT FJERNE BIAS FRA ANSÆTTELSESBESLUTNINGER?
Vi ønsker at fjerne bias, når det er utilsigtet eller ikke har betydning for, om en medarbejder skal kunne udføre jobbet på en tilfredsstillende måde. Så hvis en ansættelsesleders hele ansvar er at anvende deres viden og erfaring til at bestemme den bedste pasform, hvorfor bruger vi så maskinlæring til at eliminere bias? Fordi kunstig intelligens kun fjerner skævheden mod ikke-arbejdsrelaterede kandidategenskaber og forstærker beslutninger baseret på relevante arbejdsegenskaber, hvor der er passende skævhed.
Vores mål er derefter at gøre ansættelsesprocessen så gennemsigtig som muligt og overveje alle de variabler, der bruges i en ansættelsesbeslutning. Det er ekstremt kompliceret, hvis ikke umuligt, hvis du ikke har andet end en menneskebaseret tilgang, fordi en ansættelsesleders beslutningstagning er langt mere kompleks og mindre forstået end en maskinlæringsalgoritme. Så vi ønsker at fokusere på styrken ved enkelhed i en maskinlæringsalgoritme; hvilket betyder, at vi kun ønsker at se på variabler, kolonner og stykker data i algoritmen, der er relevante for ansættelsesprocessen og ikke inkluderer datapunkter, der ikke er relevante for ydeevnen.
Et vurderingsresultat, for eksempel, hvad enten det er kognitivt eller personlighedsbaseret, kan være et meget validt datapunkt at overveje, hvis de egenskaber, der vurderes, er relevante for jobbet. Arbejdshistorie og demonstreret præstation i lignende roller kan være meget vigtigt at overveje. Det modsatte er også meget klart. Køn, etnicitet og alder bør ikke have nogen legitim indflydelse på en persons jobpræstation. Dette næste punkt er kritisk. En ansættelsesleder kan ikke møde en ansøger i et interview og troværdigt sige, at de ikke anerkender køn, etnicitet eller generelle alderskategori for den person, der sidder overfor dem. Uanset vores intentioner, er dette utroligt svært at gøre. Omvendt er det den nemmeste opgave for en algoritme at udføre.
Hvis algoritmen ikke er angivet med køn, etnicitet eller alder, er der ingen chance for, at disse variabler tages med i ansættelsesbeslutningen. Dette indebærer at bringe de data ind, der er relevante, at få et computerkig på, hvilke ansættelsesbeslutninger der er blevet truffet i fortiden, som har resulteret i højtydende langsigtede medarbejdere, og derefter styrke fremtidige beslutninger baseret på tidligere resultater af god ansættelsesledelsespraksis . Dette vil i sidste ende fjerne skævheden i ansættelser.
En af de ting, der fortjener overvejelse, er ideen om at fastholde tidligere praksis, der kunne være forudindtaget. Hvis alt, hvad vi gør, er at ansætte, som vi tidligere har ansat, og der har været fordomsfulde eller partiske ansættelsespraksis, kan det fremme institutionel skævhed. Gennem tiden har vi trænet computere til at gøre præcis, hvad en forudindtaget leder ville have gjort tidligere. Hvis de eneste data, der bliver brugt ("trænet") til ansættelse, er de samme data, som er udvalgt af fortidens skævheder, så er det svært at træne på data, der ikke er forudindtaget. For eksempel, hvis vi identificerer køn som en bias i ansættelsesprocessen, og vi tager kønsvariablen ud af algoritmen, vil køn ikke blive taget i betragtning. Når vi markerer tidligere bias, er vi i stand til at minimere fremtidig bias.
Vi bør uforskammet se på, om vi er i stand til at identificere og lære af ansættelsespraksis, der kan have haft skævhed i fortiden. Dette er en af de største styrker ved at anvende meget simple maskinlæringsalgoritmer inden for timeansættelse.
HVAD HVIS ET EKSPLICIT MÅL ER MANGFOLDIGHED? KAN VI STADIG LEJE DE BEDSTE?
Et aspekt af ansættelsesprocessen, der åbner op for mange muligheder inden for kunstig intelligens og maskinlæring, er implementering af diversitet.
Kunstig intelligens kan virkelig adskille sig her. Maskinlæring kan træffe de allerbedste ansættelsesbeslutninger baseret på de data, den er givet; hvis du har mangfoldighedsmål og ønsker ansættelsespraksis til at opmuntre til en mangfoldig arbejdsgruppe, er det meget enkelt at vælge de bedste kandidater fra hvilken som helst population, der er vigtig for virksomhedens mål. Dette kan gøres gennemsigtigt og enkelt. Det prioriterer ikke én person frem for en anden. Det giver mulighed for at ansætte de allerbedste kandidater fra hver befolkning, som du er interesseret i at repræsentere virksomheden.
Ved granskning og videnskabelig undersøgelse kan maskinlæring være et meget værdifuldt værktøj til at øge de ansættelsesbeslutninger, ledere træffer hver dag, og hjælpe med at forstå, hvornår bias har indgået i vores beslutninger og givet langt mindre end vores samlede bedste.
Original artikelkilde: WRAL TechWire