Hur ett företag använder maskininlärning för att ta bort partiskhet från anställningsprocessen

Publiceringsdatum: 31 juli 2020

Redaktörens anteckning: Stuart Nisbet är chefsdataforskare på Cadient Talent, ett talangförvärvsföretag baserat i Raleigh.

RALEIGH — På Cadient Talent är det en fråga som vi brottas med dagligen: Hur eliminerar vi partiskhet från anställningsprocessen?

Det enda sättet att ta itu med ett problem eller partiskhet är att erkänna det direkt, under granskning av vetenskaplig undersökning. Genom tillämpningen av maskininlärning kan vi lära oss var vi har gjort fel tidigare, vilket gör att vi kan fatta mindre partiska anställningsbeslut framåt. När vi upptäcker omedvetna fördomar, eller till och med medvetna fördomar, och utbildar oss själva till att göra bättre ifrån oss baserat på opartisk maskininlärning kan vi ta det första steget mot att korrigera ett identifierat problem.

VAD ÄR BIAS?

Bias definieras som en fördom eller en fördom till förmån för eller emot en sak, person eller grupp jämfört med en annan, vanligtvis på ett sätt som anses vara orättvist. Tänk på partiskhet som tre uppsättningar fakta: Den första är en uppsättning objektiva fakta som är allmänt accepterade. Den andra är en uppsättning fakta som bekräftar övertygelser, i linje med vad en individ tror är sant. Där partiskhet kommer in i bilden är i skärningspunkten mellan objektiva fakta och fakta som bekräftar personliga övertygelser.

Genom att selektivt välja de fakta som bekräftar särskilda övertygelser och fokusera på de saker som bekräftar dessa övertygelser, kommer fördomar in. Om vi ser på anställning ur det perspektivet, och om vårt mål är att ta bort partiskhet från anställningsprocessen, då måste vi ta bort det personliga valet av vilka datapunkter som ingår i processen. Alla datapunkter som bidrar till ett positivt val (anställ sökande) eller negativt val (avvisa sökande) ingår i processen och valet av datapunkter och deras viktning sker objektivt genom statistik, inte subjektivt genom mänskliga val.

Hur kan datoralgoritmer hjälpa oss att göra detta? Vårt mål är att kunna öka människors intelligens, särskilt genom att använda erfarenheter och tidigare bedömningar i tidigare anställningsbeslut, med tonvikt på de som resulterat i bra anställningsbeslut. "Bra anställning" kan mätas på ett antal sätt, som inte implementerar olämplig partiskhet, till exempel medarbetarnas livslängd. Om en nyanställning inte stannar kvar på jobbet särskilt länge, kanske rekryteringsarbetet inte gjordes bra, och så här i efterhand hade du inte valt den sökanden. Men om du anställer någon som är produktiv och stannar länge, skulle den personen anses vara en bra anställning.

VARFÖR VILL VI TA BORT BIAS FRÅN ANSTÄLLNINGSBESLUTEN?

Vi vill ta bort partiskhet när det är oavsiktligt eller inte har någon betydelse för om en anställd ska kunna utföra jobbet på ett tillfredsställande sätt. Så om en anställningschefs hela ansvar är att tillämpa sin kunskap och erfarenhet för att bestämma den bästa passformen, varför använder vi maskininlärning för att eliminera partiskhet? Eftersom artificiell intelligens bara tar bort partiskheten mot icke-arbetsrelaterade kandidatattribut och förstärker beslut baserat på relevanta arbetsegenskaper, där det finns lämplig fördom.

Vårt mål är då att göra anställningsprocessen så transparent som möjligt och beakta alla variabler som används i ett anställningsbeslut. Det är extremt komplicerat, för att inte säga omöjligt, om du inte har något annat än ett människobaserat tillvägagångssätt eftersom beslutsfattandet för en anställningschef är mycket mer komplext och mindre förstådd än vad som gäller för en maskininlärningsalgoritm. Så vi vill fokusera på styrkan i enkelheten i en maskininlärningsalgoritm; vilket innebär att vi bara vill titta på variabler, kolumner och delar av data i algoritmen som är relevanta för anställningsprocessen och inte inkluderar några datapunkter som inte är relevanta för prestanda.

Ett bedömningsresultat, till exempel, oavsett om det är kognitivt eller personlighetsbaserat, kan vara en mycket giltig datapunkt att överväga om de egenskaper som bedöms är relevanta för jobbet. Arbetshistorik och visad prestation i liknande roller kan vara mycket viktigt att ta hänsyn till. Motsatsen är också mycket tydlig. Kön, etnicitet och ålder bör inte ha någon legitim betydelse för någons arbetsprestation. Denna nästa punkt är kritisk. En rekryteringschef kan inte träffa en sökande i en intervju och trovärdigt säga att de inte känner igen kön, etnicitet eller allmän ålderskategori för personen som sitter mittemot dem. Oavsett våra avsikter är det här otroligt svårt att göra. Omvänt är det den enklaste uppgiften för en algoritm att utföra.

Om algoritmen inte tillhandahålls kön, etnicitet eller ålder, finns det ingen chans för dessa variabler att tas med i anställningsbeslutet. Det handlar om att ta in den data som är relevant, att en dator titta på vilka anställningsbeslut som har fattats i det förflutna som har resulterat i högpresterande långtidsanställda, och sedan stärka framtida beslut baserade på tidigare resultat av god rekryteringshanteringspraxis . Detta kommer i slutändan att ta bort partiskheten i anställningen.

En av de saker som förtjänar att övervägas är idén om att vidmakthålla tidigare praxis som kan vara partisk. Om allt vi gör är att anställa som vi har anställt tidigare och det har förekommit fördomsfulla eller partiska anställningsmetoder, kan det främja institutionell partiskhet. Genom tiden har vi tränat datorer att göra exakt vad en partisk chef skulle ha gjort tidigare. Om den enda data som används (”utbildad”) för att anställa är samma data som väljs ut av tidigare fördomar, då är det svårt att träna på data som inte är partisk. Om vi till exempel identifierar kön som en fördom i anställningsprocessen, och vi tar bort könsvariabeln ur algoritmen, kommer kön inte att beaktas. När vi flaggar tidigare bias kan vi minimera framtida bias.

Vi bör ogenerat titta på om vi kan identifiera och lära oss av anställningsmetoder som kan ha haft partiskhet i det förflutna. Detta är en av de största styrkorna med att tillämpa mycket enkla maskininlärningsalgoritmer inom området för timanställning.

VAD OM ETT EXPLICIT MÅL ÄR MÅNGFALD? KAN VI FORTFARANDE ANställa DE BÄSTA?

En aspekt av anställningsprocessen som öppnar upp för många möjligheter inom området artificiell intelligens och maskininlärning är att implementera mångfald.

Artificiell intelligens kan verkligen särskilja sig här. Maskininlärning kan fatta de allra bästa anställningsbesluten baserat på den data som den ges; om du har mångfaldsmål och vill ha anställningsmetoder för att uppmuntra en mångsidig arbetspopulation, är det mycket enkelt att välja de bästa kandidaterna från vilken population som är viktig för företagets mål. Detta kan göras transparent och enkelt. Det prioriterar inte en person framför en annan. Det tillåter anställning av de allra bästa kandidaterna från varje population som du är intresserad av att representera företaget.

Vid granskning och vetenskaplig granskning kan maskininlärning vara ett mycket värdefullt verktyg för att utöka de anställningsbeslut som chefer fattar varje dag och hjälpa till att förstå när partiskhet har kommit in i våra beslut och gett mycket mindre än vårt kollektiva bästa.

Ursprunglig artikelkälla: WRAL TechWire