一家公司如何利用機器學習消除招募過程中的偏見
發布日期：編按：Stuart Nisbet 是位於羅利的人才招募公司 Cadient Talent 的首席資料科學家。
羅利 — 在 Cadient Talent，這是我們每天都在努力解決的問題：我們如何消除招募過程中的偏見？
解決問題或偏見的唯一方法是在科學檢驗的監督下正面承認它。透過機器學習的應用，我們能夠了解過去犯過的錯誤，使我們能夠在未來做出更少偏見的招募決策。當我們發現無意識的偏見，甚至有意識的偏見，並教育自己在無偏見的機器學習的基礎上做得更好時，我們就能夠邁出糾正已識別問題的第一步。
什麼是偏見？
偏見被定義為與另一件事、人或群體相比，對另一件事、人或群體有利或反對的預判或成見，通常以被認為不公平的方式。將偏見視為三組事實：第一組是被普遍接受的客觀事實。第二個是證實信念的一組事實，與個人所相信的真實情況一致。偏見出現的地方是客觀事實和證實個人信念的事實之間的交叉點。
透過選擇性地選擇證實特定信念的事實並專注於證實這些信念的事物，偏見就會出現。如果我們從這個角度看待招聘，而我們的目標是消除招聘過程中的偏見，那麼我們需要消除個人對流程中包含哪些數據點的選擇。所有有助於積極選擇（僱用申請人）或消極選擇（拒絕申請人）的數據點都包含在該過程中，並且數據點及其權重的選擇是透過統計客觀地完成的，而不是透過人類的主觀選擇來完成的。
計算機演算法如何幫助我們做到這一點？我們的目標是能夠增強人類的智力，特別是透過利用過去招募決策中的經驗和事先判斷，重點關注那些導致良好招募決策的因素。 「良好的招募」可以透過多種方式來衡量，但不要施加不適當的偏見，例如員工的壽命。如果新進員工在工作崗位上待的時間不長，那麼可能是招募工作做得不好，事後看來，你就不會選擇那個申請人。但是，如果您僱用了一位高效且長期任職的人，那麼該人將被認為是一個好僱員。
為什麼我們要消除招募決策中的偏見？
當偏見是無意的或與員工是否能夠以令人滿意的方式完成工作無關時，我們希望消除偏見。因此，如果招募經理的全部責任是運用他們的知識和經驗來確定最合適的人選，那麼我們為什麼要使用機器學習來消除偏見呢？因為，人工智慧只會消除對與工作無關的候選人屬性的偏見，並在存在適當偏見的情況下增強基於相關工作特徵的決策。
我們的目標是使招募流程盡可能透明，並考慮招募決策中使用的所有變數。如果你除了人性化的方法之外一無所有，那麼這即使不是不可能，也是極其複雜的，因為招聘經理的決策比機器學習演算法的決策要複雜得多，也更難理解。因此，我們希望專注於機器學習演算法的簡單性；這意味著我們只想查看演算法中與招募流程相關的變數、列和資料片段，而不包含任何與績效無關的資料點。
例如，評估結果，無論是基於認知的還是基於個性的，都可能是一個非常有效的數據點，可以考慮所評估的特徵是否與工作相關。工作經驗和在類似職位中所取得的成就可能是非常重要的考慮因素。相反的情況也非常明顯。性別、種族和年齡不應該對某人的工作表現產生任何合理的影響。下一點很關鍵。招聘經理無法在面試中見到求職者並可信地表示他們不認識坐在他們對面的人的性別、種族或一般年齡類別。無論我們的意圖如何，這都很難做到。相反，這是演算法執行的最簡單的任務。
如果演算法沒有提供性別、種族或年齡，這些變數就沒有機會被納入招募決策中。這涉及引入相關數據，用電腦查看過去做出的哪些招聘決策導致了高績效的長期員工，然後根據過去良好招聘管理實踐的表現加強未來的決策。這最終將消除招募中的偏見。
值得考慮的事情之一是延續過去可能有偏見的做法的想法。如果我們所做的只是像過去那樣進行招聘，並且存在偏見或有偏見的招聘做法，那麼這可能會加劇制度偏見。隨著時間的推移，我們已經訓練電腦完全執行過去有偏見的經理會做的事情。如果用於招募（「訓練」）的唯一數據是根據過去的偏見選擇的相同數據，那麼很難對沒有偏見的數據進行訓練。例如，如果我們將性別視為招募過程中的偏見，並且將性別變數從演算法中剔除，則不會考慮性別。當我們標記先前的偏見時，我們就能夠最大限度地減少未來的偏見。
我們應該毫不掩飾地審視我們是否能夠識別過去可能存在偏見的招聘做法並從中學習。這是在小時招募領域應用非常簡單的機器學習演算法的最大優勢之一。
如果明確的目標是多元性怎麼辦？我們還能聘請最優秀的人嗎？
在人工智慧和機器學習領域提供大量機會的招募流程的一個方面是實現多樣性。
人工智慧在這裡確實可以脫穎而出。機器學習可以根據所提供的數據做出最佳的招募決策；如果您有多元化目標，並希望招募實踐能夠鼓勵多元化的工作人群，那麼從對企業目標重要的人群中選擇最佳候選人就非常簡單。這可以透明且簡單地完成。它不會將一個人優先於另一個人。它允許從您有興趣代表公司的每個群體中聘用最優秀的候選人。
經過審查和科學檢驗，機器學習可以成為一個非常有價值的工具，可以增強經理每天做出的招聘決策，並有助於了解偏見何時進入我們的決策，並產生遠低於我們集體最佳水平的結果。
原文來源： WRAL 技術線