ある企業が機械学習を使用して採用プロセスから偏見を取り除く方法
発行日:編集者注: Stuart Nisbet は、ローリーに拠点を置く人材獲得会社 Cadient Talent のチーフ データ サイエンティストです。
ローリー — Cadient Talent では、採用プロセスから偏見をいかに排除するかという問題に日々取り組んでいます。
問題や偏見に対処する唯一の方法は、科学的な調査の下で、それを正面から認めることです。機械学習の応用により、過去にどこで間違いを犯したかを知ることができ、今後はより偏りのない採用決定を下すことができます。無意識の偏見、あるいは意識的な偏見さえも発見し、偏りのない機械学習に基づいてよりよい判断ができるように自分自身を教育することで、特定された問題を修正するための第一歩を踏み出すことができます。
バイアスとは何ですか?
偏見とは、ある物、人、グループを他の物、人、グループと比較して、好意的または反対的な先入観または偏見と定義され、通常は不公平と見なされる方法です。偏見を 3 つの事実セットとして考えてみましょう。1 つ目は、普遍的に受け入れられている客観的な事実のセットです。2 つ目は、個人が真実であると信じていることに沿った信念を裏付ける事実のセットです。偏見が関係するのは、客観的な事実と個人の信念を裏付ける事実が交差する部分です。
特定の信念を裏付ける事実を厳選し、その信念を裏付ける事柄に焦点を当てると、偏見が生まれます。採用をその観点から見て、採用プロセスから偏見を排除することが目標であれば、プロセスにどのデータ ポイントを含めるかという個人的な選択を排除する必要があります。肯定的な選択 (応募者を採用する) または否定的な選択 (応募者を拒否する) に寄与するすべてのデータ ポイントがプロセスに含まれ、データ ポイントとその重み付けの選択は、人間の選択による主観的なものではなく、統計によって客観的に行われます。
コンピューター アルゴリズムは、このためにどのように役立つのでしょうか。私たちの目標は、特に過去の採用決定における経験と以前の判断を活用し、良い採用決定につながったものに重点を置くことで、人間の知能を増強できるようにすることです。「良い採用」は、従業員の勤続年数など、不適切な偏見をもたらさないさまざまな方法で測定できます。新入社員があまり長く職場に留まらない場合、採用活動がうまく行われなかった可能性があり、後から考えれば、その応募者を選ぶべきではなかったでしょう。しかし、生産的で長く勤務する人を雇えば、その人は良い採用者とみなされます。
採用決定から偏見を排除したいのはなぜですか?
偏見が意図的でない場合、または従業員が職務を満足に遂行できるかどうかに関係がない場合、偏見を排除する必要があります。採用マネージャーの唯一の責任が、知識と経験を適用して最適な人材を決定することであるならば、なぜ偏見を排除するために機械学習を使用するのでしょうか。人工知能は、仕事に関係のない候補者の属性に対する偏見のみを排除し、適切な偏見がある場合には、関連する仕事の特性に基づいて決定を強化するからです。
私たちの目標は、採用プロセスを可能な限り透明化し、採用決定に使用されるすべての変数を考慮することです。採用マネージャーの意思決定は機械学習アルゴリズムの意思決定よりもはるかに複雑で理解されていないため、人間ベースのアプローチのみを使用する場合、これは非常に複雑であり、不可能です。そのため、機械学習アルゴリズムのシンプルさの強みに焦点を当てます。つまり、採用プロセスに関連する変数、列、およびアルゴリズム内のデータのみを調べ、パフォーマンスに関連しないデータポイントは含めないようにします。
たとえば、評価結果が認知に基づくものであろうと性格に基づくものであろうと、評価される特性が仕事に関連している場合、評価結果は検討すべき非常に有効なデータ ポイントとなる可能性があります。職歴や類似の役割での実績も検討すべき重要なポイントとなる可能性があります。その逆もまた明らかです。性別、民族、年齢は、誰かの仕事のパフォーマンスに正当な影響を与えるべきではありません。この次の点は重要です。採用担当者は面接で応募者と会って、向かいに座っている人の性別、民族、または一般的な年齢層を知らないと信憑性を持って言うことはできません。私たちの意図が何であれ、これは非常に難しいことです。逆に言えば、これはアルゴリズムが実行する最も簡単なタスクです。
性別、民族、年齢がアルゴリズムに提供されない場合、これらの変数を採用決定に取り入れる機会はありません。これには、関連性のあるデータを取り入れ、過去にどのような採用決定が行われ、長期にわたって優秀な従業員を雇用したかをコンピューターで調べ、優れた採用管理慣行の過去の実績に基づいて将来の決定を強化することが含まれます。これにより、最終的に採用における偏見が排除されます。
検討に値することの 1 つは、偏っている可能性のある過去の慣行を永続させるという考えです。私たちが行っているのが過去と同じように採用することだけであり、偏見や偏った採用慣行があった場合、組織的な偏りを促進する可能性があります。時間の経過とともに、偏ったマネージャーが過去に行っていたであろうことを正確に行うようにコンピューターをトレーニングしてきました。採用に使用される (「トレーニング」される) 唯一のデータが、過去の偏りによって選択されたデータと同じである場合、偏りのないデータでトレーニングすることは困難です。たとえば、採用プロセスで性別を偏りとして特定し、性別の変数をアルゴリズムから取り除くと、性別は考慮されません。以前の偏りにフラグを立てると、将来の偏りを最小限に抑えることができます。
過去に偏見があった可能性のある採用慣行を特定し、そこから学ぶことができるかどうかを恥ずかしがらずに検討する必要があります。これは、時間給採用の分野で非常に単純な機械学習アルゴリズムを適用することの最大の強みの 1 つです。
明確な目標が多様性である場合、それでも最高の人材を採用できるでしょうか?
人工知能と機械学習の分野で多くの機会を生み出す採用プロセスの側面は、多様性の実装です。
人工知能はここで大きな差別化を図ることができます。機械学習は、与えられたデータに基づいて最善の採用決定を下すことができます。多様性の目標があり、雇用慣行によって多様な労働人口を奨励したい場合、企業目標にとって重要な人口層から最善の候補者を選択するのは非常に簡単です。これは透明性とシンプルさをもって行うことができます。誰かを他の人より優先することはありません。会社を代表することに関心のある各人口層から最善の候補者を採用することができます。
精査と科学的な調査により、機械学習は、マネージャーが毎日行う採用決定を強化するための非常に貴重なツールとなり、偏見が意思決定に入り込み、全体として最善の結果よりもはるかに少ない結果となった場合を理解するのに役立ちます。
元の記事の出典: WRAL TechWire