Koneoppimisalgoritmien tekemä syrjintä rekrytoinnissa
Kuisma, Petra (2025-01-08)
Koneoppimisalgoritmien tekemä syrjintä rekrytoinnissa
(08.01.2025)
Julkaisu on tekijänoikeussäännösten alainen. Teosta voi lukea ja tulostaa henkilökohtaista käyttöä varten. Käyttö kaupallisiin tarkoituksiin on kielletty.
avoin
Julkaisun pysyvä osoite on:
https://urn.fi/URN:NBN:fi-fe202501174220
https://urn.fi/URN:NBN:fi-fe202501174220
Tiivistelmä
Koneoppimisalgoritmien käyttö rekrytoinnissa on yleistynyt viime vuosien aikana. Tekoäly tarjoaa rekrytoinnissa mahdollisuuksia prosessien tehostamiseen ja automatisointiin, mutta tuo samalla mukanaan eettisiä haasteita. Tässä tutkielmassa tarkastellaan koneoppimisalgoritmien käyttöä rekrytoinnissa. Ensimmäisenä tavoitteena on tarkastella sitä, millaisia ongelmia algoritmien käyttö on aiheuttanut rekrytoinnin kontekstissa. Toisena tavoitteena on tarkastella, millaisilla tekniikoilla koneoppimisalgoritmien aiheuttamaa syrjintää voidaan rekrytoinnissa vähentää. Tutkielma toteutettiin kirjallisuuskatsauksena.
Tutkielmassa havaitaan, että koneoppimisalgoritmien käyttö rekrytoinnissa voi aiheuttaa ongelmia koulutusaineiston epäedustavuuden, algoritmien suunnittelun vinoumien sekä päätöksenteon läpinäkymättömyyden takia. Näillä ongelmilla on erityisen merkittäviä vaikutuksia työnhakijoiden esikarsinta- ja valintavaiheissa. Lisäksi tuloksissa havaitaan, että algoritmien tekemää syrjintää voidaan vähentää kolmella keskeisellä tekniikalla: esikäsittelyllä, prosessoinninaikaisella käsittelyllä ja jälkikäsittelyllä. Esikäsittelyssä korostuvat aineiston muokkaus ja sensitiivisten piirteiden
poistaminen ja piilottaminen, kun taas prosessoinninaikaisessa käsittelyssä algoritmin toimintalogiikkaa pyritään muokkaamaan oikeudenmukaisempaan suuntaan. Jälkikäsittelyssä joko tasapainotetaan algoritmin tuottamia tuloksia oikeudenmukaisuusmittarien avulla tai lisätään algoritmien selitettävyyttä ja läpinäkyvyyttä.
Syrjinnän vähentämisen tekniikoilla on saatu muokattua algoritmeja oikeudenmukaisempaan suuntaan, mutta tästä huolimatta syrjinnän täydellinen poistaminen algoritmeista on haastavaa ja käytetyt tekniikat voivat vaikuttaa haitallisesti algoritmien ennustetarkkuuteen. Tutkielman tulosten perusteella algoritmien käyttö rekrytoinnin karsinta- ja valintavaiheissa vaatii kriittistä tarkastelua, sillä algoritmien toiminta voi toisintaa tai jopa vahvistaa yhteiskunnallista epätasa-arvoisuutta.
Tutkielmassa havaitaan, että koneoppimisalgoritmien käyttö rekrytoinnissa voi aiheuttaa ongelmia koulutusaineiston epäedustavuuden, algoritmien suunnittelun vinoumien sekä päätöksenteon läpinäkymättömyyden takia. Näillä ongelmilla on erityisen merkittäviä vaikutuksia työnhakijoiden esikarsinta- ja valintavaiheissa. Lisäksi tuloksissa havaitaan, että algoritmien tekemää syrjintää voidaan vähentää kolmella keskeisellä tekniikalla: esikäsittelyllä, prosessoinninaikaisella käsittelyllä ja jälkikäsittelyllä. Esikäsittelyssä korostuvat aineiston muokkaus ja sensitiivisten piirteiden
poistaminen ja piilottaminen, kun taas prosessoinninaikaisessa käsittelyssä algoritmin toimintalogiikkaa pyritään muokkaamaan oikeudenmukaisempaan suuntaan. Jälkikäsittelyssä joko tasapainotetaan algoritmin tuottamia tuloksia oikeudenmukaisuusmittarien avulla tai lisätään algoritmien selitettävyyttä ja läpinäkyvyyttä.
Syrjinnän vähentämisen tekniikoilla on saatu muokattua algoritmeja oikeudenmukaisempaan suuntaan, mutta tästä huolimatta syrjinnän täydellinen poistaminen algoritmeista on haastavaa ja käytetyt tekniikat voivat vaikuttaa haitallisesti algoritmien ennustetarkkuuteen. Tutkielman tulosten perusteella algoritmien käyttö rekrytoinnin karsinta- ja valintavaiheissa vaatii kriittistä tarkastelua, sillä algoritmien toiminta voi toisintaa tai jopa vahvistaa yhteiskunnallista epätasa-arvoisuutta.