Läpinäkyvyyden parantaminen algoritmisessa päätöksenteossa

Abstract

Nykyaikana sekä julkisen että yksityisen sektorin toimijoilla on käytössä yhä suurempia määriä dataa. Kasvaneen massadatan käsittelemiseksi organisaatioiden päätöksenteossa on kehitetty tehokkaampia keinoja datan prosessointiin. Organisaatiot voivat hyödyntää prosesseissaan tekoälypohjaisia algoritmisia päätöksentekojärjestelmiä, joiden avulla päätösprosessit voidaan toteuttaa tehokkaasti. Tämän lisäksi algoritmisia järjestelmiä pidetään ihmisiin verrattuna objektiivisempina päätöksentekijöinä, jolloin päätöksenteon ulkoistaminen tekoälylle voi vaikuttaa kannattavalta.

Algoritmiseen päätöksentekoon liittyy kuitenkin paljon ominaisuuksia, joiden takia päätöksentekoprosessit eivät ilmene läpinäkyvinä niin kuluttajille kuin järjestelmien tekijöillekään. Algoritmin rakenne voi olla ”musta laatikko”, jonka toimintamallit eivät ole ulkopuolelta tulkittavissa, tai algoritmin rakenteessa tai sen kouluttamiseen käytetyssä datassa on voinut esiintyä vääristymiä, mitkä johtavat syrjiviin päätöksiin. Päätöksenteon kohteelle voi jäädä myös epäselväksi, kuinka yksityisyys säilyy algoritmisen päätöksenteon vaiheissa ja kuinka yksilön henkilötietoja käsitellään. Läpinäkymättömyyttä aiheuttaa myös tiedon saavutettavuus, joka ilmenee tiedon epätasaisesti jakautuvana saatavuutena yksityishenkilöiden ja organisaatioiden välillä.

Tutkielman tarkoituksena on löytää kirjallisuudesta keinoja algoritmisen päätöksenteon läpinäkyvyyden parantamiseen. Tutkielmassa syvennytään algoritmisen päätöksenteon käsitteeseen ja läpinäkyvyyteen vaikuttaviin tekijöihin, ja löydetään ratkaisuja läpinäkyvyyden parantamiseksi niin järjestelmän kehittämisen kuin lainsäädännön näkökulmasta. Tutkielman lopussa tarkastellaan algoritmisten päätöksentekojärjestelmien sääntelyä EU:n alueella ja perehdytään siihen, kuinka EU:n tekoälysäädös vaikuttaa algoritmisten järjestelmien läpinäkyvyysedellytyksiin. Läpinäkyvyyden parantaminen ei kuitenkaan ole täysin ongelmatonta. Lisäämällä algoritmien läpinäkyvyyttä voivat ne olla alttiimpia väärinkäytöksille ja manipulaatiolle.

Tutkielma on toteutettu kirjallisuuskatsauksena. Tarkasteltavina aineistona on käytetty algoritmista päätöksentekoa ja sen läpinäkyvyyttä käsitteleviä tieteellisiä artikkeleita. Algoritmisten järjestelmien toiminnan havainnollistamiseksi massadataa ja koneoppimista tarkasteltaessa on käytetty myös muuta tieteellistä kirjallisuutta. Tutkielman perusteella puutteet algoritmisen päätöksenteon läpinäkyvyydessä ovat viime vuosina herättäneet huomiota tekoälyn tutkimuksessa. Tulevaisuudessa olisi tärkeää tutkia läpinäkyvyyden parantamista käytännössä ja kuinka esimerkiksi tekoälysäädös onnistuu yhtenäistämään algoritmisten järjestelmien läpinäkyvyyttä. Tämän tutkielman keskittyessä sääntelyyn EU:n alueella, olisi tulevaisuudessa aihetta mahdollista tutkia myös EU:n ulkopuolella.