Tekoälyä uhkana pitävät tahot varoittavat, että tekoälyn kehitys on karkaamassa ihmiskunnan hallinnasta ja johtamassa tilanteeseen, jossa ihmiset eivät enää kykene ymmärtämään sen toimintaa.

Vaarana on, että yhteiskunnallisesti merkittäviä päätöksiä alkaa ohjata teknologia, jonka toimintaperiaatteet ja riskit jäävät demokraattisen kontrollin ulottumattomiin. Tekoäly on kuin vapaaksi päässyt pullonhenki, jota on mahdotonta pysäyttää.

Tekoälyn kummisedäksi kutsuttu emeritusprofessori Geoffrey Hinton maalaa haastattelussaan melko synkän tulevaisuuskuvan. Hintonin mukaan ihmiskunta voi osoittautua ohimeneväksi vaiheeksi älykkyyden evoluutiossa: biologinen äly on synnyttänyt digitaalisen älyn, joka voi puolestaan oppia kaiken ihmisten tuottaman tiedon, toimia ihmistä nopeammin ja lopulta tehdä ihmiset tarpeettomiksi.

Tekoälyn puolustajat korostavat sen potentiaalia vahvistaa demokratiaa parantamalla päätöksenteon laatua vähentämällä inhimilliseen toimintaan liittyviä vinoumia ja sattumanvaraisuutta. Tekoälyn nähdään tekevän hyvää, koska se kykenee käsittelemään laajoja tietomassoja, tunnistamaan asioiden välisiä riippuvuuksia ihmissilmää tarkemmin ja tuottamaan puolueettomia arvioita monimutkaisista yhteiskunnallisista kysymyksistä.

Optimistisimmissa näkemyksissä tekoäly mielletään teknologiaksi, joka voi vahvistaa kollektiivista ongelmanratkaisukykyä, laajentaa kansalaisten osallistumismahdollisuuksia ja tukea tietoperustaista päätöksentekoa. Tekoälyn potentiaalia ei tällöin liitetä vain tehokkuuteen vaan myös ajatukseen avoimemmasta ja osallistavammasta demokratiasta.

Tekoäly kehittyy sellaisella vauhdilla, että luultavasti monet tänään esitetyt näkemykset osoittautuvat jo huomenna vanhentuneiksi. Siksi onkin paikallaan katsoa tekoälyä teknologisen innovaation sijaan laajemmasta perspektiivistä.

Hyvänä matkaoppaana toimii Roy Heidelbergin teos Nobody’s Decision – AI and the Perfection of Bureaucracy. Teos on demokratian näkökulmasta kiinnostava erityisesti siksi, että se lähestyy tekoälyä hallinnan ja byrokratian jatkumona. Kirjan keskeinen väite on, että tekoäly ei murra byrokraattista logiikkaa vaan pikemminkin täydellistää sitä, sillä se vie byrokratiaan liittyvät ihanteet – kuten tehokkuuden ja objektiivisuuden – uudelle tasolle. Tällä on demokratian kannalta sekä hyviä että ongelmallisia seurauksia.

Tekoäly on poliittista teknologiaa

Tekoäly edustaa Heidelbergin mukaan mitä suurimmassa määrin poliittista teknologiaa. Tämän ymmärtäminen edellyttää huomion kiinnittämistä erityisesti kysymykseen siitä, kuka päättää ja millä perusteella. Heidelberg tukeutuu kansainvälisen oikeuden teoreetikkona tunnetun Carl Schmittin ajatukseen suvereenista (sovereignty).

Schmittin mukaan suvereeni on se, joka kykenee tekemään päätöksen poikkeustilanteessa eli tilanteessa, jossa valmiit säännöt, normit ja menettelytavat eivät yksin riitä. Tästä näkökulmasta päätöksenteko ei ole täysin palautettavissa sääntöjen mekaaniseen soveltamiseen, sillä jokainen konkreettinen päätös sisältää aina myös tulkintaa, harkintaa ja tilanteen erityispiirteiden arviointia.

Moderni hallinto on kuitenkin pitkälti rakentunut pyrkimykselle tehdä päätöksenteosta mahdollisimman ennakoitavaa ja yhdenmukaista. Tätä ajattelutapaa edusti hallintotieteen perustajiin lukeutunut ja sittemmin Yhdysvaltojen presidentiksi päätynyt Woodrow Wilson. Hänen mukaansa hyvässä päätöksenteossa ongelmat pyritään ratkaisemaan vähentämällä inhimillisen harkinnan ja henkilökohtaisen vallankäytön merkitystä.

Politiikan asialistalla olevat ongelmat näyttäytyvät ennen kaikkea teknisinä kysymyksinä, joiden ratkaiseminen edellyttää asiantuntijatiedon hyödyntämistä ja standardoitujen hallinnollisten menettelytapojen noudattamista.

Vaikka tekoäly lisää tehokkuutta, ennustettavuutta ja kontrollia, se samalla etäännyttää päätöksentekoa ihmisistä.

Heidelbergin tulkinnassa tekoäly sijoittuu Schmittin korostaman inhimillisen harkinnan ja Wilsonin persoonattoman hallinnan väliseen jännitteeseen. Sen lupaus perustuu ajatukseen, että byrokraattisen rationaalisuuden tehokkuus ja inhimillisen päätöksenteon ennakoimattomuus voidaan sovittaa yhteen.

Samalla tekoäly kuitenkin kärjistää demokratiaan sisältyviä ristiriitoja. Vaikka tekoäly lisää tehokkuutta, ennustettavuutta ja kontrollia, se samalla etäännyttää päätöksentekoa ihmisistä ja heikentää kokemusta toimijuudesta, vastuusta ja poliittisesta vaikutusmahdollisuudesta.

Kun päätökset näyttävät syntyvän neutraalien järjestelmien tuella, hämärtyy samalla kysymys vallasta ja vastuusta: kuka lopulta määrittää päätösten taustalla olevat tavoitteet, arvot ja poikkeukset? Legitimiteetti on modernissa hallinnossa rakentunut henkilöistä riippumattomien sääntöjen ja menettelytapojen varaan, mutta tekoäly vie tämän logiikan askeleen pidemmälle. Päätöksenteko muistuttaa entistä enemmän teknistä prosessia, jossa ei ole tilaa – eikä myöskään tarvetta – harkinnalle.

Ei ihme, että tutkijat ovat varoittaneet tietokoneohjelmoitujen algoritmien ohjaamasta algokratiasta ja kansalaisten episteemisen toimijuuden kaventumisesta. Episteemisellä toimijuudella viitataan kansalaisten mahdollisuuksiin hankkia, arvioida ja tulkita tietoa sekä erottaa luotettava tieto virheellisestä.

Kun harkinta muuttuu laskennaksi

Neuroverkkoihin perustuva tekoäly haastaa schmittiläisen oletuksen siitä, että harkintaa tarvitaan epäselvissä päätöksentekotilanteissa, joissa säännöt eivät auta. Sen toimintalogiikka ei perustu pelkästään eksplisiittisiin sääntöihin vaan kykyyn tunnistaa tilastollisia malleja, tehdä heuristisia päätelmiä ja tuottaa ratkaisuja myös epäselvissä tilanteissa.

Tekoälytutkimuksen uranuurtajiin kuulunut Herbert Simon kuvasi päätöksentekoa heuristisena prosessina, jossa toimijat eivät optimoi täydellisen tiedon varassa vaan hyödyntävät erilaisia peukalosääntöjä, tulkintoja ja käytännöllisiä ratkaisutapoja. Se, mitä aiemmin pidettiin nimenomaan inhimillisenä arvostelukykynä, alkaa geneerisen tekoälyn myötä näyttäytyä ainakin osittain laskennallisesti mallinnettavana toimintana.

Tämä merkitsee historiallista käännettä, sillä myös harkinta, tulkinta ja poikkeuksien käsittely pyritään siirtämään algoritmisen hallinnan piiriin. Jos tekoäly kykenee toimimaan myös tilanteissa, joissa normit ovat epätäsmällisiä ja keskenään ristiriitaisia, kysymys ei enää ole vain teknisestä tehokkuudesta vaan siitä, missä määrin poliittinen harkinta ja vastuu voidaan ulkoistaa tekoälylle ilman, että itse politiikan luonne muuttuu.

Kysymys ei enää ole vain teknisestä tehokkuudesta vaan siitä, missä määrin poliittinen harkinta ja vastuu voidaan ulkoistaa tekoälylle ilman, että itse politiikan luonne muuttuu.

Demokratian näkökulmasta yksi keskeinen tekoälyn haaste tiivistyy siihen, että sen toiminnan ymmärtäminen on vaikeaa – osittain jopa mahdotonta – myös sen kehittäjille. Neuroverkkojen toimintaa kuvataan usein “mustaksi laatikoksi”, sillä ne kykenevät tuottamaan tehokkaita ratkaisuja, mutta niiden sisäinen päättelyketju jää läpinäkymättömäksi. Tämän vuoksi tekoälyä pyritään täydentämään erilaisilla auditointi-, selitys- ja valvontamekanismeilla, joiden tarkoituksena on tehdä algoritmisesta päätöksenteosta läpinäkyvämpää ja vastuullisempaa.

Heidelberg suhtautuu kuitenkin kriittisesti ajatukseen, että tällaiset mekanismit todella palauttaisivat kontrollin ihmisille. Ennemminkin kyse on siitä, että ne vain lisäävät uusia byrokraattisia ja teknisiä kerroksia jo ennestään monimutkaisten järjestelmien ympärille.

Esimerkiksi niin sanottu ”ihminen ohjaimissa”-ajattelu (human-in-the-loop) perustuu oletukseen, että ihminen säilyttää kontrollin tekoälyn toimintaan osallistumalla päätöksentekoprosessiin.

Käytännössä ongelmana kuitenkin on, että näiden järjestelmien toimintaa ei ymmärretä riittävästi. Pahimmillaan ihmisen rooli jää symboliseksi, sillä hän toimii vastuunkantajana tilanteessa, jossa todellinen päätöksenteko tapahtuu hänen ulottumattomissaan. Samalla tilivelvollisuus muuttuu byrokraattiseksi rituaaliksi, jossa tärkeintä on osoittaa, että oikeat menettelyt on muodollisesti suoritettu.

Sairautta pahentava lääke

Heidelbergin keskeinen väite on, että tekoäly ei heikennä demokratiaa ensisijaisesti siksi, että päätöksenteko siirtyisi koneille, vaan siksi, että demokratian keskeiset arvot alkavat muuttua teknisiksi menettelytapakysymyksiksi. Kehityksen seurauksena vaarantuu kansalaisten kyky ymmärtää ja haastaa niitä järjestelmiä, joiden varaan yhteiskunnallinen päätöksenteko rakentuu.

Heidelbergin mukaan tekoäly on muuttunut iatrogeeniseksi probleemaksi, jolla hän viittaa tilanteeseen, jossa ongelman ratkaisemiseksi kehitetty hoito alkaa samalla pahentaa itse ongelmaa. Kun tekoälyä pyritään tekemään turvallisemmaksi, oikeudenmukaisemmaksi ja demokraattisesti kontrolloitavaksi, seurauksena on entistä enemmän teknisiä standardeja, auditointijärjestelmiä, dokumentaatiota, sertifiointia ja valvontaa.

Jokainen uusi kontrollikerros tuottaa lisää dataa ja uusia asiantuntijarakenteita, joiden hallinta edellyttää entistä syvempää teknistä osaamista. Samalla mahdollisuutemme ymmärtää ja arvioida järjestelmiä heikkenevät.

Demokratian nimissä rakennetaan mekanismeja, jotka etäännyttävät kansalaisia juuri niistä päätöksentekojärjestelmistä, joiden pitäisi olla heidän hallinnassaan.

Demokratian nimissä rakennetaan mekanismeja, jotka etäännyttävät kansalaisia juuri niistä päätöksentekojärjestelmistä, joiden pitäisi olla heidän hallinnassaan. Läpinäkyvyys ei tällöin enää tarkoita vallankäytön ymmärrettävyyttä tavallisille kansalaisille vaan pikemminkin valtavien tietomäärien, lokitietojen ja auditointiraporttien tuottamista.

Tilivelvollisuus muuttuu suhteesta, jossa vallankäyttäjä vastaa toiminnastaan kansalaisille, kohti teknistä vaatimustenmukaisuutta eli tärkeintä on osoittaa, että järjestelmät täyttävät niille asetetut menettelytapoihin liittyvät kriteerit.

Heidelbergin analyysi ei ole pelkästään teknologiapessimistinen varoitus tekoälyn riskeistä. Heidelbergin argumentti on hienovaraisempi ja samalla häiritsevämpi. Ongelma on siinä, että samalla, kun tekoäly optimoi hallinnan logiikkaa tekemällä päätöksenteosta entistä tehokkaampaa ja ennustettavampaa, se myös etäännyttää demokratiaa kansalaisten kokemuksista, harkinnasta ja kaventaa heidän poliittista toimijuuttaan.

Keskeinen kysymys ei lopulta koskekaan vain tekoälyä vaan demokratian muuttuvaa luonnetta. Mitä tapahtuu poliittiselle vastuulle, julkiselle harkinnalle ja kansalaisten toimijuudelle yhteiskunnassa, jossa yhä useammat päätökset perustuvat järjestelmiin, joita kukaan ei täysin ymmärrä, mutta joiden toimintaa pidetään silti rationaalisempana kuin inhimillistä harkintaa?

FT Harri Jalonen on sosiaali- ja terveyshallintotieteen professori Vaasan yliopistossa. Jalonen työskentelee Strategisen tutkimuksen neuvoston rahoittamassa STRONG-hankkeessa, jossa tutkitaan demokratiainnovaatioiden toimeenpanoa.

Artikkelin kuvituskuva: charlesdeluvio / Unsplash

Julkaisu Tekoäly demokratian peilinä ilmestyi ensimmäisenä Politiikasta.

Rekrytointi nähdään usein suoraviivaisena prosessina, jossa työnantaja määrittelee osaamistarpeensa ja tekee valinnat saatavilla olevasta työvoimasta. Tutkijat korostavatkin, että tosiasiassa rekrytointi on monivaiheinen prosessi, jossa päätöksiä voivat tehdä useat henkilöt monenlaisia algoritmeja hyödyntäen.

Maahanmuuttajataustaan perustuva syrjintä rekrytoinnissa perustellaan usein vetoamalla johonkin muuhun hakijan ominaisuuteen.

Hakukanavat jaetaan muodollisiin kuten lehtiin, internetiin, sosiaaliseen mediaan sekä epämuodollisiin kuten sosiaalisiin ja ammatillisiin kontakteihin – Suomessa lähes kaikki avoimet työpaikat ilmoitetaan verkossa. Etsiessään tietoa työpaikoista työnhakijalla tulee siis olla kunnossa sekä laitteistot että digitaaliset taidot. Työnhaussa menestymistä vauhdittavat koulutuksen ja kokemuksen ohella suomen, ruotsin ja englannin kielen osaaminen, tieto työnhakualustoista sekä ammatilliset verkostot suosittelijoineen.

Syrjintä rekrytoinnissa on yleistä

Suomen lainsäädännössä (Suomen perustuslaki; Laki naisten ja miesten välisestä tasa-arvosta; Työsopimuslaki; Yhdenvertaisuuslaki) määritellään työelämässä kielletyt syrjintäperusteet. Sekä kansainväliset että kansalliset tutkimukset osoittavat, että syrjintää eli henkilön tai ryhmän eriarvoista kohtelua tai erilaiseen asemaan asettamista ilman hyväksyttävää syytä kohtaavat kuitenkin erityisesti vähemmistöt myös työnhaussa.

Työ- ja elinkeinoministeriön tutkimuskatsauksessa syrjinnän todetaan olevan vaikeasti tavoitettava ilmiö, koska suuri osa syrjinnästä tapahtuu jo ennen haastattelua tai eri vaiheissa rekrytointiprosessia. Työnhakijoiden on myös vaikeaa näyttää toteen rekrytointiin sisältyvää syrjintää. Rekrytointi on hankalasti tavoitettava ilmiö myös työelämän tutkimuksessa.

Työnhakijoiden on vaikeaa näyttää toteen rekrytointiin sisältyvää syrjintää.

Tuore tutkimus osoittaa, että naiset kokevat syrjintää erityisesti hakiessaan korkean statuksen työpaikkoihin. Sukupuoleen kohdistuva syrjintä on myös alakohtaista – naisia syrjitään miesvaltaisiin tehtäviin ja miehiä naisvaltaisiin tehtäviin hakiessa. Vuonna 2019 julkaistussa kotoutumisen kokonaiskatsauksessa todetaan, että maahanmuuttaneista eniten syrjintää kohtaavat Lähi-idästä ja Afrikasta muuttavat. Maahanmuuttajataustaan perustuva syrjintä rekrytoinnissa perustellaan usein vetoamalla johonkin muuhun hakijan ominaisuuteen, kuten kulttuuriin, uskontoon tai kielitaitoon.

Myös nimellä on väliä – Suomessa tehty tutkimus osoitti, että maahanmuuttajataustaiset hakijat saivat kutsuja työhaastatteluihin merkittävästi Suomessa syntyneitä vähemmän, vaikka heidän henkilökohtaiset ominaisuutensa kuten ikä, koulutus, työkokemus ja ammatillinen tutkinto olivat täysin vastaavat. Syrjintää kohtaavat myös Suomessa syntyneet, kuten romanit sekä näkyvään vähemmistöön kuuluvat, esimerkiksi afrosuomalaiset.

Algoritmit työnantajan tukena

Algoritmit – eli sarja erityisesti tietokoneiden toteuttamia käskyjä jonkin tehtävän suorittamiseksi – ovat käytännössä monien rekrytoinnissa käytettävien tekoälysovellusten perusta. Tekoälyllä tarkoitetaan koneen kykyä käyttää perinteisesti ihmisen älyyn liitettyjä taitoja, kuten päättelyä ja oppimista.

Rekrytoijat tukeutuvat algoritmeihin esimerkiksi verkkohauissa, työnhakijoiden seulomisessa sekä soveltuvuus- ja persoonallisuustesteissä. Hakuja voi käytännössä tehdä rekrytointiportaaleissa, kuten Työmarkkinatori.fi, Valtiolle.fi, Oikotie.fi, Monster tai Duunitori, minkä lisäksi sosiaalisen median kanavilla, kuten Facebookilla, Instagramilla ja YouTubella on yhä suurempi rooli työnhaussa. Jobs in Finland -portaali edistää erityisesti englanniksi työtä tekevien kohtaamista.

Algoritmit – eli sarja erityisesti tietokoneiden toteuttamia käskyjä jonkin tehtävän suorittamiseksi – ovat monien rekrytoinnissa käytettävien tekoälysovellusten perusta.

Rekrytoijat hyödyntävät myös paljon LinkedIniä ja sisäisiä rekrytointijärjestelmiä hakijoiden vertailuun. Alkuvaiheen jälkeen varsinkin tietotyössä työnhakijoiden osaamista ja persoonaa kartoitetaan usein esimerkiksi pelien muodossa tehtävillä testeillä.

Hyvät vai pahat algoritmit?

Tutkimukset osoittavat, että työhaastatteluun kutsutaan helposti ominaisuuksiltaan rekrytoijia muistuttavia henkilöitä. Ennakkoluulojen ja stereotypioiden roolia tyypillisesti aliarvioidaan. Parhaimmillaan digitaaliset työkalut ja niiden algoritmit voivat tukea ja sujuvoittaa työnhakijan ja työnantajan yhdenvertaista kohtaamista johdonmukaisuuden ja läpinäkyvyyden ansiosta. Algoritmien päätöksentekoon eivät vaikuta yli-itsevarmuus tai valvottu yö.

Toisaalta esimerkiksi tekoälyyn pohjautuvat ehdotukset usein rajaavat jotain pois. Filosofi Marja-Liisa Ollila korostaa teoksessaan Tekoälyn etiikkaa, että tekoälyn hyvyyden tai pahuuden sijaan tulisi tarkastella, kuka tekoälyä suunnittelee sekä miten ja mihin tarkoituksiin tekoälyä käytetään. Algoritmit itsessään eivät siis syrji, mutta jos esimerkiksi koneoppivien algoritmien käyttämä opetusdata on vinoutunutta tai epäedustavaa, voi lopputulos olla syrjivä.

Epätasa-arvon sudenkuoppia

Amazon pyrki muutama vuosi sitten kehittämään rekrytointialgoritmia, joka tunnistaisi parhaat ansioluettelot. Algoritmin havaittiin kuitenkin räikeästi syrjivän naisia, mikä sai yrityksen luopumaan kokeilusta. Sveitsiläisessä tutkimuksessa puolestaan havaittiin, kuinka rekrytoijat syrjivät digitaalisella rekrytointialustalla ulkomaalaistaustaisia työnhakijoita kutsumalla heitä 6,5 prosenttia vähemmän todennäköisesti haastatteluun.

Työpaikkailmoituksessa käytetyt sanavalinnat vaikuttavat siihen, kuka työpaikasta saa informaatiota ja kiinnostuu hakemaan tehtävää. Erään tutkimuksen mukaan Google-haku on näyttänyt naisille huonommin palkattuja työpaikkailmoituksia kuin miehille. Sanavalinnat voivatkin sisältää sukupuolittuneita tai vähemmistöjä syrjiviä ilmaisuja. Suomalainen ohjelmisto- ja palveluyhtiö TietoEVRY kokeili vaihtaa työpaikkailmoitusten sukupuolittuneet ilmaisut neutraaleihin. Tämä kasvatti merkittävästi naisten määrää hakijoina.

Google-haku on näyttänyt naisille huonommin palkattuja työpaikkailmoituksia kuin miehille.

Kokeilussa konsultoitiin Inklusiivia, monimuotoisuutta työelämässä edistävää asiantuntijayhteisöä. Sukupuolittuneiden ilmaisujen vähentämiseksi työpaikkailmoituksissa voi hyödyntää tekoälyalgoritmeja.

Vaikka ansioluetteloista poistetaan hakijan nimi, sukupuoli ja kansallisuus, voi algoritmi silti oppia syrjiväksi. LinkedIniä ja Monster-työportaalia tutkittaessa havaittiin, että joidenkin työtittelien kohdalla miehet voivat olla hakutuloksissa etulyöntiasemassa, vaikka sukupuolta ei kysyttäisi suoraan. Selkeää syytä epäreiluudelle ei ole tunnistettu, mutta on arvioitu, että esimerkiksi profiilien piilotetut, heikosti sukupuolen kanssa korreloivat ominaisuudet tai profiiliklikkausten määrä voivat vaikuttaa epätasa-arvon toteutumiseen.

Joidenkin työtittelien kohdalla miehet voivat olla hakutuloksissa etulyöntiasemassa, vaikka sukupuolta ei kysyttäisi suoraan.

Myös freelance-palveluiden markkinapaikkoja tutkittaessa on huomattu, että havaittu sukupuoli ja etninen alkuperä vaikuttavat merkittävästi freelancereiden työstä annettuihin arvioihin.

Kehittämisen kohteita

EU suunnittelee parhaillaan tekoälylakia, jossa rekrytointiteknologiassa hyödynnettävä tekoäly on luokiteltu korkeaan riskiluokkaan, koska niiden algoritmeilla voi olla ratkaiseva vaikutus työuriin ja toimeentuloon. Rekrytoijilla onkin käytössään digitaalisia työkaluja, joissa hakijoiden luovuttamia tietoja hakemuksista persoonallisuustesteihin käsitellään ilman, että hakijalla on tietoa, miten hänen tuottamaansa tietoa tulkitaan.

Tekoälylain ytimessä tulisi olemaan reiluus, läpinäkyvyys ja oikeus haastaa automatisoidut päätökset. Palveluntuottajien olisi esimerkiksi kyettävä selittämään tekoälyjärjestelmän toimintalogiikka läpinäkyvästi. Yksilöllä eli työnhakijalla olisi puolestaan enemmän kontrollia siihen, kuinka tietoja säilytettäisiin ja miten niitä analysoitaisiin.

Tekoälylain ytimessä on reiluus, läpinäkyvyys ja oikeus haastaa automatisoidut päätökset.

Nykyiseen Marinin hallituksen hallitusohjelmaan on kirjattu tavoite lisätä työnantajien rekrytointi- ja monimuotoisuusosaamista. Terveyden ja hyvinvoinnin laitos sekä Työterveyslaitos ovat julkaisseet konkreettisia ehdotuksia, joiden avulla yhdenvertaisuutta voi lisätä. Työpaikkailmoituksen voi julkaista useilla kielillä. Monimuotoisuuslausekkeen ja anonyymin osaamisnäytteen avulla työnantaja voi kannustaa vähemmistöihin kuuluvia hakemaan avoinna oleviin tehtäviin.

Tutkimustulokset pinnalla olevan anonyymin rekrytoinnin hyödyistä ovat toistaiseksi ristiriitaisia. Helsingin kaupungin anonyymin rekrytoinnin kokeilussa huomattiin menetelmän käytön vaativan rekrytoivan henkilöstön kouluttamista sekä tiivistä yhteistyötä henkilöstöhallinnon asiantuntijoiden kanssa koko prosessin ajan. Anonyymi rekrytointi voi ehkäistä syrjintää rekrytoinnin alkuvaiheissa, mutta riskinä on, että syrjintä kohdistuu muihin yksilön esillä oleviin ominaisuuksiin tai siirtyy rekrytoinnin myöhempiin vaiheisiin. Tutkimuksessa on huomattu, että vaikka hakijan nimi olisi anonymisoitu työhakemuksesta, rekrytoijat siirtyivät hyödyntämään muita vihjeitä saadakseen selville hakijan sukupuolen.

Kohti yhdenvertaista rekrytointia

Rekrytointi on algoritmeille haastava ympäristö sen mutkikkuuden, suhteellisen pienten tietoaineistojen, eettisyyteen liittyvän sääntelyhaasteiden ja työnhakijoiden käsityksiin liittyvien haittavaikutusten takia. Tutkimustietoa algoritmien ja yhdenvertaisuuden yhteydestä tarvitaankin lisää.

Suomessa tekoälyyn perustuvien järjestelmien käyttöönotto rekrytoinnissa on vielä maltillista. On myös huomattava, että yhdenvertaisuuslaki koskee rekrytoinnissakin hyödynnettäviä algoritmeja ja tekoälyä. Laki velvoittaa, että sovellusten vaikutuksia arvioidaan ennen käyttöönottoa, minkä lisäksi syrjinnän havaitsemiseksi ja ehkäisemiseksi tekoälyn toimintaa on monitoroitava ja testattava säännöllisesti.

Yrityksistä yli 60 prosenttia arvioi innovatiivisuuden ja luovuuden kasvaneen eri taustaisten työntekijöiden rekrytoinnin myötä ja liki 60 prosenttia arvioi monimuotoisuudesta olleen hyötyä liiketoiminnalle.

Valtioiden ja yritysten ohella kansalaisjärjestöt ja akateemiset yhteisöt ovat luoneet eettisiä ohjeistuksia erityisesti tekoälyyn perustuville algoritmeille. Tunnetuimpiin lukeutuvat Future of Life -järjestön kehittämät Asilomar-periaatteet ja akateemisessa ympäristössä kehitetty Montrealin julistus. Käytännössä ne sisältävät ratkaisukeskeisiä ja helposti ymmärrettäviä korkeamman tason arvokoodistoja eettiselle kehitykselle korostaen esimerkiksi turvallisuutta ja oikeudenmukaisuutta.

Yhdenvertainen rekrytointi on noussut keskeiseksi yhteiskunnallisen keskustelun teemaksi kasvavan työvoimapulan vuoksi. Työnhakijat ovat entistä tiedostavampia ja vaativat yrityksiltä yhdenvertaisuutta. Euroopan yrityspaneeli selvitti, miten organisaatioissa luotu monimuotoisuusstrategia vaikuttaa yritysten toimintaan. Yrityksistä yli 60 prosenttia arvioi innovatiivisuuden ja luovuuden kasvaneen ja liki 60 prosenttia arvioi monimuotoisuudesta olleen hyötyä liiketoiminnalle.

Organisaatioiden kannattaa siis panostaa yhdenvertaisuuteen jo rekrytointeja ja siihen liittyviä prosesseja työkaluineen suunniteltaessa.

Heidi Lehtovaara on Tampereen yliopiston yhteiskuntatieteellisen tiedekunnan väitöskirjatutkija. Hän tutkii korkeasti koulutettujen maahanmuuttaneiden naisten työnhakuprosesseja sekä rekrytointivaiheessa kohdattua syrjintää ja rasismia.

Sami Koivunen on Jenny ja Antti Wihurin rahaston apurahalla työskentelevä väitöskirjatutkija Tampereen yliopistolta. Hän tutkii millaisia vaatimuksia päätöksenteon käytännöt ja haasteet henkilöstövalinnoissa asettavat tulevien järjestelmien suunnittelulle.

Lehtovaara, Heidi ja Koivunen, Sami. 2022. ”Algoritmit rekrytoinnin tukena – yhdenvertaisuutta vai epätasa-arvoa?” Politiikasta, 21.2.2022, https://politiikasta.fi/algoritmit-rekrytoinnin-tukena-yhdenvertaisuutta-vai-epatasa-arvoa

Julkaisu Algoritmit rekrytoinnin tukena – yhdenvertaisuutta vai epätasa-arvoa? ilmestyi ensimmäisenä Politiikasta.

Tekoäly voidaan karkeasti määritellä laitteiksi, ohjelmistoiksi ja järjestelmiksi, jotka kykenevät oppimaan ja tekemään päätöksiä lähes samalla tavalla kuin ihmiset.

Teknologian nopea kehittyminen tuo kirjavan joukon taloudellisesti houkuttelevia mahdollisuuksia. Vuonna 2020 tekoälymarkkinoiden tuotto ylitti 125 miljardin euron rajapyykin. Riippuen lähteestä sen kokonaismarkkina-arvon odotetaan kasvavan 10–150 biljoonaan euroon vuoteen 2030 mennessä. Kasvava ala houkuttelee niin yrityksiä, keksijöitä kuin sijoittajia. Kehitystä vievät eteenpäin teknologinen eetos ja mahdollisuudet, ei niinkään kysyntä.

Tekoälyä hyödyntävät muun muassa sosiaali- ja terveysalan monet palvelut hoitoroboteista potilastietojen käsittelyyn. Itsenäisesti päätöksiä tekevät järjestelmät muovaavat myös rahamarkkinoita koneiden tehdessä lukemattomia osto- ja myyntitapahtumia silmänräpäyksessä tuottaen välittömiä voittoja ja tappioita. Hyvin kehitetyllä tekoälyllä voitaisiin ehkä korjata puolueellisuuksia, jotka haittaavat ihmisten päätöksentekoa.

Teknologian nopea kehittyminen tuo kirjavan joukon taloudellisesti houkuttelevia mahdollisuuksia.

Lisäksi 75 valtiota käyttää aktiivisesti tekoälyä turvallisuussektorin tehtävissä, kuten rajavalvonnassa. Datamassat ja profilointi mahdollistavat ehkäisevää rikoksentorjuntaa. Valtiot myös selvittävät ja kehittävät tekoälyn itsenäistä päätöksentekoa sotatoimissa.

Tutkimukselle ja keskustelulle on tarvetta

Uhkana kaikessa tekoälyn kehityksessä ja käytössä on sen kehittyminen puhtaasti teknologian ehdoilla jättäen etiikan sekä ihmisoikeudet toissijaiseksi. Yhteiskunnallisten vaikutusten arviointi on vasta nyt nousemassa tarkastelun keskiöön.

Inhimilliset virheet ohjelmoinnissa tai huolimattomuus käytössä voivat aiheuttaa suurta vahinkoa. Tämä kehityskulku on nostettu varteenotettavaksi uhaksi niin Suomen raportissa tekoälyn käytöstä kuin YK:ssa. Kuinka tekoälyä voidaan kehittää ja käyttää ihmistä kunnioittavasti?

Tutkimukset tukevat väitteitä tekoälyn päätöksenteon vinoumista. Esimerkiksi Yhdysvalloissa algoritmit epäonnistuvat toistuvasti saavuttamaan edes alkeellista tasa-arvoa. Vuonna 2015 tekoälytutkimuksen suurimpiin kuuluvan Googlen kuvapankin algoritmi luokitteli kuvan tummaihoisista ihmisistä gorilloiksi. Tapaus ei ollut ainutlaatuien ja se herätti keskustelua algoritmien epäluotettavuudesta ja implikaatioista tekoälyteknologian vaaroista muissa yhteyksissä.

Uhkana kaikessa tekoälyn kehityksessä ja käytössä on sen kehittyminen puhtaasti teknologian ehdoilla jättäen etiikan sekä ihmisoikeudet toissijaiseksi.

Rikoksentorjunnassa tunnistusalgoritmien käyttö on globaalisti johtanut etnisiin vähemmistöihin kuuluvien päätymisen enemmistöä useammin tutkinnan kohteeksi ja syytetyksi rikoksista. Vaikka vika on syötetyssä datassa, algoritmit tuntuvat vahvistavan jo olemassa olevia yhteiskunnallisia vinoumia.

Myös ihmisen merkitys työmarkkinoilla on vähentynyt silloin, kun kone tekee työn tehokkaammin. Automaatio on jo kauan vähentänyt ihmisen tarvetta teollisuudessa ja tämän kehityksen myötä myös palvelu- ja terveydenhuoltoalat ovat saman edessä. Arkipäiväistyneet ääniohjattavat palvelut, kuten Siri, Alexa ja Google, vähentävät muun muassa henkilökohtaisten avustajien ja tulkkien tarvetta. Koronaviruspandemian myötä kysyntä tekoälylle kasvaa maailman tehdessä digiloikkaa.

Kuinka tekoälyä voidaan kehittää ja käyttää ihmistä kunnioittavasti?

Ihmisestä voi muodostua myös este talouskasvulle. Automaation ja tekoälyn kehitys vähentävät palkkakustannuksia eivätkä koneet ryhdy lakkoon. Ei ole siis kaukaa haettu ajatus, että olisi taloudellisesti kannattavaa hankkiutua ihmisestä eroon. Tämä voi lisätä globaalisti taloudellista ja yhteiskunnallista epätasa-arvoa työpaikkojen vähentyessä ja pääoman kasaantuessa enenevästi jo valmiiksi rikkaille.

Tekoäly luo myös haasteita niin yksilöiden turvallisuudelle sekä kansainväliselle vakaudelle. Näitä riskejä ovat muun muassa eli syväväärennökset (engl. deepfake), jotka ovat erehdyttävän aidoilta näyttäviä tekoälyn ja koneoppimisen tuottamia videoita. Myös haitta- ja vakoiluohjelmat kehittyvät. Ne pystyvät navigoimaan tietojärjestelmissä- ja verkoissa huomattavasti älykkäämmin ja täten huomaamattomammin kuin ennen. Lisäksi tekoälyyn perustuvia autonomisia asejärjestelmiä kehitetään itsenäisesti valitsemaan ja eliminoimaan kohteita sodankäynnissä.

Tekoälyn kehitys ei tapahdu tyhjiössä, vaan olemassa olevista sosiaalisista normeista

Yhteiskunnalliset normit ohjaavat tapaamme jäsentää maailmaa. YK on ydinasemassa normien muodostamisessa, minkä takia sillä on mahdollisuuksia vaikuttaa myös tekoälyn kehitykseen.

YK:n pääsihteeri Antonio Guterres on vedonnut useasti jäsenvaltioihin sekä muihin toimijoihin tekoälyn kestävän kehityksen puolesta. Pääsihteerin toimesta vuonna 2018 järjestetty korkean tason paneeli toimitti raportin, jonka pohjalta järjestettiin temaattiset pyöreän pöydän keskustelut. Näissä keskusteluissa Suomi sitoutui tiennäyttäjäksi tekoälyn kehityksessä. Paneelin ja keskusteluiden pohjalta Guterres julkaisi kesäkuussa 2020 digitaalisen yhteistyön tiekartan.

Jos valtiot ovat liianhitaita mukautumaan uuteen sääntelyyn, olemassa olevat sopimukset, julistukset ja tavoitteet voivat tarjota kattavan sääntöpohjan tekoälyn sääntelylle.

YK on ydinasemassa normien muodostamisessa, minkä takia sillä on mahdollisuuksia vaikuttaa myös tekoälyn kehitykseen.

Esimerkiksi ihmisoikeuksien yleismaailmallinen julistus (UDHR) sekä kansalais- ja poliittisia oikeuksia koskeva yleissopimus (KP-sopimus) takaavat 2. artiklassaan yksilön oikeuden kaikkiin oikeuksiin ja vapauksiin ilman syrjintää. Lisäksi UDHR:n artikla 7 vahvistaa kaikkien oikeutta lainsuojaan syrjinnältä. Artikla 10 puolestaan oikeuttaa puolueettomaan oikeudenkäyntiin.

Jos tekoäly päättää, kuka on syyllinen ja kuka syytön, tämän toteutuminen on vaakalaudalla. Ihmisen oikeuden työhön sekä valtion vastuun tarjota sitä takaa puolestaan UDHR:n artikla 23 ja Kansainvälisen työjärjestön (ILO) sopimus C122:n artikla 1.

Poliittisena ohjaustyökaluna Agenda 2030 eli kestävän kehityksen tavoitteet antavat myös selvät indikaattorit onnistuneelle tekoälyn kehittymiselle. Vaikka tavoitteiden aikataulusta ollaan pahasti jäljessä, ovat yritykset ja valtiot pyrkineet mukautumaan tavoitteiden saavuttamiseksi. YK:n mukaan suurin este tavoitteiden saavuttamisessa ovat puuttuvat investoinnit. Tekoälymarkkinoilla rahasta ei kuitenkaan olisi pulaa. Olennaista onkin markkinoiden ja tavoitteiden kohtaaminen hyvissä merkeissä.

Kestävän kehityksen osalta vaikutusmahdollisuudet tekoälyn kehitykseen ovat kaksiteräiset. Tekoäly voisi parantaa mahdollisuuksia saavuttaa kaikki 169 tavoitetta vuoteen 2030 mennessä. Tutkimusten mukaan kehitys mahdollistaisi niistä 79 prosentin (134) toteutumisen. Toisaalta saman tutkimuksen mukaan 35 prosenttia tavoitteista (59) saattaa kehityksen myötä estyä. Näihin kuuluvat erityisesti köyhyyden ja eriarvoisuuden vähentymisen sekä hyvän koulutuksen tavoitteet.

YK:n mukaan suurin este tavoitteiden saavuttamisessa ovat puuttuvat investoinnit. Tekoälymarkkinoilla rahasta ei kuitenkaan olisi pulaa.

Aseistettu tekoäly on kenties kimurantein teknologian ala säännellä. Jo vuonna 1968 YK:n sopimukset mahdollistivat itsekseen ajavat autot, kuitenkin painottaen ihmisen mahdollisuutta palauttaa halutessaan auto hallintaansa. Yli 50 vuotta myöhemmin YK:ssa keskustellaan ihmisen kontrollin merkityksestä asejärjestelmien osalta.

Ihmisoikeudet sekä kansainvälinen humanitaarinen oikeus määrittelevät kattavasti, mikä on sallittua sodankäyntiä. YK:n jäsenvaltiot eivät kuitenkaan pääse yhteisymmärrykseen tekoälyn ja autonomian määritelmistä. Autonomian määritelmät vaihtelevat koneen kyvystä tehdä päätöksiä ilman ihmisen mahdollisuutta puuttua prosessiin ja koneen täydellisen moraalisen itsetietoisuuden välillä.

Lisäksi haasteena on löytää yhteinen kanta asejärjestelmien  autonomian sallittavasta tasosta. Ilman yhteisesti ymmärrettyjä ja hyväksyttyjä termien määritelmiä kieltosopimusta ei saada aikaiseksi.

Toimenpiteitä ja konkretiaa tavoitteiden saavuttamiseksi

YK on pyrkinyt integroimaan tekoälykysymykset koko järjestön toimintaan. YK:n alaisista järjestöistä 37 on tähän mennessä mukana tekoälyn sääntelyssä tavalla tai toisella.

Merkittävimpiä institutionaalisia kehityksiä on Haagiin vuonna 2017 perustettu Tekoälyn ja robotiikan tutkimuksen keskus sekä samana vuonna Kansainvälisen televiestintäliiton ITUn alaisuuteen perustettu AI for Good -foorumi huippukokouksille.

Erityisesti vuosittain järjestetty AI for Good -huippukokous on oivallinen esimerkki YK:n tavoittelemasta kehityssuunnasta. Foorumin tarkoitus on tuoda alan asiantuntijat ja johtavat yritykset yhdessä pohtimaan, kuinka tekoälyä voitaisi kehittää kestävän kehityksen tavoitteiden saavuttamiseksi. Koska teknologiaa kehitetään yritys- ja teknologiavetoisesti, kaikkien toimijoiden kiinteä integrointi mahdollistaa tehokkaimman sääntelyn.

YK:n alaisista järjestöistä 37 on tähän mennessä mukana tekoälyn sääntelyssä tavalla tai toisella.

Kaikkien mukaan ottaminen ei koske ainoastaan yllä mainittuja. YK:n Kasvatus-, tiede- ja kulttuurijärjestö UNESCOn painottaa oppimiskykyä työmarkkinoilta syrjäytymisen ehkäisyssä ja alueellisen epätasa-arvoistumisen ehkäisyssä. Järjestö on myös korostanut tekoälyn kehityksessä GLOCAL-lähestymistä eli globaalisti (global) ja läheltä (local) huomioiden sekä valtioiden että paikallisten toiveet ja tarpeet. Keskeistä tässä mallissa on ajatus tekoälyn kuulumisesta kaikille.

YK:n arvopohjan vaikutukset

YK:n viitekehyksessä 75 vuoden aikana sovittu normisto on laajentunut ja vahvistunut huomattavasti, vaikka järjestöä usein kritisoidaan turvallisuusneuvoston toimimattomuuden vuoksi. Monien yllätykseksi valtiot pääsääntöisesti ylläpitävät ja noudattavat YK:n normeja aktiivisesti.

YK on eittämättä vaikeassa tilanteessa pyrkiessään valjastamaan maailmaa mullistavaa teknologiaa globaaliin hyvään. Sillä on kuitenkin erityinen asema kansainvälisessä sääntelyssä. Yhteinen tahto ylläpitää ihmisoikeuksia ja muuta kansainvälistä sääntöpohjaa takaa, ettei tekoälyn sovellutuksia kehitetä sääntöpohjan kustannuksella tai ajaen kehittyviä maita marginaaliin teollisten maiden nauttiessa kehityksen hedelmistä.

Monien yllätykseksi valtiot pääsääntöisesti ylläpitävät ja noudattavat YK:n normeja aktiivisesti.

Kasvava huomio kansainvälisillä foorumeilla tekoälyn yhteiskunnallisiin vaikutuksiin lisää painetta valtioille ja yrityksille ohjata kehitystään kansainvälisesti hyväksyttävämpään suuntaan. Vuoden 2016 jälkeen valtioiden tekoälystrategioiden määrä onkin kasvanut hyvää vauhtia  ja ne sisältävät monia mainintoja kestävästä sekä oikeuksia kunnioittavasta tekoälykehityksestä.

Pallo on siis nyt valtioilla, yrityksillä ja kaikilla yksilöillä. Valinnat eettisemmän ja kestävämmän tekoälykehityksen puolesta tehdään nyt. Implementoimalla yhteiset kansainväliset normit voidaan mahdollistaa suunnattomat hyödyt, joita tekoälyn kehitys voisi tuoda mukanaan.

Yeti Kakko (YTK) opiskelee Tampereen yliopistossa kansainvälistä politiikkaa ja tutkii gradussaan autonomisia asejärjestelmiä. Kakko on lisäksi toiminut pitkään paikallisissa ja kansallisissa YK-nuorisojärjestöissä.

Artikkeli on osa Tarja Sepän uraa juhlistavaa juhlajulkaisusarjaa Kansainvälinen yhteisö, ihmisoikeudet ja Yhdistyneet kansakunnat.

Julkaisu YK:n arvot tekoälykehityksen tienviittana ilmestyi ensimmäisenä Politiikasta.