Tekoälyn soveltamisen kyberturvallisuus ja riskienhallinta

Tekoäly on entistä useammin osa tietojärjestelmiä sen tarjoamien uusien mahdollisuuksien vuoksi. Tekoälyyn ja koneoppimiseen liittyvien tietoturvariskien tunnistaminen ja hallitseminen on tärkeää, jotta tekoälyjärjestelmiä voidaan hyödyntää mahdollisimman turvallisesti ja myös saada näiden järjestelmien tuoma mahdollinen hyöty nykyistäkin laajempaan käyttöön. Tekoälyn ja koneoppimisen etiikka ja riskit ovat olleet viime vuosina suuren huomion kohteena. Eettisiä periaatteita kodifioidaan myös lainsäädäntöön ja erilaisiin käytännesääntöihin. Myös tekoälyn turvallisuuden standardointityö on aktiivista sekä yleisesti tekoälyjärjestelmille että toimialakohtaisesti. Sekä tekoälyä käyttäviltä että perinteisiltä järjestelmiltä vaaditaan selitettävyyttä, vikasietoisuutta ja tarkkailtavuutta.

Tekoälyn tietoturvallisuus ja tietosuoja lepäävät vahvasti perinteisen tietoturvallisuuden varassa. Monet ehdotetuista lähestymistavoista kannattaisikin ottaa käyttöön myös perinteisten järjestelmien kehityksessä. Tekoälyjärjestelmissä näiden ominaisuuksien saavuttaminen voi kuitenkin vaatia perinteisistä järjestelmistä poikkeavia lähestymistapoja. Tekoälyn tietoturvariskit ovat sekä systeemisiä että toteutukseen liittyviä. Systeemiset riskit liittyvät siihen, miten tekoäly toimii oikein osana muita järjestelmiä ja yhteistoiminnassa ihmisten kanssa. Toteutuksen riskit liittyvät opetusdatan hallintaan ja luottamuksellisuuteen, koneoppimismallien eheyteen ja niiden oikeaan toimintaan myös vihamielisissä tilanteissa.

Koneoppimismallit oppivat datasta. Opetusdataan vaikuttamalla on mahdollista vaikuttaa koneoppimista käyttävän järjestelmän toimintaan. Riskejä voidaan hallita tekoälyjärjestelmien kehitystyössä oikeilla teknisillä ratkaisuilla sekä tietoturva- ja tietosuoja-aktiviteeteilla. Järjestelmiä kehittävät tahot voivat löytää omat riskinsä ja hallita niitä tehokkaasti, kunhan riskien syntymekanismit on tunnettu ja hallintakeinot on tosiasiallisesti otettu osaksi kehitysprosesseja. Hallintakeinot voivat olla ennaltaehkäiseviä ja reaktiivisia ja useimmat niistä ovat samoja kuin perinteisillä järjestelmillä. Poikkeukset liittyvät esimerkiksi testausjärjestelyihin. Selvitystä varten kerättiin näkemyksiä useista organisaatioista: Aalto-yliopiston Mobile Cloud Computing
-ryhmä, Awake.ai, CSC - Tieteen ja tietotekniikan keskus, Oulun satama, Reaktor, TietoEVRY, VTT ja Wärtsilä. Näiden lisäksi näkemyksiä kerättiin muusta kahdesta organisaatiosta, jotka toimivat tietoliikenne- ja rahoitusaloilla.