Tekoälyasetuksen toimijoiden velvollisuudet

Tämän vuoksi se asettaa velvollisuuksia tekoälyjärjestelmien tarjoajille ja muille keskeisille toimijoille kuten jakelijoille, maahantuojille ja käyttöönottajille. Velvoitteet vaihtelevat tekoälyjärjestelmän riskitason mukaan. 

Kuka on toimija tekoälyasetuksessa?

Toimijalla tarkoitetaan tarjoajaa, tuotteen valmistajaa, käyttöönottajaa, valtuutettua edustajaa, maahantuojaa tai jakelijaa.

Tarjoajalla tarkoitetaan luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta elintä, joka kehittää tai kehityttää tekoälyjärjestelmän tai yleiskäyttöisen tekoälymallin ja saattaa sen markkinoille tai ottaa tekoälyjärjestelmän käyttöön omalla nimellään tai tavaramerkillään.

Valtuutetulla edustajalla tarkoitetaan unionissa sijaitsevaa tai unioniin sijoittautunutta luonnollista tai oikeushenkilöä, joka on saanut ja hyväksynyt tekoälyjärjestelmän tarjoajan antaman kirjallisen toimeksiannon täyttää ja toteuttaa kyseisen tarjoajan puolesta tässä asetuksessa säädetyt velvollisuudet ja menettelyt.

Maahantuojalla tarkoitetaan unionissa sijaitsevaa tai unioniin sijoittautunut luonnollista tai oikeushenkilöä, joka tuo EU:n markkinoille tekoälyjärjestelmän, jolla on kolmanteen maahan sijoittautuneet luonnollisen henkilön tai oikeushenkilön nimi tai tavaramerkki.

Jakelijalla tarkoitetaan muuta toimitusketjuun kuuluvaa luonnollista tai oikeushenkilöä kuin tarjoajaa tai maahantuojaa, joka saattaa tekoälyjärjestelmän saataville unionin markkinoilla.

Käyttöönottajalla tarkoitetaan luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, joka käyttää valvonnassaan olevaa tekoälyjärjestelmää muuhun kuin yksityiseen käyttöön.

Velvollisuudet tekoälyjärjestelmän riskiluokan mukaan

Kielletyt tekoälyjärjestelmiin liittyvät käytännöt

Kielletyt tekoälyjärjestelmiin liittyvät käytännöt ovat käytäntöjä, joiden katsotaan olevan vastoin EU:n arvoja ja perusoikeuksia. Näiden järjestelmien tarjoaminen, käyttö tai markkinoille saattaminen on kokonaan kielletty, ellei tälle ole erityistä lainvalvonnallista perustetta. Myös hyvin rajoitetuissa poikkeustapauksissa, kuten kansallisen turvallisuuden varmistamisessa, tällaisten järjestelmien käyttö voi olla sallittua.

Kiellettyjä tekoälyyn liittyviä käytäntöjä ovat esimerkiksi:

• manipuloivat tai harhaanjohtavat tekniikat 
• tekniikat, jotka hyödyntävät ihmisten haavoittuvuuksia, olennaisesti vääristävät käyttäytymistä ja aiheuttavat merkittävää vahinkoa 
• sosiaalinen pisteytys tietyissä käyttötapauksissa 
• rikollisuuden ennustaminen profiloinnin perusteella 
• verkon tai turvakameroiden tietojen kaapiminen kasvojentunnistustietokantojen luomiseksi 
• tunteiden päättely työpaikoilla tai kouluissa 
• ihmisten biometrinen luokittelu rodun, poliittisen mielipiteen, ammattiliiton jäsenyyden, uskonnollisten tai poliittisten vakaumusten, seksuaalielämän tai seksuaalisen suuntautumisen päättelemiseksi. 

Suuririskiset tekoälyjärjestelmät

Suuririskinen tekoälyjärjestelmä on sellainen järjestelmä, jossa tekoälyjärjestelmää käytetään turvakomponenttina tietyissä tekoälyasetuksessa määritellyissä tuotteissa, kuten hisseissä, radiolaitteissa tai moottoriajoneuvoissa, tai tekoälyjärjestelmä on itsessään tekoälyasetuksessa määritetty tuote. Lisäksi suuririskiseksi tekoälyjärjestelmäksi luokitteluun kuuluu, että tuotteelle tehdään kolmannen osapuolen tarkastus, ennen kuin se voidaan myydä tai ottaa käyttöön EU:ssa.

Myös tiettyihin asetuksessa määriteltyihin tarkoituksiin, kuten rekrytointiin ja kriittisen digitaalisen infrastruktuurin hallintaan, käytettävät tekoälyjärjestelmät ovat lähtökohtaisesti suuririskisiä.

Kun järjestelmä täyttää suuririskisen tekoälyjärjestelmän kriteerit, sen tulee täyttää asetuksen mukaiset vaatimukset ennen sen käyttöä tai markkinoille saattamista. Suuririskisiä tekoälyjärjestelmiä ovat esimerkiksi tekoälyä hyödyntävät kriittiset digitaaliset infrastruktuurit, koulutukseen, työhön, sosiaalipalveluihin tai oikeudellisiin päätöksiin liittyvät järjestelmät, joissa tekoälyjärjestelmää hyödynnetään tai käytetään turvakomponenttina. 

Vaikka tekoälyjärjestelmää ei luokitella suuririskiseksi, sen pitää kuitenkin täyttää muut tekoälyasetuksen vaatimukset ja velvoitteet, kuten avoimuusvelvoitteet. Eri toimijoiden velvollisuudet määräytyvät toimijatyyppien mukaisesti.

Yleiskäyttöiset tekoälymallit (GPAI)

Yleiskäyttöisiä tekoälymalleja ovat tekoälymallit, joita voi käyttää moniin eri tarkoituksiin. Tällaisesta yleiskäyttöisiä tekoälymalleja ovat esim. suuret kielimallit, kuten Chat GPT ja Microsoft Copilot. Tietyt tekoälymallit on luokiteltu systeemisen riskin malleiksi. Niitä voivat olla tekoälymallit, joiden vaikutus on hyvin suuri ja jotka on koulutettu hyvin suurella laskentateholla.

Tietyt vaatimukset koskevat myös yleiskäyttöisiä malleja (esim. suuri kielimalli), vaikka ne eivät suoraan kuulu korkean riskin luokkaan eli ne eivät ole suoraan suuririskisiä tekoälyjärjestelmiä. Toisaalta yleiskäyttöinen tekoälymalli voi myös olla suuririskinen, jolloin sen tarjoajaa koskee myös suuririskisiä tekoälyjärjestelmiä koskevat vaatimukset.

Maksuttomalla avoimen lähdekoodin lisenssillä tarjottaviin tekoälymalleihin sovelletaan tekoälyasetuksen vaatimuksia rajoitetummin esim. teknisen dokumentaation laatimisvelvoitteen osalta.