Information om EU:s förordning om artificiell intelligens | Traficom
Hoppa till huvudinnehåll
Transport- och kommunikationsverket

Information om EU:s förordning om artificiell intelligens

Målet med Europeiska unionens förordning om artificiell intelligens (Artificial Intelligence Act) är att främja en tillförlitlig användning av artificiell intelligens i Europa. Syftet med den är att säkerställa att AI-system som släpps ut på marknaden och tas i bruk inom EU inte äventyrar människors hälsa, säkerhet eller grundläggande rättigheter.

Förordningen fastställer gemensamma regler för användningen av artificiell intelligens, så att den används rättvist, ändamålsenligt och transparent. Den reglerar AI-systemen på basis av de risker de medför. Mycket skadliga sätt att använda artificiell intelligens förbjuds och strängare krav ställs på vissa AI-system med hög risk.

Förordningen förutsätter också att företag ska ha tillgång till en testmiljö för reglering, där de kan pröva och utveckla AI i övervakade förhållanden.

Skyldigheter för aktörer enligt AI-förordningen
Testmiljöer för reglering av artificiell intelligence

Vad är AI-system?

Ett AI-system avser ett maskinbaserat system som åtminstone delvis fungerar autonomt och kan anpassa sin egen funktionalitet efter att systemet har tagits i bruk. Systemet drar slutsatser härledda från den indata det tar emot för att generera resultat i enlighet med systemets mål, såsom förutsägelser, innehåll, rekommendationer eller beslut. 

AI-modellerna är en väsentlig del av AI-systemen, men de bildar inte fullständiga system i sig. För att en AI-modell ska utgöra ett fullständigt AI-system krävs att den även innehåller andra komponenter, till exempel ett användargränssnitt. Förordningen om artificiell intelligens reglerar i huvudsak AI-system, inte AI-modeller. Förordningen innehåller dock också regler för AI-modeller för allmänna ändamål.

En AI-modell för allmänna ändamål avser en modell som uppvisar betydande generalitet, som kan på ett kompetent sätt utföra ett brett spektrum av uppgifter och som kan integreras i en rad olika system eller tillämpningar.

Förordningen om artificiell intelligens tillämpas när ett AI-system eller en AI-modell för allmänna ändamål släpps ut på Europeiska unionens marknad eller tas i bruk inom EU. Den tillämpas också när ett AI-system används av en operatör som har sitt verksamhetsställe eller är verksam inom EU.

Förordningen om artificiell intelligens ålägger skyldigheter för AI-systemen riskbaserat:  

 

  • Vissa AI-system och användningsändamål är förbjudna.  
  • För AI-system med hög risk införs omfattande skyldigheter innan de kan släppas ut på marknaden.  
  • För vissa system med låg risk har ålagts transparensskyldigheter.

Utöver dessa finns AI-system med så låg risk att de inte omfattas av några skyldigheter enligt förordningen.  Obs! AI-modeller för allmänna ändamål regleras separat. 
 

På grund av potentiellt skadliga effekter är användningen av AI förbjuden för följande ändamål:

  • manipulerande eller vilseledande tekniker 
  • tekniker som utnyttjar sårbarheter hos personer, väsentligt påverkar beteendet och orsakar betydande skada 
  • social poängsättning i vissa användningsfall 
  • prognostisering av brottslighet på grundval av profilering 
  • skrapning av uppgifter från internet eller övervakningskameror i syfte att skapa databaser för ansiktsigenkänning 
  • uttydande av känslor på arbetsplatser och i utbildningsmiljöer 
  • biometrisk kategorisering av personer för att härleda ras, politisk åsikt, medlemskap i fackförbund, religiösa eller politiska övertygelser, sexualliv eller sexuell läggning

Regleringen i förordningen om artificiell intelligens gäller i huvudsak AI-system med hög risk. Med detta avses AI-system som kan ha en betydande skadlig inverkan på EU-medborgares hälsa, säkerhet och grundläggande rättigheter.  

Ett AI-system med hög risk är ett system där AI-system används som en säkerhetskomponent i vissa produkter som definieras i förordningen om artificiell intelligens, såsom hissar, radioutrustning eller motorfordon, eller där AI-systemet i sig är en produkt som definieras i förordningen om artificiell intelligens. Dessutom omfattar klassificeringen av ett AI-system med hög risk att produkten måste kontrolleras av en tredje part innan den kan säljas eller tas i bruk inom EU.

Även AI-system som används för vissa särskilda ändamål som definieras i förordningen, såsom rekrytering och hantering av kritisk digital infrastruktur, är i regel högrisksystem.

För AI-system med hög risk har det ålagts skyldigheter som gäller bland annat logguppgifter som systemet samlar in, riskhanteringssystem, teknisk dokumentation, cybersäkerhet samt de data som används i systemet. 

För vissa AI-system med låg risk åläggs transparensskyldigheter: 

  • AI-system som är utformade för interaktion med personer (t.ex. chatbottar) ska utformas och utvecklas så att det tydligt framgår för personen att hen interagerar med ett AI-system.
  • Leverantörer av AI-system ska märka AI-genererat innehåll (ljud, bilder, video, text) så att det går att skilja från innehåll som har producerats av människor. 
  • Personer som utsätts för känsloigenkänning eller biometrisk kategorisering ska informeras om användningen av systemen när sådana system är tillåtna enligt förordningen. 
  • Ett AI-system som producerar eller manipulerar bild-, ljud- eller videoinnehåll som utgör en djupförfalskning (deep fake) ska ange innehållet som artificiellt genererat eller manipulerat.

En AI-modell för allmänna ändamål avser en modell som uppvisar betydande generalitet, som kan på ett kompetent sätt utföra ett brett spektrum av uppgifter och som kan integreras i en rad olika system eller tillämpningar. Exempel på AI-modeller för allmänna ändamål är så kallade stora språkmodeller.

För AI-modeller för allmänna ändamål har det ålagts skyldigheter bland annat gällande teknisk dokumentation och transparensen om den data som använts för att träna modellen. För AI-modeller för allmänna ändamål med betydande prestanda gäller ytterligare skyldigheter. Förordningen om artificiell intelligens fastställer inga skyldigheter för andra AI-modeller än AI-modeller för allmänna ändamål De övervakas av Europeiska kommissionen.

För andra än AI-modeller för allmänna ändamål, såsom modeller som specialiserat sig på ett visst användningsändamål, åläggs inga direkta skyldigheter i förordningen om artificiell intelligens. En sådan annan AI-modell kan dock vara en del av ett AI-system som omfattas av skyldigheterna i förordningen om artificiell intelligens. 

Användarens rättigheter

Förordningen om artificiell intelligens fokuserar på skyldigheterna för leverantörer av AI-system och andra operatörer. Förordningen ger dock även vissa rättigheter till användare:

  • Användare kan lämna in klagomål till myndigheten om de misstänker att bestämmelserna i förordningen om artificiell intelligens har överträtts.
  • Om ett beslut som grundar sig på ett AI-system med hög risk fattas mot användaren och beslutets verkningar är betydande, har användaren rätt att få en utredning om huvudpunkterna i beslutet och vilken roll AI-systemet spelade i beslutsfattandet.
Kundservice för data-, AI- och dataförvaltningsförordningarna
Sidan är senast uppdaterad