AI-förordningen – EU:s nya överenskommelse i korthet

AI-förordningen – EU:s nya överenskommelse i korthet

Efter tre dagars förhandling nådde EU:s ministerråd och EU-parlamentet under fredagen den 8 december äntligen en överenskommelse vad gäller förslaget till en AI-förordning. Förslaget har varit under förhandling inom EU ända sedan EU-kommissionen lade fram ett förslag till AI-förordning[1] i april 2021, och har sedan i juni 2023 varit föremål för trilogförhandlingar mellan EU-kommissionen, EU:s ministerråd och EU-parlamentet, tills en överenskommelse nåddes under fredagen.

AI-förordningen förväntas få ett stort genomslag på användningen av AI-system inom EU, men även på hur reglering om AI utvecklas globalt, på samma sätt som har varit fallet med dataskyddsförordningen[2] sedan den började tillämpas under år 2018. I detta inlägg delar vi några av AI-förordningens grunddrag.

Som tidigare kommunicerat[3] bygger AI-förordningen på ett riskbaserat förhållningssätt, där regelbördan för olika AI-system bestäms i förhållande till AI-systemets risk att orsaka skada i samhället; ju större risk, desto striktare regler. Det är just AI-system som är föremål för majoriteten av bestämmelserna i AI-förordningen, och en viktig del vad gäller definitionen av AI-system har varit att särskilja AI-system från enklare programvarusystem genom tydliga kriterier, vilket resulterat i en definition i linje med OECD:s publicerade definition.

En särskild grupp AI-system anses innebära så stor risk att de är förbjudna inom EU, det gäller bland annat AI-system som manipulerar mänskligt beteende, till exempel leksaker av visst slag, AI-system som utnyttjar sårbarheter hos människor, till exempel till följd av ålder eller funktionsvariationer, och AI-system som används för känsloigenkänning eller biometrisk kategorisering enligt vissa förutsättningar. AI-system som kan inordnas under särskilda kritiska områden, såsom utbildning och sysselsättning, samt under särskilt utpekade användningsområden, kommer klassificeras som AI-system med hög risk, vilka kommer att omfattas av flertalet krav och skyldigheter innan de får användas inom EU, bland annat vad gäller transparens och dokumentation. För AI-system som endast anses innebära en begränsad risk kommer endast lättare transparenskrav vara tillämpliga.

AI-förordningen kommer också innefatta särskild reglering vad gäller så kallade ”general purpose AI systems”, dvs. AI-system som kan användas för många olika ändamål, samt ”foundation models”, såsom Open AI:s GPT-4. Foundation models anses kunna innebära systematiska risker för hela värdekedjan varför de omfattas av särskilda transparenskrav, med striktare krav för de allra största.

Bristande efterlevnad kan leda till betydande sanktioner, som sträcker sig från det högsta av 35 miljoner EUR och 7 % av en organisations globala årsomsättning, till det högsta av 7,5 miljoner EUR eller 1,5 % av en organisations globala årsomsättning, beroende på vad bristen ligger i och organisationens storlek.

Vi inväntar nu att en slutlig förordningstext ska publiceras, vilket förväntas under januari 2024, samt att AI-förordningen därefter träder i kraft. AI-förordningen kommer i sin helhet börja tillämpas två år efter ikraftträdandet, men med undantag för förbuden som börjar tillämpas redan sex månader efter ikraftträdandet och andra bestämmelser som börjar tillämpas ett år efter ikraftträdandet.

Det blir nu viktigt för organisationer som använder AI och investerar i AI-utveckling att ta förordningens bestämmelser i beaktning och anpassa sin verksamhet efter de skyldigheter och krav som följer av förordningen. Särskilt viktigt blir detta för organisationer med AI-tillämpning som kan omfattas av förbuden, och som därmed kan behöva genomföra förändringar till sommaren 2024.

Vi på Wikström & Partners följer utvecklingen noggrant, och bistår våra klienter löpande med juridisk rådgivning avseende bland annat rättslig analys av AI-projekt, upphandling av AI-tjänster, avtalsskrivning om AI-teknologi samt utbildning och policyfrågor.  Tveka inte på att höra av er om ni har frågor kring AI och juridik!

Christina Wikström                                             Anton Karlsson
Advokat & Managing Partner                        Biträdande jurist
christina@wikstrompartners.se                   anton@wikstrompartners.se
+46 70 691 68 00                                                  +46 70 148 00 09

 

 

[1] https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0003.02/DOC_1&format=PDF

[2] https://eur-lex.europa.eu/legal-content/SV/TXT/PDF/?uri=CELEX:32016R0679

[3] https://wikstrompartners.se/ai-forordning-gar-in-i-lagstiftningsprocessens-sista-steg/