16 Jun AI-förordning går in i lagstiftningsprocessens sista steg!
Europaparlamentet antog tidigare i veckan med klar majoritet sin förhandlingsposition[1] vad gäller förslaget till AI-förordning. Förhandlingspositionen bygger vidare på det ursprungliga förslag till AI-förordning som EU-kommissionen publicerade den 21 april 2021,[2] och för vilket ministerrådet publicerade sin förhandlingsposition den 6 december 2022.[3] Europaparlamentet har nu antagit sin förhandlingsposition, inför att slutförhandlingar påbörjas mellan de tre EU-institutionerna, de så kallade trilogförhandlingarna.
Gårdagens beslut utgör en viktig milstolpe som banar vägen för slutförandet av världens första samlade regelverk om AI. Regelverket ska se till att AI utvecklas och används inom EU i enlighet med EU:s grundläggande rättigheter och värden, samtidigt som regelverket är tänkt att främja utvecklingen av AI inom EU. Regelverket bygger på ett riskbaserat förhållningssätt där AI-system som anses innebära en oacceptabel risk förbjuds, samtidigt som AI-system som anses innebära en hög risk omfattas av strikta förhållningsregler.
Europaparlamentets förhandlingsposition innefattar ett stort antal viktiga ändringsförslag jämfört med tidigare positioner, bland annat en ny definition för AI-system, en uppdaterad lista av förbjudna AI-tillämpningar, uppdateringar av listan för vilka AI-system som anses innebära en hög risk samt nya krav vad gäller hållbarhet och miljöpåverkan.
Särskilt intressant är förslagen om regler som tar sikte på generativ AI, såsom OpenAI:s ChatGPT. För att möta de utmaningar och risker som generativ AI för med sig introduceras två nya koncept i Europaparlamentets position; ”Foundation models” och ”General purpose AI systems”. Foundation models definieras som ”an AI system model that is trained on broad data at scale, is designed for generality of output, and can be adapted to a wide range of distinctive tasks”, medan General purpose AI systems definieras som “an AI system that can be used in and adapted to a wide range of applications for which it was not intentionally and specifically designed”. Foundation models anses medföra särskilt stora risker, särskilt eftersom det med en sådan modell som basplatta är möjligt att nedströms bygga på med AI-applikationer och AI-system som både påverkas och blir beroende av den underliggande modellen. Foundation models kan exempelvis tillhandahållas som en tjänst genom API-access, och implementeras i form av ett General purpose AI system. Leverantörer av Foundation models föreslås åläggas särskilda skyldigheter vad gäller utveckling och design, transparens, datakvalité och dokumentation, och för det fall modellen är avsedd som ett generativt AI-system åläggs leverantören bland annat att offentliggöra en förteckning över träningsdata som omfattas av upphovsrätt.
En annan nyhet är att nivåerna för sanktionsavgifter skruvas åt, och, beroende på typ av överträdelse, föreslås kunna komma att uppgå till sju procent av det överträdande bolagets globala årsomsättning.
Trilogförhandlingarna inleddes redan i veckan med ambitionen att nå en överenskommelse i november 2023. Om en överenskommelse nås enligt ambitionen, och AI-förordningen träder i kraft innan årsskiftet är det däremot, enligt nuvarande förslag, två år till dess att förordningen ska börja tillämpas.
Organisationer som vill utveckla AI-system för användning i sin verksamhet bör redan idag förhålla sig till den föreslagna lagstiftningen tillsammans med de befintliga lagregler som blir tillämpliga, exempelvis inom dataskydd, upphovsrätt och skadeståndsrätt. För att hantera de legala riskerna vid utveckling och användning av AI bistår vi klienter med exempelvis rättsutredningar, avtalsfrågor och framtagande av AI-policy. Kontakta oss gärna om du har rättsliga frågor inom AI-området!
Christina Wikström Anton Karlsson
Advokat & Managing Partner Biträdande jurist
christina@wikstrompartners.se anton@wikstrompartners.se
+46 70 691 68 00 +46 70 148 00 09
[1] https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.pdf.
[2] https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0003.02/DOC_1&format=PDF.
[3] https://eur-lex.europa.eu/legal-content/SV/TXT/PDF/?uri=CONSIL:ST_15698_2022_INIT&from=SV.