Europeiska unionens råd och Europaparlamentet når en överenskommelse om världens första regler för artificiell intelligens

Europeiska unionens råd och Europaparlamentet har nått en provisorisk överenskommelse avseende förslaget om harmoniserade regler för artificiell intelligens. Syftet med rättsakten är att AI-system som utvecklas och används inom EU ska vara säkra och uppfylla de EU-rättsliga grundläggande rättigheterna och värderingarna.

Rättsakten utgör det juridiska flaggskeppet inom AI som ska driva utvecklingen av säkra och trovärdiga AI-system inom EU för såväl privata som offentliga aktörer. Tanken bakom regelverkets utformning är att regleringen ska följa en riskbaserad bedömning: ju högre risk, desto striktare regler. Likt hur GDPR satt den globala standarden för personuppgiftsbehandling är avsikten att rättsakten om artificiell intelligens, som världens första AI-reglering, ska få ett liknande globalt genomslag.

I jämförelse med Europeiska kommissionens tidigare förslag kan de nya inslagen från rådets och Europaparlamentets överenskommelse sammanfattas enligt följande:

-          Särskilda regler för allmänna AI-modeller och AI-system med hög genomslagskraft som kan medföra systematiska risker i framtiden,

-          Ett reviderat styrningssystem med viss verkställighetsbefogenhet på EU-nivå,

-          En utökad lista av förbud men även ett tillåtande av möjligheten för rättsväsenden att använda fjärrbiometrisk identifiering på allmänna platser med vissa begränsningar,

-          Ett särskilt krav för utställare av AI-system med hög risk att beakta grundläggande rättigheter genom att en uppstart av ett sådant system ska ha föregåtts av en analys över systemets påverkan på grundläggande rättigheter, benämnd av rådet såsom en fundamental rights impact assessment.

Vidare är förslaget utformat med en definition av AI som syftar att både exkludera enklare mjukvara och sådana system som enbart används för nationell säkerhet samt militära och försvarsmässiga ändamål. System som används i uppfinnings- och forskningssyfte omfattas inte heller av rättsakten.

Den riskbaserade bedömningen ska verka för ett horisontellt lager av skydd, där AI-system med hög risk medför strikta regler och system med låg eller begränsad risk medför lättare regler. Sådana enklare regler kan exempelvis vara skyldigheten att informera användare om att digitalt innehåll är skapat av AI. De striktare reglerna för AI-system förenade med hög risk har vidareutvecklats i förslaget till att tydliggöra vilka skyldigheter som föreligger för olika aktörer förknippade med driften av AI-system. Rättsakten tydliggör även vilka skyldigheter som åligger aktörerna under såväl rättsakten självt som inom annan relevant EU-lagstiftning och vidare vilka påföljder som aktualiseras vid en överträdelse av rättsakten. Vissa typer av AI-system, exempelvis sådana som används inom sociala kreditsystem eller biometrisk kategorisering, anses som oacceptabla enligt rättsakten och blir således otillåtna inom EU.

Ett särskilt AI-råd kommer att upprättas och bestå utav representanter från medlemsstaterna. Syftet med AI-rådet är att upprätta en koordinerande plattform sinsemellan kommissionen och medlemsstaterna för att förenkla rättsaktens implementering. Utöver AI-rådet kommer även ett särskilt rådgivande forum, beståendes utav industrirepresentanter, privata bolag, privatpersoner och akademiker att upprättas vars syfte är att bistå AI-rådet med teknisk expertis.