Europaparlamentet och Europeiska kommissionen har kommit närmare en överenskommelse gällande flera viktiga frågor i förhandlingen kring den kommande AI-förordningen och det är bara några tekniska frågor kvar innan beslut kan fattas om EU:s AI-förordning. Förslag tar avstamp i etiska riktlinjer för AI-utveckling och syftar till att skapa enhetliga regler inom EU för att stärka den inre marknadens konkurrenskraft, förhindra fragmentering och skydda grundläggande rättigheter.
➡ Missa inte vårt kostnadsfria webbinarium – Det du behöver veta om den nya AI-förordningen
Förslaget syftar till att skapa en enhetlig ram för AI inom EU och stärka den inre marknaden. Målet är att skydda grundläggande rättigheter och säkerställa fri rörlighet för AI-system. Bland annat regleras högriskområden som system för biometrisk identifiering och biometriskt fjärridentifiering i realtid på allmän plats. Därtill kommer medveten manipulation av barn och andra känsliga grupper och social poängsättning med hjälp av AI förbjudas.
Riskbaserad strategi
För att möta den risk som olika typer av AI-system kan utgöra, används ett riskbaserat angreppssätt. En strukturerad uppdelning föreslås där vissa AI-system förbjuds, andra tillåts under restriktioner och krav, medan de med låg eller ingen risk kan användas utan begränsningar. En nyckelfaktor är införandet av marknadsövervakning och regelefterlevnad på både nationell och EU-nivå.
Skydd av personuppgifter och cybersäkerhet anses vara centrala komponenter. Förbud införs för att säkerställa etisk användning, inklusive förbjuden användning av AI-system för att manipulera beteenden och identifiera personer på distans i realtid för brottsbekämpning.
Viss användning av AI-system kommer vara förbjudna. Förbudet gäller allt från att implementera dessa system på marknaden, till att ta systemen i bruk och att använda dem.
3 förbud enligt den nya AI-förordningen
- AI-system som kan manipulera beteenden hos människor med subliminala metoder, på ett sätt som sannolikt kan innebära att någon kan skadas fysiskt eller psykiskt.
- AI-system som används för att utnyttja svagheter hos en befolkningsgrupp, till exempel ålder, mental eller fysisk funktionsnedsättning, och syftet är att förändra beteendet så att systemet orsakar fysisk eller psykisk skada hos personer i gruppen.
- AI-system som används av offentliga organ för att profilera och klassificera fysiska personers trovärdighet över en viss tid baserat på personernas beteende eller uppskattade personlighet eller personlighetsdrag hos personen utifrån ett poängsystem, så att detta kan leda till skadlig eller ogynnsam behandling av personen.
Till dessa förbud tillkommer ett där medlemsstaterna själva kan välja att medge undantag från. Detta gäller AI-system som identifierar personer baserat på biometriska uppgifter, på distans i realtid på offentliga platser, i brottsbekämpande syften. Undantaget kan då vara i syfte att söka efter brottsoffer som försvunna barn, personer som misstänks för allvarlig brottslighet samt om det finns en betydande risk för liv eller personlig säkerhet eller en terroristattack.
Människor ska få information
Om personer exponeras för AI-system som används för att registrera känslor eller biometrisk kategorisering ska de informeras om detta. Ett undantag gäller AI-system som med stöd i lag används för brottsbekämpande ändamål.
Det ska även framgå att media som har genererats av AI-system, som kan uppfattas som äkta, har blivit manipulerat. Undantag finns för att garantera rätten till yttrandefrihet, konstnärlig frihet och frihet för forskning.
Framtiden för AI inom EU
Förslaget representerar en avgörande milstolpe för reglering av AI inom EU. Genom att balansera innovation med etiska och juridiska överväganden strävar EU mot en framtid där AI utvecklas och används på ett säkert och ansvarsfullt sätt. Förväntningarna är att detta regelverk kommer att stärka EU:s position som en ledande kraft inom den snabbt utvecklande världen av artificiell intelligens.
➡ Vill du fördjupa dig? Kursen Artificiell intelligens och skyddet för personlig integritet redogör för de krav som den nya AI-förordningen innebär för organisationer och hur reglerna kan följas i praktiken.
