EU:s AI-märkning börjar gälla – här är det som ska synas

Den 2 augusti börjar transparenskraven i artikel 50 i EU:s AI-förordning att tillämpas. De handlar om en enkel princip: människor ska i vissa situationer kunna förstå att det de möter, ser eller utsätts för kommer från ett AI-system.

Reglerna betyder däremot inte att allt som skapats med AI måste få en synlig etikett. Kraven skiljer sig beroende på vem som tillhandahåller systemet, vem som använder det och vilken typ av innehåll eller analys det gäller.

När du pratar direkt med AI

Den som tillhandahåller ett AI-system för direkt interaktion med människor ska utforma det så att användaren får veta att den möter AI. Informationen behöver inte lämnas om det är uppenbart för en normalt informerad och uppmärksam person.

Kommissionens riktlinjer anger att informationen ska komma senast när den första interaktionen börjar. Det kan gälla exempelvis chatbots, AI-agenter eller digitala avatarer. System som bara arbetar i bakgrunden utan direkt kontakt med en människa omfattas inte av just detta krav.

Maskinläsbar märkning är inte samma sak som en synlig etikett

Leverantörer av generativa AI-system ska göra syntetiskt ljud, bild, video och text maskinläsbart och möjligt att upptäcka som AI-genererat eller manipulerat. Det kan röra sig om metadata, watermarking eller andra tekniska signaler.

En sådan signal behöver inte vara synlig för den som tittar. Den är i stället tänkt att kunna läsas av tekniska verktyg. Vanlig redigering och vissa rent tekniska resultat eller machine-to-machine-output faller utanför kravet enligt kommissionens vägledning.

För system som släpptes på marknaden före den 2 augusti finns en begränsad övergångstid för just den maskinläsbara märkningen. De ska uppfylla kravet senast den 2 december 2026. Övriga transparenskrav har inte samma generella frist.

Deepfakes ska märkas för människor

Den som yrkesmässigt använder AI för att skapa eller manipulera bild, ljud eller video som ser äkta ut ska upplysa om att innehållet är artificiellt framställt eller förändrat. Här räcker det inte att enbart förlita sig på dold, maskinläsbar metadata. Upplysningen ska vara tydlig och uppfattningsbar när en människa först exponeras för innehållet.

För konstnärliga, satiriska och fiktiva verk är kravet mer begränsat. Informationen ska lämnas på ett sätt som inte hindrar visningen eller upplevelsen av verket. Det är alltså ett transparenskrav, inte ett förbud mot satir eller fiktion.

AI-text om samhällsfrågor har ett viktigt undantag

AI-genererad eller AI-manipulerad text som publiceras för att informera allmänheten om frågor av allmänintresse ska som huvudregel märkas. Kommissionen nämner bland annat politik, offentlig förvaltning, rättsväsende, grundläggande rättigheter, hälsa, vetenskap och kultur.

Märkning krävs inte när texten har genomgått verklig mänsklig granskning eller redaktionell kontroll och en fysisk eller juridisk person bär det redaktionella ansvaret. Stavningskontroll eller en ytlig formell genomgång räcker inte enligt vägledningen.

Det undantaget är centralt för redaktioner. AI-stöd i arbetsprocessen gör inte automatiskt en journalistisk text märkningspliktig när människor faktiskt har granskat innehållet och någon tar ansvar för publiceringen.

Biometrisk kategorisering och emotion recognition

Den som använder ett system för emotion recognition eller biometrisk kategorisering ska informera de människor som exponeras för systemet. I den svenska lagtexten används termen emotionsigenkänning. Kravet gäller både analys i realtid och analys i efterhand.

Flera användningar av sådan teknik är redan förbjudna genom andra delar av AI-förordningen, exempelvis viss emotion recognition på arbetsplatser och i skolor. Artikel 50 gäller de användningar som fortfarande är tillåtna och kräver att de inte sker helt osynligt.

Vägledning är inte samma sak som lag

Kommissionens riktlinjer förklarar hur myndigheten anser att artikel 50 ska tillämpas. Den frivilliga uppförandekoden ger företag ett gemensamt sätt att visa efterlevnad. Varken riktlinjerna eller koden ersätter den antagna förordningen.

I Sverige har regeringen gett PTS, IMY, Finansinspektionen, Läkemedelsverket och Swedac uppdrag som nationella behöriga myndigheter inom olika delar av AI-förordningen. Hur tillsynsansvaret faller ut beror därför på system och sektor.

Överträdelser av transparenskraven kan enligt kommissionens vägledning leda till sanktionsavgifter på upp till 15 miljoner euro eller tre procent av föregående års globala omsättning. Den praktiska betydelsen avgörs nu av hur tydligt informationen visas och hur tillsynen faktiskt bedrivs.