Nya regler kräver märkning av AI-genererat innehåll. Stora plattformar och mediebyråer måste nu förbereda sig för omfattande efterlevnadskrav.
EU-kommissionen har tagit fram ett förslag till uppförandekod (Code of Practice) som syftar till att förbättra den inre marknadens funktion, främja människocentrerad och pålitlig artificiell intelligens samtidigt som den säkerställer en hög skyddsnivå för hälsa, säkerhet och grundläggande rättigheter, inklusive demokrati, rättsstatsprincipen och miljöskydd mot skadliga effekter av AI i EU. Koden ska fungera som ett vägledande dokument för att visa efterlevnad av skyldigheterna enligt artikel 50(2) och (5) i AI-förordningen, särskilt för leverantörer av AI-system som genererar syntetiskt ljud-, bild-, video- eller textinnehåll.
Koden är ett första utkast och medlemsstaterna ska få lämna synpunkter innan den fastställs. Transparanskraven i AI-förordningen ska börja tillämpas 2 augusti 2026 och den föreslagna koden syftar till att hjälpa marknaden med tolkningen av kraven.
Bakgrund: Ökad oro för desinformation
Intressenterna erkänner att AI-system kan generera stora mängder syntetiskt innehåll och att det blir allt svårare för människor att skilja AI-genererat innehåll från autentiskt människoskapat innehåll, vilket påverkar integriteten och förtroendet i informationsekosystemet och skapar nya risker för desinformation och manipulation i stor skala, bedrägeri, personförfalskning och konsumentbedrägeri.
För aktörer inom digital annonsering innebär detta en betydande förändring av spelreglerna.
Konkreta krav: Flerlagers märkning och detektering
1. Märkning av AI-genererat innehåll
Leverantörer av generativa AI-system förbinder sig att implementera en flerskiktad metod för aktiv märkning av text-, bild-, video- eller ljudinnehåll som genereras eller manipuleras av AI-systemet, eftersom ingen enskild märkningsmetod är tillräcklig för att effektivt uppfylla kraven i artikel 50 i AI-förordningen.
Märkningstekniker implementeras i flera lager med maskinavläsbar märkning och kan införas i olika skeden av värdekedjan, även av tredje parter som specialiserar sig på transparensmärkningsteknik. Konkret inkluderar detta:
- Metadata-inbäddning med information om innehållets härkomst och en digital signatur av det generativa AI-systemet
- Omärkbara vattenstämplar som vävs in i innehållet under modellträning, modellinferens eller i utdata från ett AI-system
- Fingeravtryck eller loggningsfunktioner där nödvändigt för att komplettera bristerna i andra märkningstekniker
2. Detekteringsmöjligheter
Leverantörer ska tillhandahålla kostnadsfritt ett gränssnitt (t.ex. API eller användargränssnitt) eller en offentligt tillgänglig detektor för att göra det möjligt för användare och andra intressenter att med konfidenspoäng verifiera huruvida innehåll har genererats eller manipulerats av deras AI-system eller modell.
3. Särskilda krav för deepfakes
Användare av AI-system som genererar eller manipulerar bild-, ljud- eller videoinnehåll som utgör en deepfake ska avslöja att innehållet har genererats eller manipulerats artificiellt. En gemensam taxonomi (ikon) ska användas för att stödja konsekvent och transparent identifiering av innehåll som kräver informationsskyldighet, med särskild åtskillnad mellan fullständigt AI-genererat innehåll och AI-assisterat innehåll.
Vad betyder detta för plattformar och mediebyråer?
För stora plattformar (Meta, Google, m.fl.):
Leverantörer måste upprätta, implementera och uppdatera ett efterlevnadsramverk som beskriver märknings- och detekteringsprocesserna samt de åtgärder som vidtas för att säkerställa efterlevnad av åtagandena, med relevant dokumentation som ska delas med behöriga marknadskontrollmyndigheter på begäran.
Före marknadsintroduktion och regelbundet därefter måste leverantörer testa märknings- och detekteringslösningarna för efterlevnad under verkliga förhållanden, med hänsyn till tillgängliga riktmärken och testmetoder.
För små och medelstora mediebyråer:
Förenklade sätt att uppfylla efterlevnadskraven för små och medelstora företag, inklusive nystartade företag, ska vara möjliga och proportionella. Det rekommenderas att leverantörer, inklusive små och medelstora företag, använder en eller flera generativa AI-modeller som redan märker utdata på ett sätt som överensstämmer med kraven i koden för att minimera kostnader och underlätta efterlevnad. I koden föreslås att en EU-gemensam symbol ska tas fram.
Utbildning måste tillhandahållas till personal som är involverad i skapande, modifiering eller distribution av innehåll, och ska täcka när informationsskyldighet krävs enligt lag, hur taxonomin och ikonen ska tillämpas, förståelse för specifika informationspraxis för konstnärligt och kreativt arbete, tillämpliga tillgänglighetskrav samt förfaranden för att rätta felaktig eller saknad information, proportionellt till företagets storlek och resurser.
Praktiska åtgärder och nästa steg
- Kartlägg era AI-verktyg – Identifiera alla AI-system som används för innehållsgenerering eller manipulation
- Granska leverantörsavtal – Säkerställ att era AI-leverantörer följer märknings- och detekteringskraven
- Utvärdera ert innehåll – Bedöm vilket innehåll som kräver särskild märkning enligt de nya reglerna och skapa en policy.
På kort sikt:
- Upprätta intern efterlevnadsdokumentation som specificerar er märkningspraxis, inklusive hur märkning har tillämpats med konkreta exempel.
- Implementera möjlighet för tredje part att konfidentiellt rapportera felmärkt eller icke-märkt deepfake-innehåll, och samarbeta med myndigheter vid behov.
- Tillhandahåll lämplig utbildning till personal som är involverad i design och utveckling av AI-system samt övervakar efterlevnaden.
Avslutande kommentar
Transparens är grundläggande för att främja förtroende och integritet i ekosystemet samt för att säkerställa att AI-system förblir tillförlitliga och pålitliga. För aktörer inom digital annonsering – från globala plattformar till lokala mediebyråer – är det nu avgörande att proaktivt förbereda sig för dessa krav.
Stockholm den 25 januari 2026
Katarina Ladenfors
