Nye EU-regler skal afsløre AI-indhold og chatbots
Siden 2. august skal chatbots i EU fortælle, at de er maskiner, og AI-genererede deepfakes skal mærkes. Det er den del af EU's AI-forordning, der berører almindelige menneskers hverdag mest direkte, og to måneder efter ser vi de første konturer af, hvad reglerne kan – og ikke kan.Hvad er der sket?Ifølge EU-Kommissionen begyndte Kommissionens AI-kontor og de nationale myndigheder den 2. august 2026 at håndhæve AI-forordningen, herunder nye gennemsigtighedsregler (artikel 50). Kommissionen beskriver formålet som at mindske bedrag og manipulation og hjælpe folk med at træffe informerede valg.Reglerne består i hovedtræk af tre dele. For det første skal chatbots og andre systemer, der taler direkte med mennesker, gøre det klart, at man har med en AI at gøre og ikke et menneske – medmindre det er åbenlyst. For det andet skal billeder, lyd og video, der er skabt eller manipuleret med AI og ligner virkelige personer, steder eller begivenheder (såkaldte deepfakes), mærkes tydeligt af dem, der bruger dem. Det gælder også AI-genereret tekst om emner af offentlig interesse, hvis den er udgivet uden menneskelig redaktionel kontrol. For det tredje skal udbydere af generativ AI, altså AI der skaber tekst, billeder eller lyd, mærke deres output i et maskinlæsbart format, for eksempel med vandmærker eller skjulte metadata, så andre systemer kan opdage, at indholdet er AI-skabt.Kommissionen har ifølge egne oplysninger udarbejdet vejledning og en adfærdskodeks for gennemsigtighed, som over 180 organisationer har underskrevet. Der er også udviklet et sæt ikoner til ensartet mærkning. Overtrædelser kan ifølge Kommissionen give bøder på op til 15 millioner euro eller 3 procent af virksomhedens globale årsomsætning, afhængigt af hvad der er højest.Hvad ved vi endnu ikke?Reglerne gælder fra august, men de er ikke fuldt indfasede. Ifølge den hollandske juridiske rådgiver ICT-recht og den luxembourgske erhvervsorganisation FEDIL har eksisterende generative AI-systemer en overgangsfrist til 2. december 2026, før de skal kunne mærke deres output maskinlæsbart. Frem til da kan der altså stadig cirkulere AI-indhold uden teknisk mærkning, også fra lovlige tjenester. Samtidig har den såkaldte digitale omnibus-pakke, som ifølge Kommissionen trådte i kraft 27. juli 2026, udskudt reglerne for højrisiko-AI til 2. december 2027 og 2. august 2028. Gennemsigtighedsreglerne blev ikke udskudt.Det er heller ikke dokumenteret, hvor effektivt mærkningen virker i praksis. Mærkningen binder kun dem, der følger reglerne. Kriminelle, der laver svindel med AI-stemmer eller falske videoer, kommer næppe til at sætte et ikon på deres produkter. Det er vores egen vurdering og ikke en påstand fra myndighederne, men den er værd at have i baghovedet.Det betyder det for digFor almindelige brugere er den mest konkrete ændring, at du i princippet har ret til at vide, om du taler med en maskine. Det gælder kundeservice, digitale rådgivere og avatarer på nettet. Samtidig får du et fælles billedsprog at kigge efter, når et billede, en lydfil eller en video er skabt med AI. For virksomheder og foreninger, der selv bruger AI til at lave indhold, betyder det, at de skal være åbne om det. Kommissionen har desuden oprettet en klageportal og et whistleblower-værktøj til AI-forordningen, hvis du mener, at reglerne ikke overholdes.Det skal du være opmærksom på
- Se mærkningen som en hjælp, ikke som en garanti. Mangler der en AI-mærkning, er indholdet ikke dermed ægte. Kommissionens mærkning gælder kun for dem, der følger reglerne.
- Vær ekstra skeptisk over for opkald, beskeder og videoer, der presser dig til hurtig handling eller betaling, også når stemmen lyder som en, du kender. Det er en generel forsigtighedsregel og ikke et krav i AI-forordningen: Ring i tvivlstilfælde selv tilbage på et nummer, du kender.
- Spørg direkte, hvis du er i tvivl om, om du chatter med en maskine. Efter reglerne skal du have et klart svar, medmindre det er åbenlyst.
- Vær kritisk over for AI-genereret tekst om samfundsemner. Den skal være mærket, men kun hvis den er udgivet uden menneskelig redaktionel kontrol.
- Brug klageværktøjet. Mener du, at en tjeneste skjuler, at den er AI, kan du ifølge Kommissionen klage via AI-forordningens klageværktøj.