Falske billeder AI – den forunderlige verden af AI-billeder
Hvordan bliver et AI billede til? – træningen
Der findes en lang række måder, hvorpå man kan skabe billeder med kunstig intelligens, og ofte kombineres disse måder i de nyere modeller.
Den første del består af at træne modellen, hvor store datasæt med billeder (fx fotos eller illustrationer) bruges til at lære modellen at genkende mønstre, teksturer og relationer mellem objekter i billederne.
For eksempel kan en model trænes på naturbilleder, hvor den så lærer, hvordan skyer, bjerge eller skove ser ud.
Teknologierne til at skabe selve billedet – GANs
Når modellen er trænet, skal den så generere billedet. Her findes som sagt flere måder, hvor GAN – såkaldte generative adversarial networks – er én af dem. Den bruges eksempelvis af NVIDIA i deres StyleGAN og GauGAN modeller, ligesom Runway og DeepDream Generator-værktøjerne trækker på denne teknologi.
I den måde sætter man to netværk til at konkurrere med hinanden. Det ene netværk – generatoren – skal skabe nye billeder, og det andet netværk – diskriminatoren – skal evaluere, om billedet er fra det originale datasæt. Konkurrencen skal gøre, at generatoren bliver bedre og bedre til at skabe billeder, som kan narre diskriminatoren.
Andre teknologier til at skabe billeder med AI
En anden måde / teknik foruden GAN er en såkaldt diffusion model. En diffusion model starter med, hvad man kan kalde tilfældig støj. Ud fra den støj forfiner modellen gradvist billedet ved at fjerne støj ud fra de mønstre, den lærte under træningen.
Modeller, som er baseret på den teknik, er fx Open AI’s DALL-E og Stable Diffusion. Udover GAN og diffusion modeller findes en lang række andre metoder til at skabe AI-billeder. De inkluderer bl.a. såkaldt Neural Style Transfer, PixelRNN og CLIP-modeller.
Derudover er det vigtigt at forstå, at mange af de moderne AI-værktøjer indenfor fotos og video kombinerer flere af disse metoder for at forbedre de endelige resultater.
Hvorfor er det ikke ligetil at spotte et AI-skabt billede?
Når vi altså forstår ganske detaljeret, hvorledes man skaber AI-billeder (og videoer for den sags skyld), så burde det vel også være ret enkelt at genkende dem i praksis?
Desværre eller – vil nogle måske mene – heldigvis er det imidlertid ikke så enkelt endda! Selvom der udvikles et utal af værktøjer til at opdage AI-genereret indhold, så er disse værktøjer langt fra perfekte. Det skyldes dels, at de førnævnte metoder bliver mere og mere avancerede og kan skabe indhold, hvor det er sværere og sværere at skelne fakta fra fake, og dels at de såkaldte detektionsalgoritmer, der skal opdage AI-billederne, kun trænes på specifikke AI-modeller.
Mine bedste råd til at detektere AI-skabte fotos i fremtiden
De fleste af os, som har set et historisk skabt AI-billede, har sikkert grinet lidt over de mange fejl, vi fandt med det blotte øje. Det kunne være mærkelige hænder eller en mærkelig symmetri, som historisk har gjort det let at identificere.
Imidlertid går udviklingen så stærkt, at det indenfor blot få år vil være umuligt at se med det blotte øje. Den menneskelige del vil altså spille langt mindre ind, når det kommer til at detektere falsk indhold skabt i værktøjer som Midjourney, Ideogram etc.
Det risikerer at skabe en sand eksplosion af falsk indhold i selv de seriøse nyhedsmedier, som da TV2 bragte et falsk og AI-genereret foto, der angiveligt skulle vise en fange fra det berygtede Sednaya-fængsel uden for Damaskus i Syrien. Da det skete, blussede debatten op igen.
Hvad gør medierne i fremtiden for at undgå den slags fejl?
Jeg gav interviews i diverse medier for at dele mine bedste råd, og vil også fremhæve dem nedenfor sammen med en oversigt over, hvad der i mine øjne bør være nogle af kriterierne for, hvordan nyhedsmedier verificerer og validerer visuelt indhold.
1. Kildens troværdighed
Den ene del af valideringen er naturligvis, hvor man har billedet fra – kilden. Her er det evident, at troværdigheden er langt højere, hvis kilden er ens egen og faste fotograf kontra en tilfældig freelance fotograf eller øjenvidner. Man kunne stille det op som følger:
MEGET HØJ: Egne / faste fotografer og journalister
HØJ: Andre officielle og anerkendte medier
MIDDEL: Eksterne fotografer
LAV: Billeder fra private aktører
MEGET LAV: Billeder fra sociale medier
2. De bedste metoder til at spotte falske AI billeder
Derudover er der måderne, hvorpå vi kan detektere AI-genereret indhold. Her findes en lang række forskellige teknologier, men de bliver først for alvor effektive, når vi kombinerer dem. Dvs. ikke bruger enkelte værktøjer, men i stedet arbejder på tværs igennem brugen af såkaldte AI-agenter (har forklaret idéen bag i en kort YouTube video).
Noget af det gør nogle medier allerede i dag, men i mere manuel form med den såkaldte OSINT metode, der dog ikke begrænser sig til fotos.
Jeg vil derudover klart anbefale at bruge AI agenter til formålet, da det på den måde kan automatiseres og optimeres yderligere. Tanken er, at frem for udelukkende at benytte sig af ét værktøj til at detektere ‘AI eller ej’ (fx. Sensity og TrueMedia), eller udelukkende bruge såkaldt reverse image search (fx. TinEye), så er AI-agenter tværfaglige.
De kan kombinere metoder og derfor også kigge ind i billedernes metadata og ELA via værktøjer som Fotoforensics og Content Credentials samt sammenholde disse med debatter, der måtte foregå på sociale medier. Derfor ser jeg AI-agenter som medieverdens bedste løsning for at undgå at bringe falske AI billeder i fremtiden.
