Deep Fakes zijn nepbeelden, audio- en video-opnamen die echt klinken en er echt uitzien. Het woord deepfake zelf is een samentrekking van deep learning en nep, wat verwijst naar de manier waarop machine learning en kunstmatige intelligentie (AI) worden gebruikt om deze vervalsingen te creëren. Deep nep-technologie is gebruikt voor luchtige amusementsdoeleinden, maar het heeft politici ook woorden in de mond gelegd, social engineering-zwendel mogelijk gemaakt en zelfs zonder toestemming gezichten van beroemdheden in pornografische inhoud gegoten.
Hoe worden diepe vervalsingen gemaakt?
Het klinkt misschien als sciencefiction of magie met speciale effecten uit Hollywood, maar diepe neptechnologie is verrassend toegankelijk. De meest gebruikelijke methode is de face swap deep fake, waarbij het gezicht van een persoon in een video wordt vervangen door het gezicht van een andere persoon. Deze face-swap-methode is gebaseerd op het invoeren van videogegevens van de oorspronkelijke persoon en foto’s van het vervangende gezicht naar een AI-algoritme. De AI analyseert het oorspronkelijke gezicht en het nieuwe gezicht, vindt overeenkomsten en brengt het nieuwe gezicht frame voor frame in kaart op de bestaande video. Het hele proces van het maken van een diepe nep kan worden geautomatiseerd door webgebaseerde services, maar de AI-algoritmen zijn ook beschikbaar om te downloaden, zodat iedereen met voldoende expertise diepe vervalsingen op hun eigen thuiscomputer kan maken. Vergelijkbare processen kunnen worden gebruikt om nepbeelden te maken die er echt uitzien, stilstaande foto’s te animeren met behulp van bewegingsgegevens van een acteur en zelfs de stem van een persoon realistisch na te bootsen. Het is allemaal afhankelijk van kunstmatige intelligentie om invoergegevens, zoals foto’s, video’s en audio-opnamen, af te breken en vervolgens nieuwe media te synthetiseren die niet van echt te onderscheiden zijn.
Een paar diepe nepvoorbeelden
Veel diepe vervalsingen zijn kwaadaardig, zoals woorden in de mond van een politicus leggen, of pornografisch van aard, maar de technologie is ook gebruikt voor meer luchtige middelen. Hier zijn enkele diepe vervalsingen die je zelf kunt bekijken:
- George Lucas en Harrison Ford: Deze diepe nepvideo is slechts één in een reeks humoristische Collider-video’s waarin getalenteerde impressionisten worden gefilmd en hun gezichten worden vervangen door beroemdheden. In dit voorbeeld reageren George Lucas en Harrison Ford op Baby Yoda van De Mandaloriaan.
- The Rock diep vervalst op The Rock: in deze diepe nep van Corridor Crew gebruiken ze diepe neptechnologie om de griezelige vallei-afbeelding van Dwayne Johnson als de Scorpion King te repareren door AI-videogegevens van Johnson van eerder in dezelfde film te leveren.
- De lip van Henry Cavill gefixeerd in Superman: VFX-artiesten werden gedwongen om de snor van Cavill te verbergen in sommige Justice League-scènes met cartoonachtige resultaten. Deze zij-aan-zij vergelijking laat zien hoeveel beter een diepe nep kan doen.
- Arnold Schwarzenegger’s gezicht op Bill Hader: In deze clip imiteert Bill Hader de stem van Arnold, en Arnold’s gezicht is diep vervalst door Ctrl Alt Face op Hader’s lichaam. Het effect wordt verwijderd wanneer Hader zijn normale stem gebruikt en toegepast wanneer hij Schwarzenegger imiteert.
- Joe Rogan’s stem diep vervalst door AI: In deze clip werd audio van Joe Rogan’s podcast ingevoerd in een AI-algoritme om een realistisch stemmodel te creëren dat vrijwel alles kan zeggen.
Hoe herken je diepe vervalsingen?
Naarmate de technologie vordert, is het steeds moeilijker geworden om het verschil te zien tussen een diepe nep en het echte werk. Sommige zijn gemakkelijker te herkennen dan andere, maar de beste zien en klinken extreem echt. Je zult gemakkelijker degenen kunnen spotten die zijn gemaakt door amateurs die niet in staat zijn om gebruik te maken van een heleboel ervaring en verwerkingskracht, maar je moet op je hoede zijn voor veelbetekenende tekenen van AI-interferentie. Zo kun je een diepe nep herkennen:
- Kijk naar de randen van het gezicht: Als de AI niet voldoende invoergegevens heeft gekregen, kan het nieuwe gezicht onhandig op het oorspronkelijke hoofd worden geplakt, waardoor duidelijke demarcatielijnen ontstaan of een gezichtsvorm ontstaat die er niet goed uitziet.
- Onderzoek het haar: Als je individuele haren over het gezicht kunt zien kruisen, is het waarschijnlijk een echte video. AI heeft moeite met het genereren van realistisch haar en individuele haren zijn meestal niet zichtbaar in door AI gegenereerde delen van een video.
- Let op mond en tanden: AI heeft meestal problemen met het genereren van individuele tanden, wat gemakkelijk te herkennen is als de video een resolutie heeft die hoog genoeg is. Zoek ook naar eventuele fouten bij het openen en sluiten van de mond.
- Als de persoon wegkijkt, pauzeer dan de video: Deep fakes doen het heel goed wanneer de persoon naar de camera kijkt, maar ze kunnen moeite hebben bij het overschakelen naar een profielfoto of als de persoon zich volledig van de camera afwendt.
- Pas op voor onbekende informatiebronnen: Hoewel het mogelijk is dat een vertrouwde bron wordt misleid en een diepe nep uitvoert alsof het echt is, is de kans veel kleiner dat u wordt misleid als u zich aan vertrouwde nieuwsbronnen houdt.