Deepfake apps zijn in staat om mediacontent te vervalsen met behulp van kunstmatige intelligentie. Ze kunnen bijvoorbeeld de stemmen en gezichten van bestaande foto’s en video’s vervangen of zelfs een compleet nieuw gezicht genereren. De gevolgen van deze aanpak kunnen fataal zijn. Vooral als de deepfake niet is bedoeld als grap, maar is gegenereerd met als doel fraude of chantage. In dit artikel leest u hoe deepfakes worden gegenereerd, welke risico’s en gevaren ze inhouden en hoe u zich kunt beschermen tegen een deepfake-aanval.
Het maken van deepfakes is geen kinderspel, maar het is geen al te grote uitdaging voor mensen met gemiddelde tot goede computervaardigheden. Inmiddels zijn er op internet talloze tools voor computers en mobiele telefoons beschikbaar, waarmee je zelfs als leek kunt experimenteren en je eigen deepfakes kunt maken.
Het maken van deepfakes is niet illegaal zolang er geen sprake is van schending van algemene persoonlijkheidsrechten, auteursrecht of het recht op het eigen imago (bijvoorbeeld in de vorm van laster, smaad of laster). Anders kan met sancties worden gedreigd of kunnen de feiten zelfs leiden tot civiele of strafrechtelijke vervolging.
Er zijn verschillende manieren waarop u kunt voorkomen dat de deepfake zich verder verspreidt. Mogelijke benaderingen zijn het inroepen van de GDPR of de bescherming van de persoonlijke en professionele eer. Daarnaast kunt u natuurlijk ook een rechtszaak aanspannen wegens intimidatie, smaad, schending van het auteursrecht of schending van de privacy. Een mogelijke reputatieschade is op deze manier echter niet te voorkomen.
Inhoudsopgave
1. wat is een deepfake?
De term“deepfake” is een combinatie van de termen “deep learning” (een methode voor machinaal leren) en “fake” en verwijst naar het veranderen en vervalsen van media-inhoud met behulp van kunstmatige intelligentie. Hiervoor worden kunstmatige neurale netwerken gebruikt, waarmee de vervalsingen zelfs grotendeels autonoom kunnen worden gegenereerd.
Dit betekent dat zelfs leken zonder specialistische kennis in staat zijn om hoogwaardige deepfakes te maken. Door de toenemende rekenkracht en steeds krachtigere AI’s komt de op deze manier gecreëerde inhoud uiterst authentiek over en is vaak moeilijk of niet als nep te herkennen.
2 Welke soorten deepfakes zijn er?
Een van de bekendste soorten deepfakes is het zogenaamde “face swapping”, waarbij gezichten in videosequenties worden verwisseld om de getoonde personen vreemde teksten te laten spreken of hun bewegingen te veranderen. Evenzo isvoice swappingeen manier om audio-inhoud zodanig te veranderen dat willekeurige teksten of zelfs stemmen in de mond van vreemden kunnen worden gelegd.
Een andere vorm van video deepfakes heet“body puppetry”. Hierbij worden individuele bewegingen of complete bewegingsreeksen op andere mensen overgebracht. Aangezien de AI hiervoor automatisch de achtergrond moet reconstrueren en moet trainen met het bronmateriaal alvorens de inhoud te veranderen, wordt dit type deepfake nog steeds als het meest gecompliceerde beschouwd. Andere methoden (bijvoorbeeld face swapping of voice swapping) werken daarentegen zelfs in real time.
Hoe maak je een deepfake?
Het maken van deepfakes is geen kinderspel, maar voor mensen met gemiddelde tot goede computervaardigheden is het geen al te grote uitdaging. Inmiddels zijn op internet talloze tools (zogenaamde deepfake creators) te downloaden voor iOS, Android en Windows. Zelfs niet-professionals kunnen daarmee experimenteren en hun eigen deepfakes maken. Een dergelijke tool is Puzzle Deepfake voor Android, die je gratis kunt downloaden uit de Google Play Store. Je laadt gewoon een foto in de app, past een filter toe en – voilá – de app maakt in enkele seconden automatisch een rudimentaire deepfake.
Goed om te weten: In 2019 veroorzaakte de Deepfake-app Zao ophef, waarmee bedrieglijk echte videomontages konden worden gemaakt van slechts één foto op een iPhone. De tool was echter alleen beschikbaar in China en is sindsdien stopgezet.
Professionals werken anders en maken deepfakes met zogenaamde GAN’s (Generative Adversarial Networks), waarbij twee machine learning algoritmes met elkaar concurreren. Terwijl een van hen een nepbeeld genereert, probeert de ander het te herkennen. Als de vervalsing wordt herkend, verbetert de AI het resultaat om te voorkomen dat hij opnieuw wordt herkend.
Tegelijkertijd brengthet tweede algoritme ook verbeteringen aan, zodat ook betere vervalsingen kunnen worden herkend. Dit proces wordt herhaald totdat de herkennings-AI het beter doet dan de producerende AI en de inhoud er dus bedrieglijk echt uitziet. Om een GAN-tool te gebruiken, heb je echter niet alleen de financiële middelen nodig, maar ook een zeer krachtige computer.
4 Wat zijn de risico’s en gevaren van Deepfake?
Deepfakes herbergen veel zeer ernstige risico’s en vormen een gevaar voor de samenleving, sociale werknemers en zelfs de economie. Zo kunnen deepfakes uitstekend worden misbruikt voor omvangrijke fraude in de vorm van een phishingcampagne. Wie zou immers achterdochtig worden als hij in een spraakbericht de stem van zijn meerdere hoort die een bankoverschrijving beveelt?
De mogelijke gevolgen van een deepfake zijn fataal. In het verleden zijn vrouwen vaak gechanteerd met vervalste pornografische opnames.
Een nog groter gevaar dan van valse media-inhoud vormt echter het gebruik van deepfakes bij karaktermoord en lastercampagnes. Het is dan ook niet verwonderlijk dat de meeste deepfakes worden aangetroffen op het gebied van pornografie, naast witteboordenfraude. DeepNude software voor iOS en Android bijvoorbeeld, uitgebracht in 2019, was in staat om uit een foto van een gekleed persoon een naaktbeeld te genereren – maar alleen op vrouwenlichamen. Hoewel de tool niet langer legaal beschikbaar is, circuleert hij zeker nog ergens als download op het World Wide Web.
De mogelijke gevolgen van zo’n deepfake zijn fataal. Niet alleen beroemdheden moeten vrezen dat een of andere gek hun gezicht op het lichaam van een pornoactrice zet en de video vervolgens halverwege de wereld verspreidt via WhatsApp, Telegram, TikTok en dergelijke. Plotseling circuleren er valse naaktfoto’s van meisjes uit de zesde klas in de chatroom van de klas of wordt het impopulaire afdelingshoofd in een anonieme rondzendmail als bedrieger neergezet. In het verleden zijn vrouwen vaak gechanteerd met valse pornografische opnames .
Hoe kan ik deepfakes herkennen en me ertegen beschermen?
Of en hoe snel je nepmedia kunt herkennen, hangt af van de kwaliteit van het resultaat. Wazige contrasten, onnatuurlijke gezichtsemoties, ongepaste lipbewegingen of onjuiste belichting kunnen aanwijzingen zijn voor een deepfake. Anderzijds kan een gezicht dat te perfect is en er niet meer natuurlijk uitziet, ook een aanwijzing zijn voor een deepfake.
Controleer daarnaast altijd of de logische inhoud logisch is. Als je favoriete acteur ineens in een video verschijnt met een heel andere houding of als bepaalde uitspraken niet meer kloppen in de totale context, kan dat ook een teken zijn van een deepfake.
Goed om te weten: De gegevens die gebruikt worden om deepfakes te genereren zijn vaak afkomstig van sociale netwerken. Denk daarom altijd goed na over welke informatie je op welke kanalen wilt delen.
Om een professionele deepfake te ontmaskeren heb je echter meestal een speciale tool nodig waarmee je de authenticiteit van de media-inhoud kunt controleren. Een dergelijke gratis tool is de DeepFake-o-meter, ontwikkeld door computerwetenschappers van de Universiteit van Buffalo.
Maar uiteindelijk zijn de belangrijkste middelen in de strijd tegen deepfakes altijd gezond verstand en het vermogen om bepaalde feiten in een (grotere) algemene context te vatten . Verrassende of plotselinge eisen (bv. het bevel tot overplaatsing van uw meerdere) moeten u de oren doen spitsen. Vervolgens kan dergelijke fraude vrij eenvoudig en gemakkelijk worden tegengegaan met behulp van multifactorauthenticatie.
Want dan zouden de fraudeurs, om toegang te krijgen tot uw apparaten, niet alleen uw stem en gezicht moeten imiteren, maar bijvoorbeeld ook letter- of cijfercodes moeten kunnen herkennen. In het bedrijf moeten ook duidelijke richtlijnen worden opgesteld over welke personen en groepen wanneer en onder welke omstandigheden toegang krijgen tot bepaalde informatie.