Deepfake-fraude: zo herkent en voorkomt u AI-oplichting

Een deepfake is een met kunstmatige intelligentie (AI) nagemaakte stem, video of foto van een bestaand persoon. Bij deepfake-fraude gebruiken criminelen zo’n namaak om een medewerker iets te laten doen, meestal een betaling of het delen van gegevens.

De techniek is nieuw, de truc niet. In de kern is het CEO-fraude met een overtuigender vermomming. Daarom helpt dezelfde verdediging: een vaste controle via een ander kanaal, in plaats van vertrouwen op wat u ziet of hoort.

In dit artikel leest u hoe criminelen deepfakes tegen bedrijven inzetten, waar u op kunt letten en welke afspraken echt beschermen. Een overzicht van alle vormen vindt u bij cybercrime voor bedrijven.

Wat een deepfake is en hoe hij ontstaat

De Fraudehelpdesk omschrijft een deepfake als een techniek op basis van AI die geluid of beeld van mensen creëert of nabootst. Zo kan iemand in een opname dingen zeggen die hij nooit heeft gezegd.

Voor bedrijven tellen drie vormen:

• Een stemkloon. Een nagemaakte stem, aan de telefoon of in een spraakbericht.
• Een nagemaakte video. Ook live, in een videogesprek.
• Nagemaakte beelden en documenten. Zoals een pasfoto, een identiteitsbewijs of een factuur.

Het materiaal voor zo’n namaak is vaak openbaar. Denk aan een interview, een webinar, een presentatie op YouTube of een voicemailbericht. Hoe vaker iemand in beeld is, hoe meer materiaal er ligt.

Hoe criminelen deepfakes inzetten tegen bedrijven

De doelen zijn dezelfde als bij andere fraude: geld, gegevens of toegang. Deze scenario’s zijn het meest herkenbaar:

• De directeur aan de telefoon. Een bekende stem vraagt om een spoedbetaling, bijvoorbeeld op een moment dat u de directeur niet makkelijk kunt bereiken.
• Een videogesprek met collega’s. In een overleg lijken de financieel directeur en een paar collega’s een betaling goed te keuren. Ze zijn nagemaakt.
• Een spraakbericht via WhatsApp. Een kort bericht van een bekende, met een verzoek om snel iets te regelen.
• Foutloze phishing. Mails die met AI zijn geschreven, zonder de taalfouten die vroeger opvielen. Hoe u die herkent en meldt, staat in phishing-mail melden.
• Een nagemaakte identiteit. Een gemanipuleerde pasfoto of een vals identiteitsbewijs om onder een andere naam een account te openen. Zie identiteitsfraude bij bedrijven.

Een bekend voorbeeld: het videogesprek bij Arup

Een veelbesproken voorbeeld speelde bij het Hongkongse kantoor van ingenieursbureau Arup. Een medewerker van de financiële afdeling kreeg een bericht over een vertrouwelijke transactie, zogenaamd van de financieel directeur. Hij twijfelde, tot hij in een videogesprek zat met die directeur en enkele collega’s. Zij waren nagemaakt.

Daarna maakte hij het geld over. De onderzoeksdienst van het Europees Parlement noemt de zaak als voorbeeld: het bedrijf verloor meer dan 25 miljoen dollar. Arup bevestigde later dat er nagemaakte stemmen en beelden waren gebruikt, en dat de eigen systemen niet waren gehackt.

De les is niet dat de medewerker naïef was. Het proces liet toe dat een betaling werd goedgekeurd in een gesprek dat de aanvaller zelf had opgezet. De fraude kwam pas aan het licht toen de medewerker zelf contact opnam met het hoofdkantoor. Was die controle vóór de betaling gedaan, dan was de fraude daar waarschijnlijk gestopt.

Signalen die op een deepfake wijzen

Let eerst op het verzoek en pas daarna op het beeld. De inhoudelijke signalen zijn betrouwbaarder dan de technische:

• Haast en geheimhouding. Het moet nu, en u mag het met niemand bespreken.
• Een afwijkende route. Een betaling buiten de normale procedure, of naar een nieuw rekeningnummer.
• Een ongewoon kanaal. De directeur belt anders nooit zelf over betalingen, of gebruikt ineens een ander nummer.
• Weerstand tegen controle. Terugbellen kan niet, want hij zit zogenaamd in een vergadering of in het buitenland.

Technische signalen bestaan ook. Denk aan lippen die net niet gelijk lopen met het geluid, of een vlak en schokkerig gezicht. Ook vreemde schaduwen of een stem zonder ademhaling kunnen opvallen. Criminelen verbergen dat graag achter een slechte verbinding. Deze signalen worden wel minder betrouwbaar naarmate de techniek beter wordt.

Waarom u niet op herkenning kunt bouwen

Een deepfake herkennen is lastig, ook voor oplettende mensen. U ziet een bekend gezicht en hoort een bekende stem, en uw hoofd vult de rest in. Onder tijdsdruk werkt dat nog sterker.

Ook detectiesoftware is geen vangnet. Volgens dezelfde analyse van het Europees Parlement hebben detectiemethoden flinke beperkingen, zeker bij telefoongesprekken. De techniek om te vervalsen ontwikkelt zich vaak sneller dan de techniek om vervalsing te ontdekken.

De oplossing ligt daarom in het proces. Richt het zo in dat een medewerker niet hoeft te beoordelen of iets echt is. Een verzoek dat niet via de vaste route komt, wordt gewoon niet uitgevoerd, hoe echt de stem ook klinkt.

Afspraken die deepfake-fraude tegenhouden

Vier afspraken maken het een crimineel veel moeilijker. Ze kosten weinig en werken ook tegen gewone CEO-fraude.

Terugbellen doet u op het nummer uit de interne telefoonlijst, nooit op het nummer waarmee u werd gebeld. De tweede persoon bij het vier-ogenprincipe zat bij voorkeur niet in het gesprek. Het codewoord spreekt u persoonlijk af, niet per mail. En voor een nieuw of gewijzigd rekeningnummer kunt u een wachttijd invoeren, bijvoorbeeld een werkdag.

Het belangrijkste is dat de afspraken voor iedereen gelden, ook voor de directie zelf. Een directeur die toch eens een uitzondering vraagt, leert medewerkers dat uitzonderingen kunnen. Precies daar maakt een crimineel gebruik van.

Leg de afspraken vast in uw informatiebeveiligingsbeleid en in de werkinstructies van de financiële afdeling. Spreek ook af wat een medewerker mag doen bij twijfel: het verzoek parkeren en eerst controleren, zonder dat het als lastig wordt gezien.

De rol van de directie

Bestuurders en leidinggevenden die vaak in beeld zijn, zijn het makkelijkst na te maken. Dat is geen reden om van internet te verdwijnen. Het is wel een reden om intern duidelijk te zijn over hoe u nooit communiceert.

Zeg het hardop, in een teamoverleg of een korte mail: ik vraag nooit per telefoon, spraakbericht of videogesprek om een betaling buiten de normale route. Met die ene zin maakt u het medewerkers makkelijk om nee te zeggen, ook tegen een overtuigende versie van u.

Voor organisaties onder de Cyberbeveiligingswet hoort bewustwording bij de zorgplicht. Deepfakes zijn een goed onderwerp om dat praktisch te maken, omdat iedereen er direct een beeld bij heeft.

Als het toch is gebeurd

Is er betaald aan een oplichter, bel dan direct uw bank. Soms is een deel van het geld nog tegen te houden. Doe daarna aangifte bij de politie, online of via 0900-8844, en meld het bij de Fraudehelpdesk.

Bewaar alles wat u heeft: het telefoonnummer, de uitnodiging voor het videogesprek, spraakberichten, mails en de betaalgegevens. Waarschuw ook de persoon die is nagemaakt en de collega’s die hetzelfde kan overkomen. Op een poging kan een nieuwe volgen.

Bespreek daarna rustig wat er gebeurde en welke afspraak ontbrak. Het doel is een betere route, geen schuldige.

Veelgestelde vragen over deepfake-fraude

Kan iemand echt mijn stem namaken?

Ja. Met openbaar materiaal, zoals een interview of een presentatie, kan software een stem overtuigend nabootsen. Hoe meer opnames er van iemand bestaan, hoe makkelijker dat gaat. Ga er dus van uit dat een bekende stem geen bewijs is.

Helpt het om een vraag te stellen die alleen de echte persoon kan weten?

Soms, maar minder dan het lijkt. Criminelen bereiden zich voor en weten vaak veel over uw organisatie. Een vooraf afgesproken codewoord werkt beter, en terugbellen via een bekend nummer werkt het best.

Moeten deepfakes niet als nep zijn gemarkeerd?

De Europese AI-verordening verplicht aanbieders in principe om door AI gemaakte beelden en geluid herkenbaar te maken. Criminelen houden zich daar niet aan. Een ontbrekend label zegt dus niets over de echtheid.

Lopen kleinere organisaties ook risico?

Ja. De bekende videozaken spelen bij grote bedrijven, maar volgens de Fraudehelpdesk lopen kleinere organisaties vooral risico via nagemaakte stemmen en nepberichten. De afspraken in dit artikel werken voor elke omvang.

Wat doe ik als ik tijdens een gesprek twijfel?

Rond het gesprek beleefd af en zeg dat u terugbelt. Bel daarna zelf, via een nummer dat u al had. Een echte collega begrijpt dat, en een crimineel haakt meestal af.