Fraude via AI – De gevaren van deepfake technologie
Fraude via internet wordt al gepleegd sinds het internet is geboren. Maar er komen steeds nieuwere methodes waarbij fraude wordt gepleegd. Nu is er ook fraude via AI.
Vorige week is er bij een bedrijf in het Verenigd Koninkrijk een telefoontje binnengekomen waarbij de CEO vroeg of er €200.000 overgemaakt kon worden naar een leverancier. Echter was het niet de CEO, maar een fraudepleger die met AI de stem van de CEO perfect na kon doen. De toon, ritme en zelfs het Duitse accent werd perfect nagedaan.
Daarnaast werd er een email verstuurd die van de CEO leek te komen. Doordat het zo overtuigend werd gebracht werd zonder vragen het gehele bedrag overgemaakt, en is nu verdwenen.
Pas nadat er een tweede verzoek werd gemaakt ging er alarmbellen rinkelen. Pas nadat de leidinggevende zijn echte CEO belde, werd het meteen duidelijk dat het om een fraude via AI ging. Ook omdat de leidinggevende tegelijk met zijn echte en neppe CEO aan de lijn zat.
Het lijkt niet de eerste keer te zijn dat zoiets is gebeurt. Symantec geeft aan dat ze ten minste drie gevallen van deepfake stemfraude zijn tegengekomen.
Het lijkt relatief eenvoudig om een stem na te bootsen met behulp van software. Dit is een zorgwekkende trend, vooral omdat een stem erg overtuigend kan zijn. Daarom is het des te beter dat er onderzoekers bezig zijn met het ontwikkelen van software die dit soort fraude kan detecteren.
Deepfake kan gevaarlijk zijn, en dit soort fraudepogingen zullen steeds meer voorkomen. De software om dit te detecteren staat nog in de kinderschoenen, en tot dit is verbeterd zullen we op onze hoede moeten zijn.
