Deepfakes har udviklet sig til at være en hastigt stigende cybersikkerhedstrussel. Mens de engang var få og langt imellem, mest fordi teknologien var dyr og dårlig, så har teknologien udviklet sig hastigt, er blevet mere sofistikeret med langt færre omkostninger, hvilket gør dem tilgængelige for en bredere vifte af IT-kriminelle.
Nylige hændelser har vist de ødelæggende virkninger af deepfakes, hvor et britisk-baseret firma mistede 1.6 million kroner på grund af en deepfake, der replikerede en CEOs stemme, og et andet firma tabte 236 millioner kroner på et lignende "deep voice"-angreb, der præcist efterlignede en virksomhedsdirektørs accent.
Kryptovirksomheden Binance har også rapporteret, at et "sofistikeret hacking-team" brugte en deepfake til at skabe et troværdigt AI-hologram, der narrede folk til at deltage i møder. Accentures Cyber Threat Intelligence (ACTI)-team bemærker, at selv om nylige deepfakes kan være latterligt grove, går tendensen i teknologien i retning af mere sofistikering, hvor højkvalitets deepfakes, der søger at efterligne specifikke individer i organisationer, bliver mere almindelige end rapporteret.
ACTI mener, at deepfake-angreb er den logiske fortsættelse af social engineering, og de bør betragtes sammen, da deepfakes primære ondsindede potentiale er at integrere sig i andre social engineering-tricks. Dette gør det endnu sværere for ofre at afvise et i forvejen besværligt trusselslandskab.
ACTI har sporet betydelige evolutionære ændringer i deepfakes i de sidste to år. Mens deepfakes engang blev brugt til almindelig svindel, svindel med kryptovaluta eller at få adgang til kryptokonti, er tendensen nu at bruge dem til at få adgang til virksomhedens netværk, omgå sikkerhedsforanstaltninger og accelerere eller forstærke eksisterende teknikker, der bruges af trusselsaktører.
Fremkomsten af deepfakes forstærkes af tre tilstødende tendenser. For det første er den cyberkriminelle undergrund blevet meget professionaliseret, med specialister, der tilbyder værktøjer, metoder, tjenester og udnyttelser af høj kvalitet. For det andet, på grund af dobbeltafpresningsteknikker, der anvendes af mange ransomware-grupper, er der en endeløs forsyning af stjålne, følsomme data tilgængelige på underjordiske fora, hvilket gør deepfake-oprettelse mere præcis og troværdig. For det tredje har dark web cyberkriminelle grupper også større budgetter nu, hvilket giver dem mulighed for at eksperimentere og investere i tjenester og værktøjer, der kan øge deres sociale ingeniørevner.
For at mindske risikoen for deepfake og andre onlinebedrag kan organisationer anvende SIFT-tilgangen beskrevet i FBI's marts 2021-advarsel. Fremgangsmåden omfatter at stoppe, undersøge kilden, finde pålidelig dækning og spore det originale indhold. Andre foranstaltninger omfatter inkorporering af deepfake- og phishing-træning, udvikling af standarddriftsprocedurer, som medarbejdere kan følge, hvis de har mistanke om, at en intern eller ekstern besked er en deepfake, og overvågning af internettet for potentielle skadelige deepfakes via automatiserede søgninger og advarsler. Det kan også hjælpe med at planlægge krisekommunikation forud for offer.
Organisationer bør træffe de nødvendige foranstaltninger for at beskytte sig mod deepfake-angreb. Den eskalerende kamp mellem automatiserede deepfake-detektorer og den nye deepfake-teknologi kræver en proaktiv tilgang til at mindske den risiko, som deepfakes nu udgør.
Comments