Deepfakes, det vill säga trovärdigt manipulerade videor, används i allt högre utsträckning för bedrägerier. Under torsdagens IT-arena på Karlsad CCC sattes fenomenet i fokus.
– Tekniken finns allmänt tillgänglig och blir mer och mer sofistikerad för varje år, säger Emil Darrell.
Han en av IT-säkerhetsföretaget Ateas experter inom AI (artificiell intelligens) och digital säkerhet, och jobbar till vardags gentemot företag och myndigheter för att höja deras säkerhetsmedvetande.
Just deepfakes har på relativt kort tid blivit ett reellt och växande problem – och det är inte helt lätt att skydda sig mot.
– Det finns några kända exempel, som videon från i våras där Ukrainas president Zelensky verkade kapitulera. Där gick det ganska lätt att se att nåt var snett, men det går att göra det väldigt sofistikerat. Ju fler bilder och videor på en person man kan lägga till för att skapa ”deepfaken”, desto mer trovärdigt blir det, förklarar Emil Darrell.
Även röstmanipulation är något som bedragare använder sig allt mer av. Det har förekommit fall där anställda blivit uppringda av personer som trott att de pratat med sin chef. De har sedan fört över stora pengasummor till olika konton. Senare har det visat sig att rösten de tyckte att de kände igen var digitalt konstruerad.
– Den här typen av avancerade bedrägerier riktas än så länge främst mot företag som hanterar känslig information eller pengar. Men tekniken är som sagt brett tillgänglig, och även privatpersoner kan drabbas. Jag skulle säga att alla behöver bli mer medvetna om riskerna, påpekar Emil Darrell.
Det märks tydligt i polisanmälningarna. Bedrägerier och bedrägeriförsök genom social manipulation ökade inom Region Bergslagen (där Värmland ingår) med 85 procent mellan 2019 och 2021.
Uppfinningsrikedomen är stor, konstaterar Pernilla Uddh, platschef för Atea i Karlstad:
– Det kan vara allt från telefonförsäljare till nätannonser till folk på Facebook som utger sig för att vara en vän eller bekant och begär ett snabbt swischlån för att de är i knipa. Rådet är att alltid begära bekräftelse på något sätt: att be om ett telefonnummer för att ringa upp eller liknande. Man ska också veta att banker aldrig ringer, sms:ar eller skickar mejl för att få ut känsliga uppgifter.
I företagsvärlden samt inom myndigheter, kommuner och liknande organisationer har man blivit lite bättre på att identifiera riskerna, menar Uddh. Men det finns fortfarande en hel del att göra:
– Ja, i dag är det ju ganska vanligt att man tar jobbet med sig, i en laptop eller i mobiltelefonen. Man jobbar på tåget eller på caféet. Och det är inte alla som tänker på att det kan finnas personer i deras omgivning som ser och hör mer än de borde. Det försöker vi trycka på.
Med tanke på deepfakes, är vi på väg mot en värld där vi måste ifrågasätta allt vi ser och hör..?
– Jag skulle kanske inte uttrycka det så, men det är nog bra att ha en sund skepsis – och begära validering om man blir misstänksam, säger Emil Darrell.