Et ukjent nummer ringer på telefonen. Du tar den og hører datteren din er på gråten og forteller at hun er kidnappet. Plutselig tar en mann med mørk stemme over samtalen og krever 10 millioner kroner. Beskjeden er som følger: Hvis du ikke sender over pengene med en gang får du aldri se datteren din igjen.

Dette er foreldres verste mareritt. Det er helt tydelig at det er datterens stemme. Men kan det virkelig stemme, du var jo nettopp med henne?

Denne type samtaler har økt markant i USA, og er nå på vei til Norge. Dette blir omtalt som "deepfake-svindel", der svindlere benytter teknologi for å erstatte en persons likhet på en overbevisende måte. Teknologien gir svindlere et nytt våpen i ermet.

– Jeg har datteren din

Eksemplet gitt ovenfor var virkeligheten for Jennifer DeStefano, en mor i staten Arizona i USA. Da hun plukket opp telefonen hørte hun en gråtkvalt datter. Deretter tok mannen som tilsynelatende hadde kidnappet datteren over telefonen.

– Hør her. Jeg har datteren din. Hvis du ringer politiet, eller ringer noen andre, vil jeg dope henne ned, gjøre hva jeg vil med henne og slippe henne et sted i Mexico, sa han med en klar stemme.

Mannen krevde først 1 million dollar. Etter at DeStefano sa at hun ikke hadde så mye på kontoen, reduserte han kravet til 50 000 dollar. Det tilsvarer rundt 550 000 norske kroner.

DeStefano befant seg i datterens dansestudio da det ringte. Mens samtalen pågikk ringte to bekymrede mødre ektemannen til DeStefano og nødnummeret 911. Før DeStefano endte opp med å overføre pengene til deepfake-svindleren, fant de ut at datteren var trygt hjemme på soverommet.

Hører ikke forskjell på mennesker og kunstig intelligens

Selv om situasjonen var helt forferdelig for DeStefano, er dette et eksempel med en lykkelig slutt. Med Deepfake-svindel vil det være vanskelig å skille om stemmen faktisk tilhører en du står nær eller om samtalen er konstruert av kunstig intelligens.

En undersøkelse utført av McAfees viser at 35 % ikke klarer å høre om en stemme er ekte eller falsk. Nesten halvparten av respondentene svarte at de ville hjelpe til om de mottok en samtale om et trafikkuhell, mens 41 % vil hjelpe dersom samtalen kommer fra en nærstående person som er på ferie.

– Dette vil gi de kriminelle et type super-manipulerings-våpen, ved at de kan fremstå som hvem som helst, sier sikkerhetsekspert Thorbjørn Busch til Telenor.

Nordmenn er spesielt utsatt for deepfake-svindel på telefon

Bjørn Taale Sandberg, strategidirektør for Telenors virksomhet i Finland, mener det er store utfordringer knyttet til teknologiutviklingen. Til TV2 sier han at nordmenn er særlig utsatt for deepfake-svindel på telefon.

– Norge er et samfunn preget av høy tillit, derfor kan det være enklere å få folk på kroken enn i en del andre land. Vi tror at økt kunnskap er en viktig nøkkel for å unngå at flere blir svindlet.

Teknologiekspert Hans-Petter Nygård-Hansen mener det er viktig å diskutere mulig deepfake-svindel rundt middagsbordet.

– Vi må dessverre stole mindre på hverandre. Planlegg for det beste, men forbered deg på det verste, sier han til TV2. Han mener at det som kan høres ut som «science fiction» i dag, fort kan være «science fact» i morgen.

Lett å fake stemmen

Er du en av dem som tenker at deepfake-svindel ikke vil skje med meg? Da havner du fort i målgruppen til svindlere. Dag-Inge Aas, ekspert på kunstig intelligens, sier at stemmesvindel kan være veldig overbevisende og at enkle lydklipp er nok for å etterligne stemmer og utføre hele samtaler.

Man trenger nemlig kun enkle lydklipp for å kopiere og bruke stemmen. Det holder at du har lagt ut en video hvor du prater på sosiale medier. Stemmen kan svindlere omvende til å ringe nære og kjære, på vegne av det som høres ut som deg.

Vær forberedt på det verste

Det er færre deepfake-svindel-tilfeller over telefonen i Norge enn i USA enn så lenge. Dette er fordi selskapene som er fremtredende på denne teknologien ikke støtter norsk språk for øyeblikket. Likevel ser vi at både svensk og dansk er tilgjengelig og ifølge Aas er det bare tidsspørsmål før norsk også blir tilgjengelig.

Nygård-Hansen advarer om at du kan være neste i køen til å bli oppringt av en stemme som høres kjent ut. Han forteller at du bør være forberedt på det verste:

– Det kan være alt fra at noen av dine nære angivelig har havnet i en alvorlig ulykke, til at barnet ditt ringer deg midt på natten på «lånt» telefon, der de ber deg om å vippse noen kroner til taxi, fordi de har mistet telefonen sin, sier han til TV2.

Slik kan du unngå deepfake-svindel på telefon

Med utviklingen av kunstig intelligens vil det bli vanskeligere og vanskeligere å oppdage telefonsvindel. Her er noen tips til hvordan du unngår å bli utsatt for deepfake-svindel:

• Still et sikkerhetsspørsmål: Hvis du blir oppringt og er usikker på situasjonen, kan du stille et spørsmål som kun dere to vet svaret på. Slik kan du verifisere at samtalen og stemmen er ekte.
• Be de skru på video: Dersom det er en svindler på den andre siden av telefonen, vil personen neppe godta å skru på video.
• Søk opp nummeret: Ved å søke opp nummeret kan man se om det er et svindelforsøk. Med Nummersøk Norge-appen vil du få opplysningene om at anropet er trygt å besvare eller ikke mens det ringer.