Ein falsk video av den danske statsministeren Mette Fredriksen har gjort fleire klar over kor lett det er å manipulere lyd og bilde. Videoen er laga ved hjelp av kunstig intelligens, og det ser ut som Fredriksen seier ho vil avskaffe jul, påske og pinse. Den politiske motstandaren som har fått laga videoen, forsvarer seg med at dette er satire og at alle må forstå at videoen ikkje er ekte.

Så enkelt er det ikkje.

Fleire ekspertar peikar på at 2024 kan blir det store «Deepfake-året», ikkje minst på grunn av presidentvalet i USA til hausten. Omgrepet «deepfake» er sett saman av uttrykka «deep learning» og «fake news». Teknologien bruker avansert maskinlæring til å manipulere. Det blir laga falske videoar med personar som kjem med påstandar dei aldri har sagt, eller utfører handlingar dei aldri har gjort.

Dette opnar for skremmande misbruk, til dømes ved å «lime» inn bilde av kjende personar i pornofilmar. Popartisten Taylor Swift er ei av mange som er blitt misbrukt på denne måten. Misbruket er like ille for mindre kjende personar som kan bli utsett for utpressing og svindel.

Deepfake kan også bety omfattande spreiing av desinformasjon og manipulasjon av folkemassar. Det kan få store sikkerheitsmessige konsekvensar.

Utviklinga innan kunstig intelligens går lynraskt, og det blir stadig vanskelegare å avsløre om bilde og videoar er falske eller ekte. Derfor er det vesentleg at folk er bevisste, kjeldekritiske og lærer seg korleis unngå å bli lurt.

Deepfake-videoen med statsminister Fredriksen provoserte mange og vart mykje delt, før den vart avslørt som falsk. Å spreie ei løgn går fort, medan det å undersøke og få stadfesta om eit bilde eller video er ekte, kan ta lengre tid – og ofte får ikkje oppklaringa like stor merksemd.

Algoritmane til Facebook og andre plattformer er skrudd saman slik at innlegg med sterke kjensler, som sinne og frustrasjon, får stor merksemd. Kjensler skaper engasjement, som igjen skaper interaksjon og dermed auka inntekter for plattformselskapa. Mange deler innlegg ukritisk, utan å sjekke om kjeldene er til å stole på. Dermed kan dei, utan å ville det, vere med på å spreie desinformasjon.

Kunstig intelligens (KI) byr på fantastiske moglegheiter og forbetringar innan mange samfunnsområde. Teknologien er nøytral. Det er korleis vi menneske brukar teknologien som skaper utfordringar. Deepfake er ein av dei største truslane. Når folk ikkje lenger kan stole på det dei ser og høyrer, blir det også vanskeleg å stole på det som er sant og ekte. Det er dei som spreier løgner, som tener på dette.

EU har i vår vedtatt lov om kunstig intelligens (AI Act), som også Norge kjem til å slutte seg til. Det hastar med å få på plass eit regelverk som sikrar etisk forsvarleg bruk av teknologien.

Dermed kan dei, utan å ville det, vere med på å spreie desinformasjon