Mens brugen af AI besidder et enormt potentiale i et forretningsmæssigt perspektiv, kan det have kæmpemæssige konsekvenser for det demokratiske samfund.

For i fremtiden skal vi ikke kun være opmærksomme på opdigtede usandheder i artikelform, der låner journalistikkens troværdighed.

Teknologien har gjort det muligt at lave fake videos, såkaldte deepfakes, som nu også er blevet et kradsbørstigt krydderi i den sammenkogte fake news-gryde.

Det overdøver den i forvejen hæslige smag af utroværdighed, som bevidst fabrikerede tekster og billeder afgiver.

Pornovideoer med kendisser

Det var selvfølgelig klassens frække dreng, pornoindustrien, der satte gang i debatten om fremtidens frygtindgydende teknologi. Tilbage i december berettede VICE Motherboard, at AI-teknologi kunne bruges til at lave ‘deepfakes’

‘Deepfake’ er AI-teknologi, der er en sammentrækning af ‘deep learning’ og ‘fake’, hvilken gør det muligt at syntetisere billeder og dermed ‘faceswappe’ ansigter på video.

Programmører kan med relativt simple midler erstatte ansigterne på pornoskuespillerinder med kendisser som Gal Gadot, Scarlett Johansson og Taylor Swift.

Gal Gadots ansigt er her swappet med en pornostjerne. Det er vel heller ikke utænkeligt, at teknologien er guf for hævngerrige ekskærester. (Screenshot fra SendVids, motherboard.vice.com ).

Uden samtykke blev videoerne skabt og lysteligt delt i internettets mange afkroge. Et forum på det sociale nyhedsmedie Reddit med over 100.000 brugere, hvor videoerne florerede, blev lukket ned, og adskillige pornosider slettede videoerne, efter kritikken blev rejst.

Fra instruktørstolen i Hollywood til kældersofaen i Ballerup

Store Hollywood-produktioner har i årtier brugt special effects til at gøre teknologiske objekter virkelighedstro: dinosaurerne i Jurassic Park, Forrest Gumps møde med JFK, Gollum i Ringenes Herre, bilerne i Transformers og Avatar. Det har været et eksklusivt foretagende, som har tilhørt den ypperste filmindustri.

Indtil for nyligt. På Reddit dukkede en video op med en strippende Michelle Obama. Videoen var en deepfake lavet med programmet FakeApp.

Det fik The New York Times-journalisten Kevin Roose til at undersøge, hvor nemt det er at lave en deepfake med FakeApp.

Her er et stilbillede af Kevin Roose. Han fodrede FakeAppen med over 1.000 billeder af sit ansigt. (Kilde: nytimes.com ).

Ifølge Roose er det tidskrævende, men langt fra raketvidenskab. Det kræver blot en stærk computer og et omfangsrigt billedmateriale, før computeren er i stand til at emulere virkelighedstro ansigtsudtryk fra person A til person B.

Jo mere billedmateriale og data, jo mere sandfærdigt resultat.

Rooses ansigt er her kopieret ind på Ryan Gosling. Her består datasættet af 417 billeder af Roose og 1.113 billeder af Gosling. (Kilde: nytimes.com ).

3 dage og beskedne 86 dollars kostede det Kevin Roose at producere 4 deepfakes. “That seemed like a small price to pay for stardom”, noterede han skeptisk.

FakeApp er udviklet af en anonym programmør, der har brugt open source machine learning-software ved navn TensorFlow, som er lavet af Googles AI-team.

AI kan fake både video og stemmeføring

Denne video fra 2016 viser, hvordan forskere fra Stanford University manipulerer ansigter og mimik på George Bush, Vladimir Putin og Donald Trump. Det kræver få sekunders videooptagelser, hvor den afkopierede person laver forskellige ansigtsudtryk.

Når det bliver kombineret med et kamera, der opfanger og optager stand-in-aktørens ansigtsudtryk, kan forskerne bogstavelig talt få personen til at sige hvad som helst.

Firmaet Lyrebird har udviklet et AI-værktøj, der er i stand til at emulere toneleje og stemmeføring, efter AI’en er blevet fodret med timers lydoptagelser.

I 2017 offentliggjorde forskere fra University of Washington en video med Barack Obama, hvor de havde synkroniseret en udtalelse fra 1990 med hans læber i et klip fra 2016, så det lignede real tid.





Men spørgsmålet er, om skaden allerede er sket, hvis teknologien ender i de forkerte hænder. Om de mulige konsekvenser udtalte de ledende forskere fra Stanford og Washington sig næsten ens til henholdsvis BBC og QVARTZ : Når teknologien først er rullet ud, kan den også rulles tilbage.Men spørgsmålet er, om skaden allerede er sket, hvis teknologien ender i de forkerte hænder.

Direktørens våde drøm

I et forretningsmæssigt perspektiv åbner brugen af AI op for et kæmpe potentiale. Med al den data, der er til rådighed om os forbrugere, er det kun et spørgsmål om tid, før computerens kunstige intelligens vil gøre virksomheder i stand til at skræddersy og målrette kampagner til dig ud fra dine personlige præferencer.

Mads Bredal, CEO i Dentsu Aegis, sagde til årets Social Media Week, at det hører fortiden til at føre 1 kampagne til 800.000 personer. I stedet vil det i fremtiden være langt mere personificeret, og derfor er mindsettet at føre 800.000 kampagner målrettet 1 person.

AI’en kan indsamle enorme mængder data, og den kan forvandle big data til smart data. Foto: Getty Images

Kunderejser kan kortlægges til punkt og prikke. Content-produktion bliver automatiseret og personificeret. Chatbots bliver klogere. Maskinerne arbejder i døgndrift og har ingen sygedage, og derfor er det i sagens natur omkostningseffektivt som bare pokker. Mulighederne er enorme i det digitale univers.

De fleste forbrugere vil være glade for ikke at skulle spilde tid og opmærksomhed på produkter, kampagner og reklamer, som ikke tiltaler os, og derfor lyder det alt sammen som et eventyr med en lykkelig slutning.

Men kan data bruges til at markedsføre produkter og services, kan det også bruges til politisk markedsføring.

Den tørstige elefant, Facebook. Kilde: Cagle.com



Samfundsborgerens mareridt

AI’en har allerede været taget i brug med et politisk formål for øje i de seneste år.

Den 17. marts offentliggjorde whistleblower Christopher Wylie, at dataanalysevirksomheden Cambridge Analytica tilbage i 2015 stjal data om 50 millioner amerikanske Facebookbrugere via appen thisisyourdigitallife.

Mangemillionær og republikanerdonor Robert Mercer købte sig ind i virksomheden og den omfattende målgruppeindsigt til den nette sum af 15 millioner dollars. Indsigterne er ifølge The Guardian blevet anvendt til at skræddersy forførende Facebook-kampagner på individplan til fordel for bl.a. Trump og Brexit.

Selvsamme Mercer har aktier i den højreorienterede politiske blog Breitbart News, hvor Steve Bannon, der også har været chefstrateg for Trump, har huseret. Bannon har ligeledes en ledende funktion i Cambridge Analytica.

Størstedelen af os læser sjældent forbrugeraftalen igennem, når vi fx opretter os på en hjemmeside eller henter en app. Forbrugerdata er milliarder værd for virksomheder – og nu også for politiske partier.

Facebook og Google ved, hvor du bor, hvor du arbejder, hvad du kan lide, hvad du reagerer på, og hvad du interagerer med. Du har ikke en jordisk chance for at vide, hvem der har oplysninger om dig, når dine digitale spor ligger til salg derude.

Demokratiet er under angreb

Når politiske aktører kender dine dybeste, underliggende frygter, kan de nemt tappe direkte ind i dem med skræddersyet og falsk indhold. De ved, at det handler om at påvirke dine følelser frem for at fremlægge fakta. De ved, hvordan de kan få dig til at ændre adfærd og forcere dit kryds i stemmeboksen.

Uafhængigt af landegrænser sørger Cambridge Analytica for at vinde demokratiske valg til fordel for dem med de dybeste lommer, mens de formår at flyve under radaren. Indtil nu.

Alexander Nix, CEO i Cambridge Analytica, var på scenen til Web Summit med foredraget ‘ Mad Men to Math Men ’. Her fortalte han stolt, hvordan han hjalp Donald Trump med at vinde det amerikanske præsidentvalg ved brug af data og psykografiske målgruppe metoder.

En journalist fra britiske Channel 4 News fangede Cambridge Analyticas nu suspenderede direktør Alexander Nix på skjult kamera , hvor han udtaler sig om deres indblanding i demokratiske valg i hele verden: “I mean, it sounds like a dreadful thing to say, but these are things that don't necessarily need to be true as long as they're believed”.