För några veckor sedan dök det upp ett nytt fenomen i en avkrok på internet, ett än så länge förhållandevis litet underforum på sociala nätverkssajten Reddit. Användaren som startade trenden kallar sig deepfakes, efter deep learning, vilket också givit fenomenet dess namn. Deepfakes visade hur man med hjälp av maskininlärning på ett rätt enkelt sätt kan låta aktörer i filmklipp få någon annans ansikte. Med skrämmande bra resultat.

Givetvis, eftersom det är internet vi pratar om, är de första filmerna i fråga porrfilmer. Porren har legat i teknikens framkant sedan internets barndom, oavsett om det handlar om bildkomprimering, streaming, VR eller, som nu alltså, AI.

Läs också: Det här är AI och så funkar det

Porraktrisernas ansikten ersätts med kändisars, så att det ser ut som att Daisy Ridley, Taylor Swift eller Natalie Portman deltar i hårdporr. Det är oerhört grovt och kränkande – och tekniskt sett läskigt välgjort.

Fejkad kändisporr är inget nytt. Redan 1992 hamnade svenska porrtidningen Hustler i blåsväder när man över åtta sidor publicerade reportaget ”En smygtitt i kändisarnas hemliga fotoalbum” där kända personer som Lill-Babs, Mona Sahlin och Ingvar Carlsson fått sina ansikten inklippta på grova porrbilder. Målet gick hela vägen till högsta domstolen, där Hustlers ansvarige utgivare dömdes för grovt förtal och kändisarna fick höga skadestånd.

Efter Photoshops intåg i interneteran har fejkade porrbilder blivit vardagsmat på allehanda sex- och slasksajter.

Men deepfakes-fenomenet måste ändå ses som ett paradigmskifte. Utan rejäla resurser har det liksom inte gått att fejka rörlig bild på det här sättet tidigare. Nu kan vem som helst göra det, med öppna verktyg och en hyfsad dator.

Användaren deepfakes berättar för Motherboard att han använder öppet tillgängliga bibliotek som Keras och Googles Tensorflow för maskininlärningen. Maskinmodellen tränas sedan med bilder på kändisen som ska kopieras. I en tråd på Reddit skriver deepfakes att det behövs mellan 500 och 1 000 bilder ur olika vinklar för bäst resultat.

Läs också: Så fungerar Tensorflow – verktygslådan för AI

För korta klipp behövs ingen mer datorkraft än en vanlig pc med ett bra grafikkort (en GPU med 4 gigabyte RAM), och processandet tar ungefär en dag.

Men vänta, kanske du tänker, att lära sig olika bibliotek och att träna algoritmer låter inte helt enkelt? Helt sant, och därför dröjde det inte länge innan en annan användare tog deepfakes algoritm och byggde en app runt den – FakeApp, ett komplett Windows-program som under de senaste veckorna förfinats allt mer till ett lättarbetat gränssnitt för vem som helst att börja använda.

En tidig version av FakeApp.

De senaste dagarna har deepfakes börjat uppmärksammas i amerikanska medier, med mer eller mindre dystopiska rubriker. Det är lätt att se att fenomenet både innebär en ny nivå av kränkningar mot kända kvinnor, samtidigt som det öppnar för en avancerad form av hämndporr – det vill säga, i nästa steg är det vanliga, okända kvinnor som får se sina ansikten i oönskade sammanhang. Det enda som krävs är att gärningsmannen har tillräckligt många bilder av sitt offer.

Wired konstaterar att i amerikansk lagstiftning är offren i princip rättslösa – ett legalt limbo gör att den fejkade porren sannolikt skyddas av yttrandefriheten.

Så är det lyckligtvis inte i Sverige. Enligt Mårten Schultz, professor i civilrätt vid Stockholms universitet och ordförande för Institutet för Juridik och Internet som arbetar med juridiken kring kränkningar på nätet, finns det flera lagar man skulle kunna applicera på situationen. Sedan tidigare gör HD-domen i Hustler-målet att det finns ett tydligt prejudikat för att fejkad porr kan vara ett förtalsbrott, i det fallet grovt förtal.