I november 2017 gick Youtube ut med att företaget raderat mer än 150 000 filmer som ska ha attraherat pedofiler. Men helt till rätta med problemen förefaller man inte ha kommit.

I en internationellt uppmärksammad video som fått spridning på nätforumet Reddit har nu debatten tagit ny fart.

Okunskap kring algoritmen

Det är företagets berömda algoritm, en matematisk formel som listar ut vilket innehåll du vill se, som gör att pedofilerna lätt kan klicka sig vidare till nästa klipp på ett barn i en utsatt situation.

– Få utanför Youtube vet hur deras algoritmer fungerar i detalj, vilket är ett problem i sig, men det fungerar ungefär så att utifrån vad du tittat på historiskt rekommenderas du liknande innehåll. Tittar du på klipp med yoga så kommer det fler klipp med yoga, förklarar Gustav Martner, digital strateg.

Han berättar att rekommendationerna också kan ha att göra med att människor som liknar dig på andra sätt klickat på visst innehåll och att algoritmen då tänker att du också skulle gilla de förslagen.

Använder tidkoder

Bland kommentarerna kan man märka det misstänkta beteendet genom att personer skriver in en kommentar med en tidskod, som gör att videon hoppar fram till den exakta punkten där barnen, som lagt ut helt vanliga videor med allt från lek på studsmattor till glassätande i en park, befinner sig i en komprometterande situation.

– Här är det extra komplicerat eftersom det mycket handlar om hur betraktaren ser på innehållet, snarare än innehållet i sig. Det kan vara så att den som postar en tidskod i kommentaren är ett annat barn, även om det kanske statistiskt är mindre troligt. Men fenomenet väcker helt klart återigen frågan kring i vilka digitala miljöer vi faktiskt vill att våra ska barn umgås i. Vilka plattformsalternativ erbjuder vi våra barn och vilken grad av påverkan kan vi ha på dessa?

Svarar inte på följdfrågor

Efter att via mejl fått kontakt med Youtube kommenterar en talesperson:

”Innehåll, inklusive kommentarer, som utsätter minderåriga för fara är avskyvärt och vi har tydliga policyer som förbjuder detta på YouTube. Vi verkställer dessa policyer aggressivt – och rapporterar det till relevanta myndigheter, tar bort det från vår plattform samt stänger ned konton. Vi fortsätter att investera i teknologi, människor och partnerskap med välgörenhetsorganisationer för att tackla detta problem”.

Men när SVT Nyheter ställer följdfrågor uteblir svaren. Frågorna till Youtube som lämnades obesvarade var:

Men kritiken som riktas mot Youtube tar väl upp att detta trots allt finns på er plattform, inte försvinner samt att det är ett problem. Hur ställer ni er till det? Du nämner att ni rapporterar till myndigheter. Hur många anmälningar har ni skickat in till svenska myndigheter?

”Behöver göra mer”

Gustav Martner tror ändå att Youtube tar den här problematiken på allvar.

– Man tar nog problemen med avarter som pedofili på väldigt stort allvar. Men man tar inte barnens kvalitativa mediemiljö på stort allvar, och det är kanske inte så konstigt eftersom det inte är Youtubes affärsidé, säger han och menar att det finns en omogenhet i tänket kring hur samhället skapar goda mediamiljöer för barn och att vuxenvärlden behöver göra mycket mer.