Inför öppen ridå:
Om nazism på TikTok

Efter att det avslöjades att en nära anhörig till migrationsminister Johan Forssell varit aktiv nazist blev frågan om unga mäns radikalisering, sociala medier och rekrytering åter aktuell. Dagens unga fasciströrelser är särskilt hemmastadd i digitala miljöer där insynen är dålig – inte minst TikTok, där nazistiska budskap får stor spridning genom att döljas bakom skämt och memer.

Vi ser idag en ny generation av högerextremister växa upp. Den nya generationen av fascister har tagit sig nya uttryck och former än tidigare. De lämnar partiformeringar till förmån för lösa nätverk. Våldsattentaten ökar och uppmärksammade grupper såsom nazistnihilisterna i 764 gör sig kända i samhället.

Terrorattentat begås idag allt oftare av påstått oorganiserade ”ensamma galningar”, enligt doktriner om ledarlös organisering och decentraliserad terror. Men hur ensamma och oorganiserade är de egentligen? I fysiska rum, hemma i sina sovrum och soffor må de vara ensamma. Men i olika digitala rum vistas de dagligen och interagerar med likasinnade. Inte minst ungdomar och barn tycks utgöra en åtråvärd målgrupp för illasinnade och politiskt motiverade aktörer. Hur hamnar barnen i de miljöerna? Var kommer de i kontakt med de ideologier som motiverar grova våldsdåd? Hur ser miljön ut, i vilken de radikaliseras?

För att söka svar på dessa frågor kan vi besöka TikTok, en av de största sociala medie-plattformarna i världen med en miljard globala användare. Ett enormt digitalt rum som majoriteten av svenska barn och ungdomar vistas i dagligen.

Så hur ser egentligen detta rum ut? 

Det mörka kaninhålet

För två år sedan råkade jag komma in på ett nazistkonto på TikTok. Ett helt öppet konto med Hitler-hyllningar, förintelseförnekelse och våldsromantik men med typisk TikTok-estetik: snabba klipp ackompanjerat av uppspeedad musik. Av nyfikenhet klickade jag mig vidare bland olika konton och deras innehåll. Det började med att jag massanmälde konton och innehåll i hopp om att det kanske kunde göra en liten skillnad om innehåll försvann från plattformen. Vissa videor och konton togs bort av TikTok, men de flesta fick ligga kvar på plattformen. Sedan dess har jag fortsatt kika in under två års tid, hållit koll på vad som postas och försökt anmäla det grövsta (men utan någon vidare förhoppning).

Till en början var det väldigt svårt att hänga med eller ens kunna identifiera högerextremt innehåll utöver uppenbara konton på andra världskrigstema. Likt all annan meme-kultur går det snabbt och ”meme-cykler” är korta. Det är svårt att som utomstående hänga med i deras skämt, symbolik och metareferenser. Om man är borta ett tag hinner det dyka upp nya trender som man behöver dechiffrera. Eftersom det är på TikTok det händer går trenderna inte heller att googla upp. Undantaget är om någon hunnit lägga upp förklaringar på knowyourmeme.com¹ eller Reddit², men det brukar ligga väldigt mycket efter och hänger inte riktigt med i trenderna. Symbolerna och internskämten har tydliga syften: Det första är att komma undan TikToks regler för otillåtet innehåll (återkommer till detta). Det andra är att de skapar en gemenskap, egen kultur och knyter ihop konton till en miljö. Det tredje är som så kallad dog whistle, det vill säga att signalera att man är nazist, med kryptiska symboler eller jargonger för att kunna hitta likasinnade.

Med tiden lyckades jag identifiera några olika typer av konton som återkommer:

1. Krigsentusiaster, självklart med fokus på andra världskriget. Videoklippen de publicerar är hopklipp av tyska vapen, soldater, Hitler och krigsfilmer. En tydlig glorifiering av krig och Nazityskland, och troligtvis vad de flesta associerar med ordet nazist. Denna typ är en av de vanligaste grupperna och utgörs så klart främst av tyskar.
2. En annan vanligt förekommande grupp är meme-konton. Innehållet är ofta videor med fina landskapsbilder i bakgrunden men med nazistiska memes om invandring, förintelseförnekelse och liknande över. Dessa är de som oftast får störst spridning. Jag skulle vilja hävda att de utgör det största hotet eftersom deras innehåll når ut och blir en inkörsport till högerextrema idéer.
3. Influencers. Dels är det unga killar vars konto till största del dedikeras till t.ex. matlagning, men som med jämna mellanrum postar Mussolini-referenser och hashtaggar saker såsom #thirdposition – ett nyfascistiskt samlingsbegrepp som uppstod efter andra världskriget. Dels utgörs gruppen av något jag kallar parti-influencers – i Sverige med koppling till SD och AfS, i Tyskland till AFD och i den amerikanska motsvarigheten kopplad till republikanerna. De är tjejer med en fin typisk TikTok-estetik fast som dansar till budskap om återvandring och folkutbyte. De är mindre extrema än krigsnazister och tillhör den mer “rumsrena” högerextremismen.
4. Ekofascister. De filmar sina skogspromenader och har överlag en snäll och gullig estetik. Men det som ackompanjerar denna gulliga estetik är ekofascistiska och civilisationskritiska budskap. Utanför internet begår ekofascister terrorattentat – en svensk man åtalades nyligen för att ha planerat ett terrordåd mot Eurovision Song Contest.
5. Organisationskonton. De som, till skillnad från uppsjön av meme-konton, faktiskt gör eget innehåll. Ett relevant och aktuellt svenskt exempel är Aktiv Klubb som nyligen uppmärksammats när det framkom att migrationsministerns 17-åriga son var aktiv medlem. Innehållet är främst bilder och videor från aktioner såsom träning, tal och klistermärken med uppmaningen att gå med i organisationen. Budskapen är klassiska som ”Sverige åt svenskarna”, ”svenskar är vita” och ”stoppa folkförrädare”. Fokuset för kontot ligger dock inte så mycket på att sprida budskap, utan snarare på rekrytering av medlemmar och att bygga organisationens image som orädda och kapabla till våld. För att ansöka om medlemskap skickar man ett direktmeddelande till kontot och får en inbjudan till en Telegram-kanal³. Radikala organisationskonton har dock svårt att etablera sig. De tas regelbundet bort av TikTok och tvingas hela tiden till att skapa nya konton. Ibland fungerar alltså anmälningsfunktionen. Däremot kan de betala för att annonsera sina videor och på så sätt ändå hinna nå ut och få tusentals visningar under kontonas korta livstid. Officiella organisationskonton kompletteras med enskilda medlemmars konton, med identiskt innehåll.

Om man klickar sig vidare och interagerar med konton kommer man in på deras interna Discord- och Telegram-kanaler⁴, där det grövsta innehållet delas och rekryteringen till lösa nätverk och organisationer sker. Dit har jag inte gått in. Det är dock på öppna sociala medier såsom TikTok som högerextremt innehåll först når potentiella sympatisörer och framtida aktivister. Det är här unga radikaliseras och rekryteras till extrema miljöer – helt öppet.

Miljontals visningar

Är dessa hatiska konton små och sekteristiska för inbördes beundran? Nej. Innehåll från öppet nazistiska konton kan bli virala. En video med naturskön bakgrund med texten ”Life after your start blaming everything on the Jews” postat av ett konto med svåridentifierade nazistiska symboler har i skrivande stund en halv miljon likes och flera miljoner visningar. Budskapet syftar alltså på hur “härligt livet blir” om man börjar skylla allt ont i världen på judar. Och det finns en hel uppsjö av liknande och betydligt grövre antisemitiskt innehåll som sprids fritt på plattformen.

Ibland blir även interna nazisttrender virala och postas av vanliga människor som inte förstår trendernas ursprung eller egentliga betydelse. Global Network on Extremism & Technology har skrivit om en trend från 2023 med videor där man jagade gnomes – trädgårdstomtar. Dessa videor kunde postas av vanliga personer med en mysig cottagecore-estetik. Vad de inte visste var att ”gnomes” användes som kodord för judar och att ursprunget var nazister som postade dessa videor som en metafor för att jaga judar – och att deras videor ackompanjerades av nazistiska symboler.

Materialet fungerar alltså inte enbart som intern ”humor” eller ideologisk skolning, utan som högerextrem propaganda som når miljontals människor. En spridning som äldre tidens nazister i det fysiska rummet bara skulle kunna drömma om. Utöver organisk spridning kan också vem som helst betala för att synas ännu mer.

”De som tidigare var ‘invandringskritiska’ Trump-supportrar inom alt right-miljön har radikaliserats och anammat nazismens kärna – antisemitismen – i högre utsträckning”

Följande påstående baseras helt på min uppfattning, och har många potentiella felkällor såsom algoritmer och min eventuellt ökade förmåga att identifiera symboler och referenser, men: en skillnad som jag märkt sedan jag började med det här våren 2023 är att antisemitism har exploderat. Självklart görs mycket innehåll riktat mot muslimer, svarta och HBTQ-personer, men inte alls i lika hög grad som de antisemitiska. Jag tror det finns två anledningar. 

Den första anledningen är att de som tidigare var ”invandringskritiska” Trump-supportrar inom alt right-miljön har radikaliserats och anammat nazismens kärna – antisemitismen – i högre utsträckning. De har nu vänt sig emot Trump som de menar är för ”judevänlig” i och med sitt stöd till Israel. Den andra anledningen är Israels krig i Gaza. I och med den enorma folkrörelsen för Palestina och mot Israels folkmord ser de här elementen sin chans att sprida antisemitiskt innehåll där de låter Israel förkroppsliga det judiska folket. Självklart är det inte grundat i någon som helst sympati för palestinier, men de har sett sin chans att utnyttja situationen för sina egna syften. I övrigt är det samma konspirationsteorier, nidbilder, karikatyrer och förintelseförnekelse som alltid varit kopplat till antisemitismen. De har bara lagts i formatet av snabba meme-cykler och ”skämt”-videor med egna meta-symboler.

Designen en del av problemet

Utformningen av TikTok i sig understödjer radikalisering, konspirationsteorier och fake news. Appen vill inte att användarna ska lämna plattformen och därför går det inte att posta klickbara länkar till något utanför TikTok i varken inlägg eller kommentarer. För att kunna granska påståenden eller ens läsa mer information på ämnet krävs att man stänger appen, öppnar webbläsaren och själv försöker googla fram vart innehållet kommer ifrån och i vilken kontext det uppstått. Det gör så klart inte de flesta. Att kommentera ”nej, det där stämmer inte, här är min källa” går inte, och ”debatter” på plattformen blir oftast emoji-krig. Det huvudsakliga flöde man som användare ser kretsar inte kring folk man följer, utan videor som rekommenderas baserat på innehåll man interagerat med eller bara tittat på – och vad som får spridning bland andra användare. Detta gör avsändaren mindre viktig än själva innehållet i sig. Reklam, politisk extremism, memes och roliga videor skiljer sig inte så mycket åt i utformningen. Detta gör källkritik näst intill omöjligt.

Vad gör TikTok åt att nazistiskt innehåll får så stor spridning på deras plattform som till största del används av unga människor? Hur gick det med mina massanmälningar? Inte jättemycket och inte jättebra. Anmälningsfunktionen lämnar mycket att önska. Det ser oftast ut så här:

Inläggen ovan är ett grovt islamofobisk meme med en Hitler-referens i bakgrunden, samt en profil vars användarnamn innehåller ”1488”, ett kodord för heil Hitler. Inga regelöverträdelser enligt TikTok, som låter inläggen ligga kvar. Annat innehåll som jag anmält nyligen är en video där en icke-vit person blir misshandlad i en skola och som är uppladdat av kontot ”TotalAryanVictory”, ett ljudspår med ett Hitler-tal över musik och memer som förnekar Förintelsen eller till och med hyllar den. Inga överträdelser hittade. Ja, förutom misshandelsvideon som till slut blev ”Ineligible for recommendation” – det vill säga den finns kvar men kommer inte att visas lika mycket i användarnas flöden. Något som TikTok alltså bara tycker är ”not comfortable for all audiences”.

Det största problemet är att anmälningssystemet är helt datoriserat. TikTok har så klart regler om att hat, våld, förintelseförnekelse och så vidare inte får förekomma på deras plattform, men genom små redigeringstricks är det lätt att komma runt dem. En bild med bara en hakkorsflagga kommer att tas bort – men om den spegelvänds, kanske görs lite otydlig eller blinkar till i en video så är det inte helt säkert längre, eftersom algoritmen inte kan identifiera den såsom ett mänskligt öga kan. Ett exempel är Minecraft-videos där en hakkors-flagga vajar i bakgrunden. Jag har anmält sådana flera gånger, men de ligger alla kvar.

En stor del av innehållet är dock inte lika enkelt att identifiera som nazistiskt innehåll ens för det mänskliga ögat. Tidigare nämnda symboler och metareferenser är därför säkra kort att använda för att kringgå regler om otillåtet innehåll. Hur ska en dator förstå att videor om trädgårdstomtar uppmanar till hat och våld? En symbol kommer att ha hunnit bytas ut innan en dator ens fått en chans att lära sig identifiera den.

Det finns ännu mer som försvårar anmälningsprocessen. För att kunna ge kontext till en anmälan, såsom att innehållet faktiskt förnekar Förintelsen, krävs att man överklagar en anmälan först efter att TikTok låtit innehållet ligga kvar. Då går det dock inte att klicka på innehållet man anmält för att påminna sig om vad det innehöll eller varför man anmälde. För ljudspår med det förinställda namnet ”Untitled sound”, som alltså kan vara något så grovt som ett Hitler-tal, blir det omöjligt.

Ibland kan TikTok revidera beslut om innehåll fått motta ett stort antal anmälningar. Men plattformen är väldigt hemlighetsfull med hur någon av deras algoritmer fungerar och det går därför bara att spekulera i.

Plattformarnas ansvar

TikTok och andra sociala medieplattformar måste utkrävas ansvar för vad som läggs upp på deras plattformar. Jag efterlyser även en större samhällelig debatt om teknikbolagens makt över samhället. Medan diskussioner om individuella åtaganden såsom skärmtid och influencers pågår lyser diskussionen om plattformarnas ansvar med sin frånvaro. Men de utgör enorma digitala rum som vi alla vistas i dagligen. 

Sociala medier är vår främsta digitala kommunikationskanal och villkoras av ett fåtal företag. Deras algoritmer konstituerar våra sociala liv. I fysiska rum ställer vi krav, vi har lagar och regler. I fysiska rum där barn vistas ställer vi ännu högre krav – vi kräver tydliga regler, vuxen närvaro och trygghet av varje skola och fritidsgård. Men de digitala rummen, där vår blotta närvaro genererar vinst, avskrivs ansvar. Här låter vi unga människor groomas in i högerextremism utan att ställa ägaren av rummet till svars.

Steg 1 – och det minsta möjliga – måste vara att utkräva ansvar för vad som läggs upp och vad som får spridning på deras plattformar. Att hatiska konspirationsteorier och nazistrekrytering får härja fritt är under all kritik. En större diskussion om makten som tech-oligarker har över mellanmänsklig kommunikation behövs. Vi måste formulera alternativ för ett fritt och demokratiskt internet. Ett annat internet är möjligt.

Som antifascister måste vi börja diskutera hur vi ska tackla detta fascistiska hot. Våra traditionella antifascistiska verktyg för det fysiska rummet, såsom motdemonstrationer och konfrontation, fungerar inte för att bemöta den här typen av radikalisering.

Nya former av fascistiska hot kräver nya motstrategier. Högerextremisternas rekrytering sker öppet mitt framför våra ögon. Vad ska vi göra åt saken?

Lara Stridsberg är aktivist och skribent
på den kollektiva bloggen Det enda alternativet