Working Paper No. 1350

Misogynistic and Xenophobic Hate Language Online: A Matter of Anonymity

Avslöjandet av användares identitet på Flashback ledde till både minskat och ökat hat

Publicerad: 14 augusti 2020Nyckelord: Online hate; Anonymity; Discussion forum; Machine learning; Big dataJEL-koder: C55; D00; D80; D90

Misogynistic and Xenophobic Hate Language Online: A Matter of Anonymity Emma von Essen och Joakim Jansson


När journalister avslöjade en handfull användares identiteter på Flashback ledde detta till en lägre andel inlägg med främlingsfientlighet. Istället ökade andelen inlägg med misogyni. Sammantaget indikerar resultaten att social bestraffning kan fungera avskräckande för individer.

Debatter och informationsinhämtning om politik äger idag i allt högre grad rum online. Ökade möjligheter att både ta del av och sprida information bör i grunden inverka positivt på den demokratiska processen. Det har dock även lett till en växande oro för det hat och de hot som möter en del användare i dessa kanaler. Att mycket av hatet tycks bestå av misogyni, rasism och homofobi gör även att i första hand vissa grupper av människors deltagande i detta offentliga samtal riskerar att minska.

Anonymitet har både för- och nackdelar

Hat online kan dock vara svårt att handskas med. Många agerar under anonymitet eller med pseudonym och kan därmed inte ställas till svars för sitt agerande. Samtidigt är anonymitet i många länder en viktig demokratisk rättighet, till exempel vid röstning i val. Anonymitet online är därför en svår avvägning mellan rätten att kunna ställas till svars för sitt agerande och rätten till yttrandefrihet utan risk för negativa konsekvenser.

I denna uppsats använder vi en robot för datainhämtning och en maskininlärnings-algoritm för att först avgöra hur stor andel av inlägg om inrikespolitik, feminism och integration och invandring som är hatiska på Flashback. Därefter använder vi det faktum att journalister under namnet Researchgruppen i september 2014 tillkännagav att de hade tillgång till vissa användares identitet. Närmare bestämt visade det sig att det enbart var användare registrerade före mars 2007 som kunde identifieras, varav ett fåtal hängdes ut i media.

Hur påverkas hat av anonymitet?

Vi använder detta event för att jämföra hur de som riskerade att hängas ut, det vill säga de registrerade före mars 2007, förändrade sitt beteende jämfört med dem som inte riskerade att hängas ut. Andelen inlägg som innehöll främlingsfientlighet minskade, medan andelen med misogyni ökade. Sammantaget tycks detta bero på två faktorer. Dels minskade de användare som tidigare skrivit främlingsfientligt sin aktivitet på Flashback, dels började en del av dem som tidigare skrivit främlingsfientligt istället att skriva mer misogynt.

I denna uppsats har vi fokuserat på kostnader förknippade med anonymitet. En komplett bild bör även belysa eventuella fördelar för att kunna göra en mer fullständig utvärdering av anonymitet. En annan möjlig slutsats är att det framstår som att social bestraffning kan användas för att ändra folks beteende.


IFN Working Paper nr 1350, “Misogynistic and Xenophobic Hate Language Online: a Matter of Anonymity” är författat av Emma von Essen (SOFI och Aarhus University) och Joakim Jansson (Linnéuniversitetet, IFN och SOFI). Vill du veta mer? Kontakta Joakim Jansson på e-post: joakim.jansson@ifn.se 


Referens:

von Essen, Emma and Joakim Jansson (2020), "Misogynistic and Xenophobic Hate Language Online: A Matter of Anonymity". IFN Working Paper No. 1350. Stockholm: The Research Institute of Industrial Economics (IFN). 

EU och teknologiskiftet. Europaperspektiv 2020

eu-och-teknologiskiftet-(1).gif


Hur kan EU dra nytta av teknologiskiftet? Det är det övergripande temat i årets upplaga av Europaperspektiv, EU och teknologiskiftet. Två kapitel i årets upplaga är skrivna av IFN-forskare.

Läs mer

Institutet för Näringslivsforskning, Grevgatan 34 - 2 tr, Box 55665, SE-102 15 Stockholm, Sweden | Tel: +46-(0)8-665 45 00 | info@ifn.se