De får se det värsta från Facebook

På Facebook finns en grupp som går ut på att medlemmarna tillsammans anmäler sidor som kränker människor, religioner, organisationer eller andra aktörer. När det till exempel skapas en hatsida på Facebook vars enda syfte är att kränka eller hota en enskild person, debattör eller liknande tipsar vi varandra i gruppen och så försöker vi få Facebook att ta ner sidan (med vetskapen om att många anmälningar från flera personer får Facebooks automatiska algoritmer att hicka till och sidan att hamna i kön för manuell granskning). Det får förstås inte gå till överdrift så att det skapas någon slags censurverksamhet, men yttrandefrihet är inte samma sak som rätten att hata och kränka andra, och jag tycker att skillnaden blir tydlig i varje enskilt fall som dyker upp i gruppen.

Ofta fungerar det inte. Hatsidor får finnas kvar och budskap som går ut på att kränka någons person eller religion lämnas utan åtgärd. Standardsvaret brukar se ut så här:

Facebook Help Team
Thank you for taking the time to report something that you feel may violate our Community Standards. Reports like yours are an important part of making Facebook a safe and welcoming environment. We reviewed the Page you reported for containing hate speech or symbols and found it doesn’t violate our Community Standards.”

Att hantera abuse-anmälningar och annan form av feedback från användarna är ofta nyckeln till framgång för stora sociala medier med användare från i stort sett alla demografier. När plattformar som Facebook dessutom rör sig på en internationell arena är det lätt att inse svårigheten i att hitta en gemensam ”moral”, eller i alla fall riktlinjer som går att efterleva oavsett om du är en student på Stanford University, en mattförsäljare i Kabul eller en polarforskare på Grönland.

Vem är det då som sköter all den här modereringen? Vilka är det som varje dag får ta emot klagomålen och personligen ta del av det sämsta människan har att erbjuda i digital form? Enligt Hemanshu Nigam är det en yrkeskår som totalt sett består av minst 100 000 människor världen över. Nigam driver säkerhetskonsultföretaget SSP Blue och var en gång CSO på MySpace. I den här artikeln hos Wired berättar Nigam och andra personer hur ”modereringsbranschen” fungerar, och hur de människor som tvingas granska och bedöma tveksamt innehåll påverkas av det. Artikelförfattaren träffar flera personer som jobbar med att granska alla anmälningar.

”Constant exposure to videos like this has turned some of Maria’s coworkers intensely paranoid. Every day they see proof of the infinite variety of human depravity. They begin to suspect the worst of people they meet in real life, wondering what secrets their hard drives might hold. Two of Maria’s female coworkers have become so suspicious that they no longer leave their children with babysitters. They sometimes miss work because they can’t find someone they trust to take care of their kids.” (ur artikeln The Laborers Who Keep Dick Pics and Beheadings Out of Your Facebook Feed)

De stora sociala medier-jättarna är förtegna om hur deras moderering fungerar, men helt klart är att det är ett otroligt krävande jobb som ofta utförs av lågavlönad personal, oavsett om det är amerikanska collegestudenter (som ofta får ta hand om mer komplexa anmälningar hos till exempel Facebook eller Google) eller outsourcingföretag i andra länder där till exempel filippinska arbetare får ta hand om granskningen.

Under den arabiska våren gjorde bland annat Youtube några undantag från deras community guidelines och tillät grova skildringar av det våld som pågick under revolutionen att visas med varningstexter. Det hindrade dock inte det faktum att det krävdes mänsklig moderering av innehållet.

I tider av big data, smarta algoritmer och fantastiska system som automatiskt serverar oss med innehåll är det lätt att glömma människorna som får det att fungera när inte tekniken räcker till. Det finns definitivt saker att säga om HUR företag som Facebook definierar vad som ska vara tillåtet och inte på deras plattform, men om det är någon jag inte är avundsjuk på är det de enskilda personer som sitter längst ut på linan och ska se till att riktlinjerna efterlevs.

Fotnot: Många svenska företag (och medier) använder externa företag för att hantera sin innehållsmoderering. Det gör det smidigt att hantera ett allt större flöde av kommentarer från besökare och följare, men samtidigt påverkas lyhördheten och finkänsligheten i varje enskild granskning av att ansvaret flyttas ut från de företag och organisationer som ansvarar för själva sociala medier-närvaron.

Kommentera