Det er jo egentlig helt utrolig: Facebook er et nettverk med milliarder av brukere, og likevel skjer det så å si aldri at du åpner appen og får en drapsvideo eller ett eller annet hardpornografisk i fleisen.

Mange tror sikkert det er et resultat av sinnsrike filtre, bildegjenkjenning og den beste kunstige intelligensen som kan kjøpes for penger. I virkeligheten er Facebook (såvel som Twitter og Youtube) fortsatt avhengige av høyst menneskelig arbeidskraft for å luke ut støtende innhold.

Det betyr akkurat det det høres ut som: Det sitter folk – titusener av folk – og klikker seg gjennom alle poster og annonser som noen har reagert på og rapportert inn. Det for å avgjøre om materialet i hvert enkelt tilfelle er uproblematisk eller om det skal merkes, begrenses i utbredelse eller fjernes helt.

Disse moderator-sentrene ble ført kjent for alvor gjennom en reportasje fra Filippinene i Wired i 2014, er siden da etablert mange andre steder i verden og omhyllet av et voldsomt hemmelighetskremmeri.

Men det amerikanske teknologinettstedet The Verge (en del av Vox Media-konsernet, som står bak mye god og etterrettelig journalistikk) har i en stor reportasje fått flere ansatte og tidligere ansatte til å snakke om sine erfaringer som Facebook- og Instagram-moderatorer.

Det har resultert i en oppsiktsvekkende og til dels forstyrrende reportasje. Her er fem lærdommer alle Facebook-brukere bør ha interesse av å kjenne til.

1. Facebook-moderatorene blir ikke ansatt i Facebook, men i selskaper som fungerer som underleverandører.

Å «jobbe for Facebook» er regnet som noe av det ypperste du kan gjøre i teknologibransjen, men utviklerne som sitter i luftige, Frank Gehry-designede omgivelser i selskapets påkostede hovedkvarter utenfor San Francisco med stor frihet, generøse permisjonsordninger, gratis mat, egne treningssentre og andre servicefunksjoner, har en helt annen hverdag – og lønnsslipp – enn moderatorene.

Sistnevnte er ansatt i selskaper som er underleverandører til Facebook, tjener bare såvidt mer enn minstelønn og underlagt stor grad av kontroll på hva de foretar seg til enhver tid. I situasjonen til moderatorene The Verge snakket med i Phoenix i Arizona dreier det seg om overfylte lokaler der pausene – to ganger 15 minutter ut over spisetid – ofte går med til å stå i do-kø.

Frykten for represalier fra Facebook-brukere som mener seg urettmessig sensurert, gjør dessuten at sikkerhetstiltakene er omfattende.

2. Moderatorene utsettes for ekstreme inntrykk som de har få muligheter til å bearbeide.

Som man kanskje kan forvente av en slik jobb kan svært forstyrrende bilder og videoer havne på skjermen til moderatorene. Det gjelder både pornografi, vold og barnemishandling.

En av kildene til The Verge forteller at selve introdusjonskurset til jobben i Phoenix for hennes del omfattet å måtte se en video av et menneske som stikkes i hjel med en kniv mens han skriker og ber om nåde, og så vurdere denne opp mot Facebooks retningslinjer, foran alle sine kolleger.

Selskapet tilbyr de ansatte bare ni minutter hver dag til å fjerne seg fra skjermen når inntrykkene blir for overveldende. De ansatte skal også ha tilgang til terapeuter, men tidvis bare på telefon, og det arrangeres noen få terapitimer og avstressende aktiviteter, som yoga. En rekke av kildene i saken omtaler dette som langt fra tilfredsstillende. Flere skal ha utviklet posttraumatisk stresslidelse, uten å nyte godt av helseforsikringene de ansatte i selve Facebook tar som en selvfølge.

3. De ansatte er underlagt ekstrem taushetsplikt om jobben.

Blant annet fordi den gjengse Facebook-bruker ikke skal vite hvem som bestemmer hva som får fly og hva som skytes ned av innhold som postes, får ikke de ansatte fortelle noen hvem de egentlig jobber for. Taushetsplikten omfatter også familiemedlemmer.

Det gjør at de eneste de ansatte kan snakke med om det de opplever på jobben, er kollegene. Resultatet er, ifølge kildene til The Verge, en organisasjonskultur der mørk humor nærmest er en overlevelsesstrategi – vitsing om selvmord og rasisme er gjengangere.

Mange skal dessuten bruke alkohol og andre rusmidler for å klare å komme seg gjennom dagen.

4. Retningslinjene er uklare og avgjørelser tas på grunnlag av skjønn – men gjør du «feil» får du sparken.

Hva som er tillatt og hva som er forbudt på Facebook, framgår i grove trekk av selskapets offentlige «community standard»-dokument, men er meislet ut i detalj i omfangsrike kompendier moderatorene forventes å ha så inngående kjennskap til at de kan ta avgjørelser i svært hurtig tempo.

(En versjon av dette dokumentet lakk i 2017, og viste blant annet at fysisk trakassering av barn og dyr, videoer som viser vold og trusler om vold ikke nødvendigvis skal slettes.)

Likevel må moderatorene i stor grad utøve skjønn når hver enkelt post skal vurderes – og på toppen av dette kommer det nærmest daglige policy-endringer fra Facebooks hovedkvarter.

Disse formidles til moderatorene gjennom arbeidsplass-versjonen av Facebook, Facebook Work, som paradoksalt nok gjør at mange ikke får dem med fordi de ikke nødvendigvis når opp i feeden.

Det betyr ikke at de ansatte tilgodeses med særlig slingringsmonn. Et tilfeldig utvalg av avgjørelsene de tar hver dag, blir dobbeltsjekket av sjefsmoderatorer, og hvis disse vurderer dem annerledes får den ansatte minuspoeng. For mange slike minuspoeng, og vedkommende mister jobben.

Det har i sin tur gjort at noen slike sjefsmoderatorer frykter represalier fra sine arbeidere – i den grad at hvertfall en av dem alltid har med skytevåpen på jobb, ifølge The Verge.

5. Moderatorene eksponeres for så mye falske nyheter og konspirasjonsteorier at de etterhvert begynner å tro på dem selv.

Etter å ha blitt beskyldt for å bidra til fordumming av samfunnet har Facebook i stadig større grad forsøkt å luke ut falske nyheter og konspirasjonsteorier. Men en bisarr bieffekt syner å være at moderatorene selv lar seg påvirke av det de er satt til å fjerne.

Ifølge The Verge-saken er det folk på modertorsenteret i Phoenix som sprer ideer om at Jorda er flat og at det ikke fant sted noe terrorangrep 11. september 2001. En har begynt å omtale holocaust som «holohoax» og sier til nettmagasinet at han «har begynt å stille spørsmål ved visse aspekter» ved jødeutryddelsen under Den andre verdenskrig.

Kilder forteller videre at kollegiet var skrekkslagne etter skoleskytingen i Florida i fjor, men at det i takt med at det ble postet konspirasjonsteorier om massakren på Facebook begynte flere av dem å diskutere om Parkland-skytingen faktisk hadde funnet sted.

  • Selskapet som driver Facebooks moderator-senter i Phoenix, Cognizant, sier til The Verge at inntrykket som gis av magasinets kilder i reportasjen ikke er representativt for hvordan de fleste ansatte opplever arbeidshverdagen.
  • The Verges journalist ble av ledelsen satt i kontakt med andre ansatte, som (under påsyn av ledelsen) sier de forholdsvis sjelden blir eksponert for forstyrrende materiale i løpet av arbeidshverdagen. De understreker at arbeidsgiveren gir dem god støtte og byr på karrieremuligheter.
  • Konfrontert med at arbeidet innebærer risiko for posttraumatisk stresslidelse, viser en av selskapets terapeuter til den afghanske Nobelpris-vinneren Malala Yousafzai, som ble skutt i hodet av Taliban. «Det er mange eksempler på at mennesker som opplever vanskeligheter reiser seg og blir sterkere», sier han.