Solberg-regjeringen har lovet å ta netthat på alvor. Flere er nå blitt dømt etter loven om hatefulle ytringer. Diskrimineringsombudet har bedt om «resolutt handling» for å forebygge fordommer og spredning av hat og hindre at rasistiske holdninger «får slå rot i befolkningen».

Forskere ved Institutt for samfunnsforskning har nylig levert en rapport om hvordan myndighetene kan motvirke jødehat på nett og i sosiale medier. Forskerne har analysert nettsider og et stort datasett over ytringer på nett og i sosiale medier.

Rapporten kommer ikke med noen klar anbefaling, men skisserer tre ulike scenarier for hvordan antisemittiske ytringer kan monitoreres og sanksjoneres på nettet:

• Kunstig intelligens som skal overvåke og flagge netthat
• Statsstøttede, norske moderatorer under Facebooks paraply
• Nettverk av «nettvakter» som skal patruljere sosiale medier og rapportere hatprat

«Livsfarlig» med statlig overvåkning

Eksperter Filter Nyheter har snakket med mener imidlertid alle disse scenariene er problematiske og kan åpne for både Kafka-prosesser og orwelliansk overvåkning.

— Jeg skjønner at det er fristende å gå inn å gjøre en Dark Room-etterforskning på hatytringer, men det tror jeg er et kaninhull. Jeg tror statlig overvåking av folks kommunikasjon er en livsfarlig vei å gå, sier advokat og personvernjurist Hans Marius Graasvold.

Alle er enige om at «noe må gjøres». Hatefulle ytringer kan ha alvorlige konsekvenser for enkeltpersoner, grupper eller hele samfunnet. Lingvisten Victor Klemperer skrev om hitlerregimets propaganda at det ikke var en enkelttale eller -artikkel som beredte grunnen for massemordet på jødene, men bestemte ord, fraser og setninger som ble gjentatt til de snek seg inn i språket, tankene og følelsene til en større del av befolkningen.

Internett generelt og sosiale medier spesielt beskrives som kraftfulle verktøy for aktører som ønsker å radikalisere andre. Det er en arena hvor det er spesielt utfordrende for myndighetene å motvirke radikalisering, skriver regjeringen i sin Handlingsplan mot radikalisering og voldelig ekstremisme.

Fem grupper peker seg ut

Forskerne bak rapporten «Antisemittisme på nett og i sosiale medier i Norge» sier at kartleggingsarbeidet av antisemittisme på nett per i dag er «tilfeldig og usystematisk» og stort sett foregår gjennom opplysnings- og utdanningsprosjekter etter initiativ fra enkeltmiljøer.

De slår fast at vi i dag vet lite om antisemittisme som spres fra enkelte avsendere, spesielt muslimske miljøer som bruker et annet språk enn norsk. De kategoriserer for øvrig avsendere av antisemittiske budskap slik:

• Ytre høyre-grupper, som i rapporten betegnes som den mest synlige og organiserte gruppen som fremmer jødehat på nett med en bevisst mediestrategi.
• Konspirasjonsmiljøer, som fremmer påstander av typen «jødene står bak vaksiner».
• Enkeltpersoner på ytre venstre, som blander Israel-kritikk og antisemittisme.
• Kristne miljøer (med utsagn av typen «husk at det var jødene som drepte Jesus») og muslimer nevnes også som grupper som peker seg ut, men disse er mindre synlig på nettet.

Filter Nyheter har tidligere skrevet flere saker om hvordan høyreekstreme opptrer på nettet – og hvordan det kan være vanskelig å avgjøre om ytringene kan kategoriseres som hatefulle.

Kunstig intelligens inspirert av Israel

Forskerne ved Institutt for samfunnsforskning har lagt hovedinnsatsen i å finne mulige løsninger på hvordan man kan hindre spredningen av hatprat.

De har blant annet sett på hvordan Israels utenriksdepartement har satt nasjonale utviklere til å lage programmer som overvåker og avdekker antisemittiske ytringer på nett.

Dette er snakk om kunstig intelligens i form av maskinlæring, altså programmer som kodes til å søke etter bestemte temaer og fraser. Resultatet analyseres av programmereren, og programmet får beskjed om hva som traff og hva som ikke traff etter hensikten. Maskinen går gjennom materialet igjen basert på den nye informasjonen.

De norske forskerne undersøkte muligheten for å skape programmer som identifiserer norskspråklige, antisemittiske ytringer på nett og i sosiale medier.

Dette er teknisk mulig, men veldig dyrt, konkluderer rapporten. Av alle de 230 000 meldingene programmet fant ut fra søkeordene forskerne hadde matet inn, mente maskinen at 35 prosent av meldingene var antisemittiske. Da forskerne gikk gjennom innholdet reduserte de anslaget til 3-6 prosent.

Hatprat-patrulje støttet av staten

En annen løsning som diskuteres er at staten inngår samarbeid med de store plattformene for sosiale medier: Facebook, Twitter og YouTube (Google). To ulike nivåer av samarbeid skisseres:

Det første nivået går ut på å samarbeide med Twitter og Facebook ved at selskapene setter av en egen ansatt til å arbeide med antisemittisme i Norge og/eller på norsk, eller at en tredjepart, for eksempel en frivillig organisasjon, gis oppgaven med å følge med og melde inn antisemittiske ytringer.

Det andre nivået handler om «nettvakter»: Dette innebærer at myndighetene inngår avtaler med individer, grupper og nettverk som kan tråle sosiale medier og «sikre at overtramp rapporteres til Facebook og Twitter».

Heller ikke dette blir billig. En vellykket innsats vil også kreve at moderatorene er kontinuerlig faglig oppdatert på sjargong i de ulike miljøene som sprer hat, slik at de kan gjenkjenne kodete ord og uttrykk, ironi og symbolbruk som stadig skiftes ut ettersom betydningen blir kjent og moderert bort. Det kan bli en katt- og mus-lek.

De vanskelige spørsmålene

Flere vanskelige spørsmål tvinger seg frem:

• Hvem i Norge skal eventuelt bli utnevnt til «hatprat-politi»?
• Hvor omfattende skal overvåkningen være?
• Kan norske myndigheter i det hele tatt bekjempe hatytringer på internett og sosiale medier uten å bli Kina?

Som forskerne selv skriver det:

«Hovedspørsmålet er om og i hvilken grad norske myndigheter skal befatte seg med å følge med på eller overvåke folks ytringer på nett og i sosiale medier. Her må blant annet hensynet til den skaden som slike ytringer kan påføre individer og samfunn, veies opp mot ytringsfrihet og borgernes frihet».

Regjeringen må sette ned «et utvalg» som skal få oppgaven å komme frem til hvordan vi vil løse dette i Norge, mener forskerne.

Redd for at kritiske ytringer rammes, ikke bare hatefulle

For Torgeir Waterhouse, direktør for internett og nye medier i IKT Norge, er disse spørsmålene kjente – og fortsatt kinkige:

— Dette er mer et ytringsfrihetsspørsmål enn et teknologisk spørsmål. Teknologiutviklingen går stadig raskere, så det blir stadig lettere å få moderert stadig mer for de samme pengene. Men det må sees i sammenheng med konsekvensen av å ta feil, sier han.

Tematikken er heller ikke ukjent for Hans Marius Graasvold, som har fartstid som underdirektør i Forbrukerrådet, medlem av Personvernnemnda og som advokat har bistått flere klienter i saker om hatytringer – for øyeblikket koreografen Mia Habib, som har anmeldt nettstedet Resett.

Graasvold sier rapportens løsningsforslag har vært diskutert i mange land, i ulike fasonger, med forskjellige tekniske innretninger. Han nevner «deep packet inspection» som eksempel, såkalte copyright-crawlere som analyserer innholdet i kommunikasjonen på nett.

— Jeg mener dette med rette er blitt sett på som for grenseoverskridende. Det er fordi man går inn i noe som i utgangspunktet er et privat rom – og fordi det er en fare for misforståelser og misbruk. Det rammer ikke bare hatefulle ytringer, men også kritiske ytringer, sier han.

Også Waterhouse mener man må vurdere hvor mange ytringer man kan tillate at forsvinner i dragsuget for å håndtere det som er faktisk er hat.

— Det er utrolig kompliserte avveininger. Bare fordi du mener at du har skjønt noens intensjon bak en ytring, vil det ikke si at noen andre gjør det. På den ene siden er det kanskje den eneste måten å se for seg å gjøre det på, men på den andre siden er det veldig problematisk sett opp mot rettsstaten. Det er så mange måter dette kan gå galt på, sier Waterhouse.

Skeptisk til «sannhetskommisjon»

Waterhouse er skeptisk til ideen om at et utvalg skal definere hva som er innafor og hva som er utafor.

Det finnes ingen felles definisjon av hva som er en hatefull ytring, verken i Norge eller internasjonalt, men det forstås ofte som utsagn som uttrykker hat eller forakt for andre mennesker på grunn av hva de er.

— Det er opplagt at ethvert samfunn må gjøre slike vurderinger. Hvis rammene settes nå i 2019, hvor raskt vil de normative rammene gå ut på dato? Hvor ofte skal man vurdere dette på nytt, spør Waterhouse.

Han viser til historien for å illustrere sitt poeng. Toleransen for hva som var greit å si om «tyskertøser» etter krigen var noe helt annet da kontra nå. I 2052 vil det trolig være helt annerledes rammer for hvordan man omtaler IS-bruder enn det er i dag.

I lovens forstand er en hatefull ytring definert som det å forhåne noen, eller fremme hat, forfølgelse eller ringeakt overfor noen på grunn av deres hudfarge eller nasjonale eller etniske opprinnelse, religion eller livssyn, homofile orientering eller nedsatte funksjonsevne.

«Naiv og forenklet» debatt

I 2018 tok den muslimske aktivisten Qasim Ali til orde for forbud mot karikaturer av profeten Muhammed. «Ekstremt og totalitært» svarte aktivisten Sumaya Jirde Ali. Dette er ikke bare en debatt i muslimske miljøer. Det vakte oppstuss at Menneskerettsdomstolen i fjor høst straffet en påstand om at Mohammed er pedofil.

— Hvis vi setter rammene nå, så dreper vi rommet for utvikling og refleksjon, mener Waterhouse.

En ting som plager teknologen er hvor forenklet og naiv debatten ofte blir i møte med forsøk på moderering som går galt. Han nevner Napalm-jente-debatten fra et par år tilbake (der et bilde av et offer i Vietnam-krigen ble sensurert av Facebook, fordi det viste nakenhet). Det finnes eksempler på rettssaker i Norge med lange rettsprosesser og mange involverte for å fastslå hvorvidt en ytring er rasistisk eller ikke.

— Jo mer komplisert det blir, jo enklere løsninger tyr vi til. Vi ser ofte at man er villig til å gå så mye lengre i inngrep på nett sammenliknet med det analoge samfunnet, og med en mye enklere forståelse. Hvis ikke de mest oppegående og utdanna i Norge klarer å gjøre det, hvordan skal en person på et frivilligsenter for Facebook-nettvakter gjøre det? Det er altfor enkelt for staten å outsource arbeidet til tredjeparter, mener Waterhouse.

Facebook+Staten=Ramaskrik

Hva hvis folk blir flagget så mange ganger av den statsstøttede nett-patruljen at de blir utestengt fra Facebook, men mener seg mistolket? Skal man klage til Facebook eller staten? Skal det opprettes en sosiale medier-bruker-klagenemnd eller et «Facebook-tvistutvalg»?

— Ja, der kan du se hvor vanskelig det er. Da er man langt inn i en Kafka-prosess, sier Waterhouse.

Også Graasvold har problemer med at staten skal være moderator-partner på nett. Han påpeker at det er en betydelig forskjell på internett som helhet og sosiale medier-plattformer på grunn av eierskapet. Derfor mener han at det er en mye bedre løsning å få Facebook selv til å forstå at det smarte for dem er å bli en mer personvernvennlig aktør, som også tar hensyn til de som angripes.

— Samarbeid mellom selskaper og myndigheter er en utfordring. Vi har tidligere sett at forbrukere reagerer veldig negativt på statlig innblanding. Staten er forvaltere av straffeloven, NAV og skattemyndighetene, de har flere sanksjonssystem. Når det gjelder private aktører reageres det ikke på samme måte. Hadde det imidlertid blitt lovfestet at Facebook skulle lagre dataene våre slik som foreslått i Datalagringsdirektivet, hadde det blitt ramaskrik, sier advokaten.

Han mener det vil være helt umulig å gi sosiale medier-plattformer et rettslig ansvar for innholdet i ytringer fremsatt på deres plattformer, og at det heller ikke er ønskelig. Hvis vi gjør Facebook ansvarlig for innholdet, så vil sjansen være stor for at de går i den andre grøfta, og slår ned på for mye, for å være på den sikre siden, mener Graasvold.

(Dette går på tvers av det for eksempel det en komité i det britiske underhuset foreslo i en 108 sider lang rapport om hvordan desinformasjon og falske nyheter ble spredd i sosiale medier i Storbritannia. I Tyskland er det også slik at myndighetene gir Facebook en frist på 24 timer til å fjerne hatefullt innhold, før plattformen selv blir bøtelagt).

— Er det mulig å bruke løsningene som skisseres rapporten fra Institutt fra samfunnsforskning uten å bli Kina?

«Njæ», svarer Waterhouse.

— Vi hadde en lang runde i retten på hvor mye man kunne overvåke Arne Treholt. Selv han hadde et rettsvern, sier Graasvold.

Så hva er løsningen da?

Teknologen: Mute-knappen vil ikke fungere

Teknologens svar er overraskende analogt.

— Vi må jobbe med det som ligger bak. Sosiale medier er en ropert med høyere volum. Men de som står og roper i den slutter ikke å være antisemitter av at vi hindrer dem å si det de vil si. I stedet for å luke vekk og skjule antisemittisme, bør man kanskje jobbe med årsaken til at folk er antisemittiske, sier Waterhouse.

Juristen mener løsningen ligger i å gå etter de enkelte nettstedene, sidene og gruppene som sprer hat med de lovene vi allerede har. Det er det minst inngripende i forhold til personvernet, mener han.

— Vi må holde disse ansvarlig, for eksempel for medvirkeransvar som man sier i jussen, i rettssystemet. Resett, for eksempel, oppgir å ha forhåndsmodererte kommentarfelt. Da kan man argumentere for at disse godtar hatet som ligger der, sier Graasvold.

Politiet må få penger til å ta sakene som anmeldes, og man bør altså gå på fasilitatorene i større grad enn ytringene.

— Det er disse som har oversikten. Jeg skjønner at det er fristende å gå inn å gjøre en Dark Room-etterforskning på hatytringer, men det tror jeg er et kaninhull. Jeg tror statlig overvåking av folks kommunikasjon er en livsfarlig vei å gå. I tillegg er det slik at hvis vi vil ha internett, så kan vi ikke ha nulltoleranse for hatefulle ytringer. De vil alltid komme frem.