Hvordan takler sosiale nettverk hatytringer?
AI-programmer og anmeldere av menneskelig innhold slår ned på støtende kommentarer på nettet
Zach Gibson/AFP/Getty Images
Hatefulle ytringer er ikke et nytt fenomen for sosiale nettverksnettsteder, men lørdagens høyreekstreme demonstrasjon i Charlottesville, Virginia, som førte til at en demonstrant døde, har ført til at selskaper tar grep mot støtende grupper på nettet.
Her er hvordan de største sosiale mediegruppene reagerer på hatytringer, i tillegg til planene deres for å forhindre at støtende innhold spres:
Etter de voldelige hendelsene i Charlottesville på lørdag, Engadget sier Facebook har «stengt ned en rekke hatgrupper i kjølvannet av angrepene», inkludert «arrangementssiden for Unite the Right-marsjen som utførte volden».
Den sosiale mediegiganten bruker en kombinasjon av kunstig intelligens (AI) og menneskelige innholdsanmeldere for å finne hatefulle ytringer, som The Verge sier fjerner '66 000 hatposter per uke'. Men siden sier at Facebook 'avhengig av stor grad' av brukere rapporterer innhold som støtende eller hatefullt.
I mai hyret Facebook inn ytterligere 3000 personer til sitt 'team av innholdsanmeldere', sier TechCrunch , noe som bringer totalen opp til 7500. Dette ble utløst av flere globale «innholdsmodereringsskandaler», inkludert bruken av Facebook Live «for å kringkaste drap og selvmord».
Men Kablet sier at det har vært situasjoner der selskapets 'algoritmiske og menneskelige anmeldere' har stemplet kommentarer eller innlegg som støtende uten å ta hensyn til konteksten. For eksempel sier nettstedet at noen ord 'ropt som sladder' noen ganger blir 'gjenvunnet' av grupper 'som et middel til selvuttrykk.'
Twitters policy for hatefull oppførsel sier at tjenesten ikke 'tillater kontoer hvis primære formål er å oppfordre til skade mot andre' på grunnlag av områder som rase eller seksuell legning.
De Uavhengig rapporterer at siden i løpet av de siste månedene har introdusert flere systemer og verktøy for å oppdage og fjerne hatytringer, i tillegg til å forbedre prosessen der brukerne manuelt rapporterer støtende materiale.
Men det sosiale medienettstedet har vært i 'godt varmt vann de siste månedene angående en opplevd mangel på handling i kjølvannet av opplevde trusler', sier TechCrunch , noe som førte til at en aktivist sprayet 'hatspråk på gatene utenfor selskapets hovedkvarter i Berlin.'
I kjølvannet av lørdagens sammenstøt sier nettstedet at kontoen til den høyreekstreme gruppen The Daily Stormer er tatt ned, selv om 'Trumps tweets som vakler på kanten av truende atomkrig' ser ut til å være i tråd med selskapets policy.
Chatforumet Reddit har også slått ned på hatefulle ytringer. Engadget sier at nettstedet har 'stengt ned en rekke hatgrupper i kjølvannet av angrepene.'
Blant gruppene som ble fjernet fra sosiale medier var subredditen /r/Physical_Removal, en side Engadget sier 'håpet at folk i anti-hat subreddits og på CNN ville bli drept, støttet konsentrasjonsleirer og skrev til og med dikt om drap.'
'Vi er veldig tydelige i vilkårene for nettstedet vårt på at å legge ut innhold som oppfordrer til vold vil få brukere utestengt fra Reddit,' sa Reddit Cnet .
Selv om Google ikke utelukkende er et sosialt nettverk, spiller teknologigiganten en nøkkelrolle i å dirigere internetttrafikk og de sosiale appene som brukerne har tilgang til.
Siden sammenstøtet i Charlottesville på lørdag, TechCrunch sier at firmaet har fjernet det 'konservative sosiale nettverket' Gab fra Play-butikken sin ettersom det hadde blitt et 'tilfluktssted' for brukere som er utestengt fra vanlige plattformer.
Google sier at de ikke støtter 'innhold som fremmer eller tolererer vold mot enkeltpersoner eller grupper' basert på visse kriterier, og legger til at det er 'sterkt avhengig av at brukere gir oss beskjed om innhold som kan bryte retningslinjene våre'.
Men TechCrunch sier 'det er ikke klart hva spesifikt Gab gjorde som garanterte at den ble sparket ut av butikken', siden appen er et chatterom og ikke ser ut til å aktivt fremme hatytringer. Nettstedet sier 'det er rikelig med hatytringer på Twitter og YouTube', men disse er fortsatt tilgjengelige for nedlasting til tross for denne ukens 'nedbrudd' mot støtende innhold.
I følge The Verge , Gab har 'aldri blitt godkjent for plassering på Apples App Store.'
Hva gjør andre?
Et av de bemerkelsesverdige tilfellene av hatefulle ytringer etter lørdagens begivenheter inkluderer webdomenenavnforhandleren GoDaddy som kastet The Daily Stormers nettsted fra sin tjeneste, sier TheRegister .
Nettstedet sier at aktivister fortalte forhandleren at gruppen kom med 'ekstraordinært vulgære og nedsettende kommentarer' om offeret for Charlottesville-angrepet, Heather Heyer. GoDaddy ga The Daily Stormer 24 timer 'for å flytte domenet til en annen leverandør'.
Vi informerte The Daily Stormer om at de har 24 timer på seg til å flytte domenet til en annen leverandør, da de har brutt våre vilkår for bruk.
- GoDaddy (@GoDaddy) 14. august 2017
YouTube forventes også å «innføre strengere retningslinjer med hensyn til hatefulle ytringer», melder TechCrunch . Dette kan føre til at flere videoer blir fjernet etter at brukere har markert dem som støtende, selv om det ikke er noe ulovlig i innholdet.
