Beviser «Elsagate» at YouTube er for stort til å kontrollere?
Skandale med voldelige og seksuelle videoer rettet mot barn avslører vanskelighetene med å stole på algoritmer
Catrinus Van Der Veen / AFP / Getty Images
I februar, YouTube annonsert den hadde nådd en svimlende milepæl: besøkende konsumerte nå tilsvarende en milliard timers video hver dag.
Selve størrelsen på plattformens brukerbase er like forbløffende. Mer enn 1,5 milliarder mennesker bruker YouTube, sier Vergen Roger McNamee, noe som gir den en global rekkevidde som kan sammenlignes med islam.
Men som de sier, med stor makt følger stort ansvar, og den nylige ElsaGate, en skandale som involverer urovekkende videoer rettet mot barn, har fått noen til å lure på om YouTube har blitt et Frankensteins monster, utenfor skapernes kontroll.
Hva er ElsaGate?
Noen av YouTubes mest populære kanaler er rettet mot barn, med skapere som spesialiserer seg på barnerim, fargerike tegneserier og de mektige leketøysvideoene som får millioner av abonnenter og milliarder av visninger.
Men det er et problem. YouTube er fullstendig oversvømmet av ekstremt voldelige, upassende, seksuelt antydende videoer rettet mot barn, sier Inquistr , og disse videoene finner veien inn i autoplay-lister sammen med alderstilpassede klipp.
Journalisten James Bridle fordypet seg i dette foruroligende fenomenet, kalt Elsagate etter den populære Frozen-karakteren som dukker opp i mange av videoene, for en artikkel med tittelen Something is Wrong på Internett på Medium denne måneden.
Han fant ut at når innholdsskapere jager seere, blir vellykkede - og opprinnelig harmløse - formler for å skaffe visninger i det uendelige gjentatt over hele nettverket i stadig mer merkelige og forvrengte rekombinasjoner.
På sitt mest ekstreme inkluderer disse en legion av urovekkende videoer som ser ut til å være produsert, eller i noen tilfeller automatisk generert, som svar på populære søkeord. De har ofte forstyrrende temaer og seksuelt eller voldelig innhold.
Et søk etter Peppa Pig-tannlege returnerer for eksempel et hjemmelaget klipp der den populære barnekarakteren blir torturert, før den blir til en serie Iron Man-roboter og fremfører Learn Colors-dansen.
ElsaGate har generert en flom av respons fra bekymrede foreldre, media og internetteksperter dedikert til å finne ut hvem eller hva som lager disse urovekkende videoene og hvorfor.
Har YouTube blitt for stort til å kontrollere?
I hjertet av ElsaGate og andre kontroverser om YouTubes innhold, for eksempel videoer som fremmer terrorisme eller vold, er allmakten til plattformens algoritmer.
I motsetning til hva noen foreldre kanskje tror, er innhold på YouTubes dedikerte Kids-app ikke kurert eller forhåndskontrollert av mennesker. I stedet vises foreslåtte videoer i autospilllisten automatisk basert på delte søkeord eller lignende målgrupper.
Selve størrelsen på YouTubes katalog går utover mulighetene for menneskelig tilsyn. Innhold lastes opp til plattformen tilsvarende 400 timer med video hvert minutt, ifølge Statista .
Den utrolige spredningen av videoer som tydelig har blitt produsert som svar på vanlige søkeord viser i hvilken grad YouTube i hovedsak drives av maskiner, sier Medium’s Bridle.
På en plattform der innholdssynlighet – og dermed potensial for annonseinntekter – styres av algoritmer, selv om du er et menneske, må du ende opp med å etterligne maskinen.
ElsaGate har avslørt en langvarig sannhet om YouTube som ikke lenger kan ignoreres, sier Polygon : Filtrene designet for å beskytte brukere i alle aldre mot forstyrrende, voldelig eller ulovlig innhold er ikke opp til jobben.
Algoritmene rives fra hverandre, analyseres og bankes opp av innholdsskapere, menneskelige eller automatiserte, som har blitt flinke til å spille systemet for å sikre at produksjonen deres blir sett.
I et spesielt beryktet eksempel klarte skøyere på 4chan-oppslagstavlen å spleise pornografi til barneprogrammer og spille algoritmen for å sikre at videoene ble inntektsgenerert og sett, sier Polygon.
Kan problemet løses?
YouTube har lovet å slå ned på plagen med upassende barnevideoer som glir forbi filtrene på Kids-appen.
Juniper Downs, direktør for policy, sa at et nytt system som går før ElsaGate-avsløringene vil klassifisere videoer som er merket av brukere som aldersbegrenset, noe som automatisk vil holde dem ute av YouTube Kids-appen.
På et bredere plan er det tegn på at YouTube endrer sin holdning til innholdskurering mot en mer praktisk tilnærming, foranlediget av press fra myndigheter som er bekymret for ekstremisme på nettet.
Flere terrorangrep i Europa og USA har blitt utført av personer som antas å ha blitt selvradikalisert delvis ved å se YouTube-propagandavideoer laget av grupper som Den islamske staten og deres sympatisører.
Politikere har truet med å iverksette tiltak mot teknologifirmaer som ikke styrker tiltak for å fjerne videoer som inneholder ekstremistisk innhold. Alphabet, YouTubes morselskap, ser ut til å ta truslene på alvor.
Tidligere var provoserende religiøse eller politiske videoer tillatt på YouTube hvis de ikke brøt med nettstedets regler for grafisk innhold eller promotering av vold, selv om de ikke var kvalifisert for annonseinntekter.
Det bekrefter en YouTube-talsperson Reuters deres policy har endret seg for å forby enhver video som viser personer eller grupper som er klassifisert som terrorister, inkludert materiale som foredrag av al-Qaida-rekrutterer Anwar al-Awlaki.
Men selv om YouTube utvikler nye strategier for å fikse smutthullene, forblir implikasjonene av ElsaGate urovekkende på et mer dyptgående nivå, sier TechCrunch Natasha Lomas.
YouTube-mediet motiverer innholdsfabrikker til å produsere klikkfôr, skriver Lomas, og utsetter en generasjon for en flodbølge av popkulturslurry basert på nøkkelord i stedet for sammenheng. Det er vanskelig å forestille seg noe positivt som kommer fra noe så bevisst base- og bunnmating som systematisk settes foran barnas øyeepler.
