Al Capone-tilnærmingen til anti-vaxxers

De sosiale medier-gigantene går etter vaksineløgnere og konspiratorer for tekniske detaljer. Finnes det en bedre måte å beskytte sannheten på?

En collage av et forstørrelsesglass og en tekst-chat-ordballong

Getty; Atlanteren

I slutten av august fortalte Reddit-brukere selskapets ledelse at de hadde blod på hendene. Som en del av en organisert protest, moderatorene for dusinvis av store subreddits, eller fora på nettstedet, delte et brev fordømmer Reddit for å ha unnlatt å handle på den voldsomme spredningen av feilinformasjon om COVID-19 og la konspirasjonstenkende antivaksine-subreddits spre seg. Brevet understreket at vaksiner er trygge, masker er effektive og sosialdistanserende tiltak er nyttige. Subreddits som utelukkende eksisterer for å spre medisinsk desinformasjon og undergrave innsatsen for å bekjempe den globale pandemien bør forbys, heter det.



Reddits administrerende direktør, Steve Huffman, svarte med sitt eget åpne brev og bemerket at dissens er en del av Reddit og grunnlaget for demokrati, og at de som er uenige med CDC ikke bryter nettstedets retningslinjer. Kort tid etter innlegget hans, stengte mange av moderatorene som hadde delt brevet subredditene sine i raseri. (Blackout-protesten inkluderte forumet med 3,3 millioner medlemmer for Pokémon Go, som ble sin egen nyhetssak .) Til slutt tok Huffman handling: 1. september, Reddit fjernet sin mest beryktede subreddit for antivaksinekonspirasjonsteorier, kalt r/NoNewNormal, og satt i karantene – noe som betyr, dekket med en advarselsskjerm og fjernet fra søkeresultatene – 54 andre, inkludert subredditen dedikert til det antiparasittiske stoffet ivermectin . r/NoNewNormal har blitt utestengt! lese En stolpe i subredditen dedikert til drama på stedet. Diskuter denne dramatiske hendelsen her! (Andre feiret med memes , åpenbart.)

Men Reddits ledelse hadde ikke helt gått med på demonstrantenes krav. Moderatorenes brev hadde spesifikt bedt om spesiell oppmerksomhet, håndhevelse eller regler rundt feilinformasjon om COVID-19. Det er ikke akkurat det de fikk. Forbudet mot r/NoNewNormal var ikke på grunn av brukernes vane med å dele helsefeilinformasjon og desinformasjon, men snarere for brigading - det vil si deres historie med å angripe andre Reddit-samfunn med spam eller trolling. De 54 karantene subreddits ble heller ikke sitert for noen spesifikk manipulering av sanne fakta, men snarere for brudd på første regel av Reddits innholdspolicy, som beskytter brukere mot mobbing, hatytringer og trusler om vold. Den regelen, forklarte en talsperson til meg i en e-post, kan tolkes slik at den forbyr spredning av forfalskbar helseinformasjon som oppmuntrer til eller utgjør en betydelig risiko for fysisk skade på leseren.

Med andre ord, da Reddit ble konfrontert med et problem som policyene ikke dekket – feilinformasjon om helse – jerryrigget Reddit en løsning. Den brukte verktøy utviklet for en tidligere krise innen innholdsmoderering, hatytringer og trakassering, og tilpasset dem for å møte den nåværende. Vi bør forvente at dette dramaet vil spille seg ut igjen og igjen i månedene som kommer. Plattformer, deres brukere og sosiale medier-eksperter er fortsatt i de tidlige stadiene av å diskutere hvordan effektiv innholdsmoderering rundt feilinformasjon om helse skal se ut, og mange av dem vet at overordnede retningslinjer vil skape alvorlige problemer og dramatisk begrense fornuftig debatt. Inntil den spenningen er løst, er plattformene avhengige – i betydelig grad – på antivaksineaktivisters og COVID-19-konspirasjonsteoretikeres tilbøyeligheter til å bryte ikke-relaterte, eksisterende regler. For øyeblikket er det den beste løsningen som er tilgjengelig.


Reddit er beryktet for å ha brukt veldig, veldig lang tid på å bestemme seg for at det skal håndtere trakassering, hatefulle ytringer og andre former for overgrep meningsfullt. Plattformen var en gratis for alle i mange år , florerer av kvinnehat og rasisme, og en god del av brukerbasen måtte gradvis ledes mot politikk som kunne beskytte talen til noen ved å begrense andres tale. (Også en haug med egentlig hatefulle brukere måtte fjernes .) For mange av de nåværende brukerne burde den nye moderasjonsdebatten – den om feilinformasjon om helse – være mindre komplisert enn det som kom før. Hvis folk diskuterer om Bigfoot er ekte, greit. Hvis folk krangler om politiske kandidater, ok, sa en moderator for det populære rådsforumet r/AmITheAsshole ved navn Frank, som – i likhet med de andre moderatorene som er sitert i denne historien – ba om å gå under fornavnet hans av bekymring for trakassering. Jeg tror at det er en betydelig forskjell når det gjelder å stille spørsmål ved grunnleggende vitenskap midt i en global pandemi. Selv om [Reddits ledere] ikke er juridisk ansvarlige, er de absolutt etisk ansvarlige for å tillate ideer som er farlige for helsen og livene til brukerbasen deres.

Noen vitenskapelige fakta er svart-hvitt, selvfølgelig, men moderatorer kan undervurdere utfordringen med å avgjøre hvilke fakta som er i konkurransen om en bred politikk for feilinformasjon om helse. Trakassering er et spørsmål om verdier – hva er for slemt eller for skadelig, fortalte James Grimmelmann, en professor ved Cornell University Law School som har skrevet mye om innholdsmoderering. Helseinformasjon handler om sannhet – hva er sannheten om hvordan virus sprer seg, hvilke medisiner forhindrer dem, hvilke andre tiltak forhindrer dem? Å moderere for sannheten er lettere sagt enn gjort, fortalte han meg, spesielt når vitenskapelige fakta er i ferd med å utvikle seg. I begynnelsen av pandemien, for eksempel, var sannheten at vanlige mennesker ikke skulle kjøpe masker, fordi vi trengte å spare dem til helsepersonell. Den forståelsen endret seg, sa Grimmelmann. Plattformer ville ha gjort skade hvis de hadde moderert det på en lys linje.

I en e-postmelding kom en talsperson for Reddit med et lignende argument: Begrepet feilinformasjon kan være vagt og vanskelig å definere, gitt tempoet i endringene vår i vår forståelse av COVID-19, vaksiner og veiledning for folkehelse det siste året, skrev de. .

Reddits moderatorer ser ut til å forstå dette. De innser at det er komplisert å be sosiale medieselskaper om å bedømme medisinsk informasjon og kan gi slurvete resultater. Dette har forskere og akademikere også påpekt. Robyn Caplan, doktorgradsstudent ved Rutgers University, kalte COVID-19 en krise med innholdsformidling i fjor, skriving , Det vi må spørre nå er om vi stoler på at teknologiselskaper spiller denne rollen som å forene det brukergenererte internett med hierarkier for kunnskapsproduksjon. Likevel ber Redditors om ... noe. Da jeg snakket med en moderator for Star Trek forum, som ba om å gå under brukernavnet hans, Corgana, spurte jeg om han mente Reddit burde forby ethvert fellesskap der folk diskuterte bivirkninger eller feil ved vaksiner. Han insisterte på at forskjellen mellom intellektuell samtale og aktiv skade burde være åpenbar. NoNewNormal var ikke en «debatt om effektiviteten av vaksiner»-subreddit, sa han. Det var en subreddit for å lage propaganda for å spre seg til andre deler av internett.

Så kanskje Reddit bare kunne lage en liste over avkreftede vaksinerykter, som de NoNewNormal var dedikert til å forsterke, og ta ned alt innholdet. Reddit kan vedta en policy om kjent feilinformasjon, og så må de bare identifisere den feilinformasjonen og fjerne den, sa Grimmelmann. Men det ville være mye arbeid, og det ville være komplisert på grunn av nettstedets avhengighet av frivillige moderatorer for å holde sine egne lokalsamfunn på linje. Reddit hadde et verktøy for manuelt å rapportere feilinformasjon, som det ser ut til primært å ha brukt til dataanalyse . En talsperson sa at de fleste av rapportene som ble sendt inn gjennom den ikke var meningsfylte handlingsdyktige, og at Reddit nå tilbyr et verktøy for å rapportere innblanding fra samfunnet i stedet. (Et annet begrep, i grunnen, for brigadering.) Enda viktigere, fortalte Grimmelmann meg, enhver slik politikk ville være kulturelt vanskelig for Reddit å vedta, gitt nettstedets historie som et sted for intellektuell og intellektuell debatt. Et eksplisitt forbud mot feilinformasjon om vaksiner vil representere en seriøs omtanke om hva Reddit er og er for.

Reddit-sjefens første svar til de rasende brukerne hans viste respekt for denne kulturen: Han ba samfunnet om å ha en vilje til å forstå hva andre går gjennom, selv når deres syn på pandemien er annerledes enn ditt. Likevel antydet innlegget hans også på måtene forskjellige synspunkter – hvis de var tilstrekkelig farlige – kunne modereres på andre måter. Manipulere eller jukse Reddit for å forsterke en mening er mot reglene, skrev han, som er svindel og oppmuntrende skade. Som sådan kan Reddit faktisk straffe brukere eller samfunn som tar til orde for falske vaksinekort eller farlige aktiviteter som påstås å være COVID-19-kurer, for eksempel å drikke blekemiddel. Selskapets påfølgende svar på protesten, skrevet av et medlem av selskapets sikkerhetsteam, klargjorde at reglene mot etterligning, svindel og manipulasjon også dekker deling av falske råd fra Verdens helseorganisasjon eller CDC eller fabrikkerte medisinske data. (En talsperson understreket for meg at disse kommentarene ikke representerte endringer i noen Reddit-retningslinjer, eller i hvordan disse retningslinjene håndheves.)

Reddit har utført lignende manøvrer tidligere for å ta vanskelige moderasjonsbeslutninger. I juni 2020 forbød nettstedet en subreddit kalt r/The_Donald, som fremmet voldelig og rasistisk politisk retorikk. Fordi reglene mot hatefulle ytringer var vannaktige og utilstrekkelige på den tiden, støttet selskapet seg på den samme begrunnelsen den brukte denne måneden for å fjerne r/NoNewNormal: r/The_Donald, sa det, hadde engasjert seg i brigadering. På samme måte, da Reddit fjernet store QAnon-subreddits i 2018, var det ikke eksplisitt på grunn av deres ville konspirasjonsteorier og fantasier om massemord, eller annen problematisk oppførsel som opprørte andre brukere. Snarere ble de fjernet for doxing – publisering av en persons identifiserende informasjon mot deres vilje – som er underlagt en sterk norm for avvisning på hele nettstedet. (Reddits innholdspolicy ble betydelig overhalt i fjor sommer, og forbyr nå et bredere spekter av krenkende atferd.)

Sosiale plattformer synes det er nyttig å moderere innhold på grunnlag av den slags teknikaliteter, fortalte Grimmelmann, fordi de lettere kan forsvare enhver gitt håndhevingsavgjørelse som den enkle anvendelsen av en grunnleggende regel. En vesentlig del av Facebooks innsats for å rydde opp mot vaksineretorikk, har for eksempel handlet mot koordinert uautentisk oppførsel , som refererer til nettverk av falske kontoer, og koordinert sosial skade , som refererer til ekte kontoer som har jobbet sammen for å unngå straff for regelbrudd. Men denne tilnærmingen avhenger av å vente på at dårlige skuespillere skal begå handlingsrettede lovbrudd, selv om de engasjerer seg i annen skadelig atferd. Brukere av disse sidene sier at det gir grupper tid til å vokse og rekruttere brukere til sikkerhetskopiering av nettsteder eller til og med offline organisasjoner før de blir utestengt.

Deltakerne i Reddit-protesten håpet på noe som krever litt mindre hårklyving. De ønsker en klar forpliktelse av noe slag om at plattformen vil beskytte brukerne sine mot ideer som kan drepe dem. Hvis de egentlig ikke vet hvordan det vil se ut i praksis, vet de hvordan det gjør det ikke ser ut som. Mange av moderatorene var ikke fornøyde med forbudet mot et ekstremt forum på grunn av dets andre dårlige oppførsel. (Noen ønsket til og med å holde blackout-protesten i gang til de 54 karantene subredditene også ble forbudt, men de ble nedstemt.) Mange mennesker er skuffet, Ben, en lærer fra Rhode Island som modererer anti-desinformasjon subreddit r/ ParlerWatch, fortalte meg. Det er på en måte bare en måte for Reddit å deeskalere situasjonen og stoppe protesten, men også unngå å ta opp rotproblemet.