Hvordan slukke demokratiets søppelkassebrann

Våre demokratiske vaner har blitt drept av et internett-kleptokrati som tjener på desinformasjon, polarisering og raseri. Slik fikser du det.

Illustrasjoner av Yoshi Sodeoka


Denne artikkelen ble publisert på nettet 8. mars 2021.



Oppdatert klokken 8:41 ET 11. mars 2021.

To les dagbokenav Gustave de Beaumont, reisefølget til Alexis de Tocqueville, er å forstå hvor primitiv den amerikanske villmarken en gang virket for besøkende franskmenn. I løpet av en enkelt måned, desember 1831, var Tocqueville og Beaumont på et dampskip som styrtet; kjørte diligens som brakk en aksel; og tok ly i en hytte – en av dem sengeliggende fra en uidentifisert sykdom – mens nærmeste lege var en to-dagers fottur unna. Likevel fortsatte de å møte mennesker hvis ressurssterke de beundret, og de fortsatte å samle inn observasjonene som til slutt førte til at Tocqueville skrev Demokrati i Amerika – den klassiske beretningen om ordensprinsippene, oppførselen og institusjonene som fikk demokratiet til å fungere i dette vidstrakte landet.

Tocquevilles interesse for amerikanske institusjoner reflekterte mer enn ren nysgjerrighet: I hans hjemland Frankrike hadde en revolusjon startet med like høye idealer om likhet og demokrati endt dårlig. Foreldrene hans hadde nesten blitt giljotinert under voldsbølgen som fulgte de betydningsfulle hendelsene i 1789. Derimot fungerte amerikansk demokrati – og han ønsket å forstå hvorfor.

Berømt fant han mange av svarene i statlige, lokale og til og med nabolagsinstitusjoner. Han skrev godkjennende om amerikansk føderalisme, som tillater unionen å nyte makten til en stor republikk og sikkerheten til en liten. Han likte også tradisjonene i lokaldemokratiet, township-institusjonene som gir folk smaken på frihet og kunsten å være fri. Til tross for de store tomme områdene i landet deres, møtte amerikanerne hverandre, tok beslutninger sammen, gjennomførte prosjekter sammen. Amerikanerne var gode på demokrati fordi de praktisert demokrati. De dannet det han kalte foreninger, de utallige organisasjonene som vi nå kaller sivilsamfunnet, og de gjorde det overalt:

Ikke bare har [amerikanere] kommersielle og industrielle foreninger som alle deltar i, men de har også tusen andre typer: religiøse, moralske, alvorlige, fåfengte, veldig generelle og veldig spesielle, enorme og veldig små; Amerikanerne bruker foreninger til å holde fester, grunnlegge seminarer, bygge vertshus, reise kirker, distribuere bøker, sende misjonærer til antipodene; på denne måten skaper de sykehus, fengsler, skoler … Overalt hvor du, i spissen for et nytt foretak, ser regjeringen i Frankrike og en stor herre i England, regn med at du vil oppfatte en forening i USA.

Tocqueville regnet med at demokratiets sanne suksess i Amerika ikke hviler på de store idealene uttrykt på offentlige monumenter eller til og med på grunnlovens språk, men på disse vanene og praksisene. I Frankrike diskuterte filosofer i store salonger abstrakte prinsipper for demokrati, men vanlige franskmenn hadde ingen spesielle forbindelser til hverandre. Derimot jobbet amerikanere sammen: Så snart flere av innbyggerne i USA har unnfanget en følelse eller en idé som de ønsker å produsere i verden, oppsøker de hverandre; og når de har funnet hverandre, forenes de.

I løpet av de nesten to århundrene som har gått siden Tocqueville skrev disse ordene, har mange av disse institusjonene og vanene blitt dårligere eller forsvunnet. De fleste amerikanere har ikke lenger mye erfaring med township-demokrati. Noen har ikke lenger erfaring med assosiasjoner, i tocquevilliansk forstand, heller. For 25 år siden beskrev statsviteren Robert Putnam allerede nedgangen til det han kalte sosial kapital i USA: forsvinningen av klubber og komiteer, fellesskap og solidaritet. Ettersom internettplattformer lar amerikanere oppleve verden gjennom en ensom, personlig linse, har dette problemet forvandlet seg til noe helt annet.

Et internett som fremmer demokratiske verdier i stedet for å ødelegge dem – som gjør samtalen bedre i stedet for dårligere – ligger innenfor vår rekkevidde.

Med engrosoverføringen av så mye underholdning, sosial interaksjon, utdanning, handel og politikk fra den virkelige verden til den virtuelle verden – en prosess som nylig ble akselerert av koronaviruspandemien – har mange amerikanere kommet til å leve i en marerittaktig inversjon av den tocquevillianske drømmen. , en ny type villmark. Mange moderne amerikanere søker nå kameratskap på nettet, i en verden definert ikke av vennskap, men av anomi og fremmedgjøring. I stedet for å delta i sivile organisasjoner som gir dem en følelse av fellesskap så vel som praktisk erfaring med toleranse og konsensusbygging, slutter amerikanere seg til internett-mobber, der de er nedsenket i mengdens logikk, klikker Like eller Del og går videre. . I stedet for å gå inn på et virkelig offentlig torg, driver de anonymt inn i digitale rom hvor de sjelden møter motstandere; når de gjør det, er det bare for å baktale dem.

Samtaler i denne nye amerikanske offentlige sfæren styres ikke av etablerte skikker og tradisjoner i demokratiets tjeneste, men av regler satt av noen få for-profit-selskaper i tjeneste for deres behov og inntekter. I stedet for de prosedyrebestemmelsene som styrer et ekte bymøte, styres samtalen av algoritmer som er designet for å fange oppmerksomhet , høste data og selge reklame. Stemmene til de sinteste, mest emosjonelle, mest splittende – og ofte de mest dobbeltsidige – deltakerne forsterkes. Rimelige, rasjonelle og nyanserte stemmer er mye vanskeligere å høre; radikalisering sprer seg raskt. Amerikanerne føler seg maktesløse fordi de er det.

I denne nye villmarken er demokrati i ferd med å bli umulig. Hvis den ene halvdelen av landet ikke kan høre den andre, kan ikke amerikanerne lenger ha delte institusjoner, apolitiske domstoler, en profesjonell siviltjeneste eller en bipartisk utenrikspolitikk. Vi kan ikke inngå kompromisser. Vi kan ikke ta kollektive beslutninger – vi kan ikke engang bli enige om hva vi bestemmer. Ikke rart at millioner av amerikanere nekter å akseptere resultatene fra det siste presidentvalget, til tross for dommene fra statlige valgkomiteer, valgte republikanske tjenestemenn, domstoler og kongressen. Vi er ikke lenger Amerika Tocqueville beundret, men har blitt det svekkede demokratiet han fryktet, et sted hvor hver person,

tilbaketrukket og adskilt, er som en fremmed for alle de andres skjebne: hans barn og hans spesielle venner danner hele menneskearten for ham; når det gjelder å bo hos sine medborgere, er han ved siden av dem, men han ser dem ikke; han rører ved dem og kjenner dem ikke; han eksisterer bare i seg selv og for seg selv alene, og hvis det fortsatt er en familie for ham, kan man i det minste si at han ikke lenger har et hjemland.

Verdens autokratier har lenge forstått mulighetene som tilbys av verktøyene teknologiselskaper har skapt, og har benyttet seg av dem. Kinas ledere har bygget et internett basert på sensur, trusler, underholdning og overvåking ; Iran forbyr vestlige nettsteder; Russiske sikkerhetstjenester har juridisk rett til å innhente personopplysninger fra Kreml-vennlige sosiale medier-plattformer, mens Kreml-vennlige trollfarmer oversvømmer verden med desinformasjon. Autokrater, både aspirerende og faktiske, manipulerer algoritmer og bruker falske kontoer for å forvrenge, trakassere og spre alternative fakta. USA har ikke noe reelt svar på disse utfordringene, og ikke rart: Vi har ikke et internett basert på våre demokratiske verdier om åpenhet, ansvarlighet og respekt for menneskerettigheter. Et nettbasert system kontrollert av et lite antall hemmelighetsfulle selskaper i Silicon Valley er ikke demokratisk, men snarere oligopolistisk, til og med oligarkisk.

Og likevel, selv når USAs nasjonale samtale når nye nivåer av vitriol, kan vi være nær et vendepunkt. Selv når politikken vår forverres, ligger et internett som fremmer demokratiske verdier i stedet for å ødelegge dem – som gjør samtalen bedre i stedet for verre – innenfor vår rekkevidde. En gang i tiden var digitale idealister drømmere. I 1996, John Perry Barlow, en tekstforfatter for Grateful Dead og en tidlig internett-utopist, spådde at en ny daggry av demokrati var i ferd med å bryte : Regjeringene i den industrielle verden, dere slitne kjemper av kjøtt og stål, jeg kommer fra Cyberspace, det nye hjemmet til Mind, erklærte han, et sted hvor drømmene til Jefferson, Washington, Mill, Madison, DeToqueville [ sic ], og Brandeis … må nå fødes på nytt.

Disse ideene høres eiendommelige ut - like utdatert som den andre ideen fra 1990-tallet, det liberale demokratiets uunngåelige. Likevel trenger de ikke. En ny generasjon internettaktivister, advokater, designere, regulatorer og filosofer tilbyr oss denne visjonen, men nå forankret i moderne teknologi, juridisk stipend og samfunnsvitenskap. De ønsker å gjenopplive vanene og skikkene som Tocqueville beundret, for å bringe dem på nettet, ikke bare i Amerika, men over hele den demokratiske verden.

Hvordan sosiale medier gjorde verden galere

I det surrealistiske interregnum som fulgte etter valget i 2020, ble prisen på USAs nektelse av å reformere internett plutselig veldig høy. Daværende president Donald Trump og hans støttespillere presset ut en fullstendig falsk fortelling om valgfusk. Disse påstandene ble forsterket på høyreekstreme TV-kanaler, deretter gjentatt og forsterket i cyberspace, og skapte en alternativ virkelighet bebodd av millioner av mennesker der Trump faktisk hadde vunnet. QAnon – en konspirasjonsteori som hadde brast ut av det underjordiske internett og flommet inn på plattformer som YouTube, Facebook og Instagram, og overbeviste millioner om at politiske eliter er en kabal av globalistiske pedofile – rant ut i den virkelige verden og bidro til å inspirere mobben som stormet hovedstaden. Twitter tok den ekstraordinære avgjørelsen om å utestenge den amerikanske presidenten for å oppmuntre til vold; mengden valgdesinformasjon i omløp falt umiddelbart.

Anbefalt lesing

  • Hvorfor teknologi favoriserer tyranni

    Yuval Noah Harari
  • Historien vil dømme den medskyldige

    Anne Applebaum
  • Hva skjedde med amerikansk konservatisme?

    David Brooks

Kunne disse plattformene ha gjort mer? Faktisk følger Facebook nøye med på toksisiteten til amerikansk diskurs. Lenge før valget hadde selskapet, som utfører hyppige, hemmelige tester på sin News Feed-algoritme, begynt å leke med forskjellige måter å fremme mer pålitelig informasjon. Blant annet skapte den et nytt rangeringssystem, designet for å degradere falske, hyperpartiske kilder og for å øke autoritativt nyhetsinnhold. Kort tid etter valgdagen ble rangeringssystemet tillagt større vekt i plattformens algoritme, noe som resulterte i en påstått hyggeligere nyhetsfeed — En til med virkeligheten. Endringen var en del av en rekke knuste glasstiltak som selskapet annonserte ville bli satt i verk i perioder med økt spenning. Så, noen uker senere, det ble angret . Etter Capitol-opprøret, 6. januar, ble endringen gjenopprettet, i forkant av Joe Bidens innsettelse. En Facebook-talsperson ville ikke forklare oss nøyaktig når eller hvorfor selskapet tok disse avgjørelsene, hvordan det definerer økt spenning, eller hvor mange av de andre knuseglass-tiltakene som fortsatt er på plass. Dens publiserte beskrivelse av rangeringssystemet forklarer ikke hvordan beregningene for pålitelige nyheter vektes, og det er selvfølgelig ingen ekstern tilsyn med Facebook-ansatte som tar beslutninger om dem. Facebook vil heller ikke avsløre noe om virkningen av denne endringen. Ble samtalen på nettstedet roligere? Opphørte eller avtok strømmen av desinformasjon som et resultat? Vi vet ikke.

Selve det faktum at denne typen skifte er mulig, peker på en brutal sannhet: Facebook kan gjøre nettstedet sitt bedre, ikke bare etter et valg, men hele tiden. Den kan gjøre mer for å oppmuntre til borgerlig samtale, motvirke desinformasjon og avsløre sin egen tenkning om disse tingene. Men det gjør det ikke, fordi Facebooks interesser ikke nødvendigvis er de samme som interessene til den amerikanske offentligheten, eller noen demokratisk offentlighet. Selv om selskapet har retningslinjer utformet for å bekjempe desinformasjon, og selv om det har vært villig til å gjøre justeringer for å forbedre diskursen, er det en profittorganisasjon som ønsker at brukerne skal bli på Facebook så lenge som mulig og fortsette å komme tilbake. Noen ganger kan det målet føre selskapet i en bedre retning, men ikke alltid, spesielt hvis brukere blir på siden for å koble seg til andre ekstremister, eller for å høre deres fordommer forsterket. Tristan Harris, en tidligere designetiker hos Google som nå leder Center for Humane Technology, sa det mer rett ut. Nyhetsfeeds på Facebook eller Twitter opererer etter en forretningsmodell for å commodifying oppmerksomheten til milliarder av mennesker per dag, skrev han nylig .* De har ført til smalere og sprøere syn på verden.

Ikke at Facebook har eneansvaret. Hyperpartiskhet og konspirasjonstenkning går foran sosiale medier, og meldingsmanipulasjon er like gammelt som politikk. Men dagens utforming av internett gjør det enklere enn noen gang å målrette mot sårbare målgrupper med propaganda, og gir konspirasjonstenkning mer fremtredende plass.

Illustrasjon av Yoshi Sodeoka; bilde fra Culture Club / Getty

Knappene vi trykker på og utsagnene vi kommer med på nett blir omgjort til data, som deretter mates tilbake til algoritmer som kan brukes til å profilere og målrette oss gjennom annonsering. Selvutfoldelse fører ikke lenger nødvendigvis til frigjøring: Jo mer vi snakker, klikker og sveiper på nettet, jo mindre mektige er vi. Shoshana Zuboff, professor emerita ved Harvard Business School, laget begrepet overvåkingskapitalisme for å beskrive dette systemet. Det har de lærde Nick Couldry og Ulises Mejias kalte det datakolonialisme, et begrep som gjenspeiler vår manglende evne til å stoppe dataene våre fra å bli utilsiktet ekstrahert. Da vi nylig snakket med Věra Jourová, som – som den fantastiske titulerte visepresidenten for verdier og åpenhet – er EU-tjenestemannen som er direkte ansvarlig for å tenke på nettdemokrati, fortalte hun oss at da hun først forsto at folk i nettsfæren taper deres friheter ved å gi deres private data som brukes på en ugjennomsiktig måte, ved å bli objekter og ikke subjekter, det var en sterk påminnelse om mitt liv før 1989 i Tsjekkoslovakia. Ettersom alt i hjemmene og livene våre går på nettet – ikke bare telefonene våre, men kjøleskapene og stasjonære sykler, familiebilder og parkeringsbøter – blir hver del av oppførselen vår omgjort til bytes og brukt av kunstig intelligens-systemer som vi ikke kontrollerer, men som kan diktere hva vi ser, leser og kjøper. Hvis Tocqueville skulle besøke cyberspace, ville det være som om han hadde kommet til Amerika før 1776 og funnet et folk som i hovedsak var maktesløst.

Vi vet at alternativer er mulige, fordi vi pleide å ha dem. Før private kommersielle plattformer definitivt tok over, blomstret nettbaserte prosjekter av offentlig interesse kort. Noen av fruktene av det øyeblikket lever videre. I 2002 hjalp Harvard jusprofessor Lawrence Lessig med å lage Creative Commons-lisensen, slik at programmerere kunne gjøre oppfinnelsene sine tilgjengelige for alle på nettet; Wikipedia – som for all hån en gang rettet sin vei har dukket opp som en mye brukt og for det meste objektiv informasjonskilde – opererer fortsatt under én. Wikipedia er et glimt av internett som kan ha vært : et ikke-for-profitt, samarbeidsrom hvor ulike mennesker følger et felles sett med normer for hva som utgjør bevis og sannhet, hjulpet på vei av offentlig-inspirerte moderatorer. Nettsamarbeid ble også tatt i bruk på imponerende vis fra 2007 til 2014, da en brasiliansk advokat ved navn Ronaldo Lemos brukte et enkelt verktøy, en WordPress-plugin, for å la brasilianere fra alle klasser og yrker hjelpe til med å skrive en internetterklæring. Dokumentet ble til slutt skrevet inn i brasiliansk lov, og garanterer folk ytringsfrihet og personvern fra myndighetenes inntrenging på nettet.

Alt dette begynte å endre seg med massemarkedets ankomst av smarttelefoner og et skifte i taktikken til de store plattformene. Det Harvard jusprofessor Jonathan Zittrain kaller den generative modellen av internett – et åpent system der alle kunne introdusere uventede innovasjoner – ga plass til en modell som var kontrollert, ovenfra og ned og homogen. Opplevelsen av å bruke internett skiftet fra aktiv til passiv; etter at Facebook introduserte sin nyhetsfeed, for eksempel, søkte brukere ikke lenger bare på nettstedet, men ble gitt en konstant strøm av informasjon, skreddersydd til det algoritmen trodde de ønsket å lese. Etter hvert som noen få selskaper kom for å kontrollere markedet, brukte de sin monopolmakt til å undergrave konkurrenter, spore brukere over internett, samle enorme mengder data og dominere reklame.

Det er en dyster historie, og likevel ikke helt ukjent. Amerikanerne burde gjenkjenne det fra sin egen historie. Tross alt, bare noen tiår etter at Tocqueville skrev Demokrati i Amerika , kom den amerikanske økonomien til å bli kontrollert av bare noen få svært store selskaper. På slutten av 1800-tallet virket landet dømt til monopolkapitalisme, finanskrise, dyp ulikhet, tap av tillit til institusjoner og politisk vold. Etter at den 25. presidenten, William McKinley, ble myrdet av en anarkist, hans etterfølger, Theodore Roosevelt – som fordømte den urettferdige pengeinnhentingen som skapte en liten klasse av enormt velstående og økonomisk mektige menn, hvis hovedmål er å beholde og øke sin makt. – omskrev reglene. Han brøt opp monopolene for å gjøre økonomien mer rettferdig, og returnerte makten til små bedrifter og gründere. Han vedtok beskyttelse for arbeidsfolk. Og han skapte nasjonalparkene, offentlige rom for alle å nyte.

Slik sett har internett tatt oss tilbake til 1890-tallet: Nok en gang har vi en liten klasse av enormt velstående og økonomisk mektige mennesker hvis forpliktelser er overfor dem selv, og kanskje overfor deres aksjonærer, men ikke til det større beste. Men amerikanerne aksepterte ikke denne virkeligheten på 1890-tallet, og vi trenger ikke å akseptere den nå. Vi er et demokrati; vi kan endre reglene igjen. Dette er ikke bare et spørsmål om å fjerne innhold eller til og med å fjerne en presidents Twitter-konto - avgjørelser som bør bestemmes av en offentlig prosess, ikke et ensomt selskaps skjønn. Vi må endre utformingen og strukturen til nettrom slik at innbyggere, bedrifter og politiske aktører får bedre insentiver, flere valgmuligheter og flere rettigheter.

Theodore Roosevelt 2.0

Tom Malinowski vet at algoritmer kan forårsake skade i den virkelige verden. I fjor introduserte den amerikanske representanten fra New Jersey et lovforslag, Protecting Americans From Dangerous Algorithms Act, som blant annet vil holde selskaper ansvarlige dersom deres algoritmer promoterer innhold knyttet til terrorhandlinger. Lovgivningen var delvis inspirert av et søksmål fra 2016 som hevdet at Facebook hadde gitt materiell støtte til terrorgruppen Hamas – algoritmen deres skal angivelig ha hjulpet potensielle rekrutter til Hamas. Domstolene mente at Facebook ikke var ansvarlig for Hamas sin aktivitet, et juridisk skjold som Malinowski håper å sløyfe. Regulatorer, sa han til oss, må komme under panseret på selskaper, og ikke bli fanget opp i krangel om denne eller den nettsiden eller bloggen. Andre i kongressen har krevd undersøkelser av muligens ulovlige rasemessige skjevheter videreført av algoritmer som for eksempel viser svarte og hvite mennesker forskjellige annonser. Disse ideene representerer begynnelsen på en forståelse av hvor forskjellig internettregulering må være fra alt vi har prøvd tidligere.

Denne måten å tenke på har noen klare fordeler. Akkurat nå kjemper selskaper intenst for å beholde fritaket fra mellomleddsansvar, garantert til dem av den nå beryktede paragraf 230 i Communications Decency Act. Dette fritar dem fra juridisk ansvar for nesten alt innhold som er lagt ut på plattformen deres. Likevel kan det å slå ned paragraf 230 bety at selskapene enten vil bli saksøkt ut av eksistens eller begynne å ta ned deler av innholdet for å unngå å bli saksøkt. Å fokusere på regulering av algoritmer, derimot, ville bety at selskaper ikke ville være ansvarlige for hvert ørsmå innhold, men ville ha juridisk ansvar for hvordan produktene deres distribuerer og forsterker materiale. Dette er tross alt hva disse selskapene faktisk gjør: organisere, målrette og forstørre andres innhold og data. Burde de ikke ta ansvar for det?

Fra april-utgaven vår 2021

Sjekk ut hele innholdsfortegnelsen og finn din neste historie å lese.

Se mer

Andre land fokuserer allerede sin reguleringsinnsats på ingeniørarbeid og design. Frankrike har diskutert å utnevne en algoritmerevisor, som skal overvåke effekten av plattformutvikling på den franske offentligheten. Storbritannia har foreslått at selskaper vurderer virkningen av algoritmer på ulovlig innholdsdistribusjon og ulovlig aktivitet på deres plattformer. Europa er også på vei i den retningen. EU ønsker ikke å opprette en 1984 Sannhetsdepartementet, har Věra Jourová sagt, men det kan ikke ignorere eksistensen av organiserte strukturer rettet mot å så mistillit, undergrave demokratisk stabilitet. Det må iverksettes tiltak mot uekte bruk og automatisert utnyttelse hvis de skader samfunnsdiskursen, i henhold til EUs Digital Services Act, som søker å oppdatere det juridiske rammeverket for politiplattformer. Det regulatoriske fokuset i Europa er på overvåking av omfang og distribusjon, ikke innholdsmoderering. En person som skriver en tweet vil fortsatt kvalifisere for ytringsfrihet – men en million bot-kontoer som utgir seg for å være ekte mennesker og forvrenger debatten på det offentlige torg ville ikke. Facebook og andre plattformer sporer og demonterer allerede uekte desinformasjons- og forsterkningskampanjer – de har alle investert tungt i ansatte og programvare for å utføre denne jobben – men det er knapt noen måte å revidere suksessen deres på. Europeiske regjeringer søker måter som de og andre samfunnsinteresserte aktører i det minste kan overvåke hva plattformene gjør.

Likevel er noen av de konseptuelle utfordringene her store. Hva kvalifiserer som lovlig, men skadelig innhold, som den britiske regjeringen kaller det? Hvem skal trekke grensen mellom desinformasjon og borgerlig diskurs ? Noen tror at det vil være umulig å bli enige om disse definisjonene i Amerika. Det er en kimær å forestille seg noe annet, sier Francis Fukuyama, en av USAs ledende demokratifilosofer; du kan ikke hindre folk i å tro på virkelig gale ting, som vi har sett den siste måneden, fortalte han oss i desember. Det Fukuyama og et team av tenkere ved Stanford har foreslått i stedet er et middel for å introdusere konkurranse i systemet gjennom mellomvare, programvare som lar folk velge en algoritme som for eksempel prioriterer innhold fra nyhetssider med høye redaksjonelle standarder. Konspirasjonsteorier og hatkampanjer ville fortsatt eksistere på internett, men de ville ikke ende opp med å dominere det digitale offentlige torget slik de gjør nå.

Hvis Facebook blir tvunget til å avhende WhatsApp og Instagram, kommer ikke det til å løse kjerneproblemet – evnen til disse store plattformene til enten å forsterke eller undertrykke visse typer politisk informasjon på en måte som potensielt kan påvirke et demokratisk valg.

Et dypere problem er imidlertid de inngrodde holdningene vi bringer til denne debatten. De fleste av oss behandler algoritmer som om de utgjør et gjenkjennelig onde som kan defineres og kontrolleres. Hva om de ikke er det? J. Nathan Matias, en forsker som har migrert fra humaniora til studiet av nettadferd, argumenterer for at algoritmer er totalt ulikt noe annet produkt utviklet av mennesker. Hvis du kjøper en bil fra Pennsylvania og kjører den til Connecticut, fortalte han oss, vet du at den vil fungere på samme måte begge steder. Og når noen andre tar førersetet, kommer motoren til å gjøre det den alltid har gjort. Algoritmer, derimot, endres etter hvert som menneskelig atferd endres. De ligner ikke bilene eller kullgruvene vi har regulert tidligere, men noe mer som bakteriene i tarmene våre, levende organismer som samhandler med oss. I et eksperiment observerte Matias for eksempel at når brukere på Reddit jobbet sammen for å promotere nyheter fra pålitelige kilder, begynte Reddit-algoritmen selv å prioritere innhold av høyere kvalitet. Den observasjonen kan peke oss i en bedre retning for internettstyring.

Matias har sitt eget laboratorium, Citizens and Technology Lab på Cornell, dedikert til å lage digitale teknologier som tjener det offentlige og ikke bare private selskaper. Han regner med at laboratorier som hans kan være en del av internettstyring i fremtiden, og støtte en ny generasjon medborgerforskere som kan samarbeide med selskapene for å forstå hvordan algoritmene deres fungerer, finne måter å holde dem ansvarlige hvis de nekter å samarbeide, og eksperimentere. med nye tilnærminger til å styre dem. Denne ideen, hevder han, er ikke noe ny: Så langt tilbake som på 1800-tallet har uavhengige forskere og forbrukerrettighetsforkjempere testet faktorer som styrken til lyspærer og effekten av legemidler, til og med oppfunnet forseggjorte maskiner for å teste holdbarheten til sokker. Som svar har selskaper forbedret produktene sine tilsvarende. Kanskje det er på tide å la uavhengige forskere teste virkningen av algoritmer, dele resultatene og – med publikums deltakelse – bestemme hvilke som er mest nyttige.

Dette prosjektet bør engasjere alle som bryr seg om helsen til demokratiet vårt. Matias ser på oppførselen til de tekniske plattformene som i hovedsak autoritær; på noen måter høres de mye mer ut som den kinesiske staten enn vi vanligvis antar. Både amerikanske teknologiplattformer og kinesiske byråkrater gjennomfører sosialingeniøreksperimenter i mørket; begge har mål som er forskjellige fra publikums. Inspirert av filosofen Karl Popper, det åpne samfunnets doyen og en kritiker av ugjennomsiktig sosial ingeniørkunst, mener Matias at vi ikke bare må ta kontroll over våre egne data, men også hjelpe til med å overvåke utformingen av algoritmiske eksperimenter, med individuell deltakelse og samtykke fra alle mulige beslutningsnivåer. For eksempel bør ofre for fordommer kunne bidra til å lage eksperimenter som utforsker hvordan algoritmer kan redusere rasisme. Rohingyaer i Myanmar bør kunne insistere på design av sosiale medier som ikke letter deres undertrykkelse. Russere, og for den saks skyld ikke-russere, bør kunne begrense mengden statlig propaganda de ser.

Denne typen dynamisk regulering ville løse et av de mest pinlige problemene for kommende regulatorer: For øyeblikket ligger de år bak vitenskapen. EUs første forsøk på å regulere Google Shopping ved hjelp av antitrustlovgivningen viste seg å være en enorm sløsing med tid; da regulatorer avsa sin dom, var den aktuelle teknologien blitt irrelevant. Andre forsøk er for fokusert på å bare bryte opp plattformene, som om det alene vil løse problemet. Dusinvis av amerikanske stater og justisdepartementet saksøker allerede Google for å ha slått inn markedene innen søk og digital annonsering, noe som ikke er overraskende, fordi oppløsningen av olje- og jernbaneselskapene er den progressive reguleringen alle lærte om på skolen. Likevel er ikke parallellene til det tidlige 1900-tallet eksakte. Historisk sett forsøkte antitrustregulering å bryte opp prissettingskarteller og redusere kostnadene for forbrukerne. Men i dette tilfellet er produktene gratis – forbrukere betaler ikke for å bruke Google eller Facebook. Og selv om det å bryte opp de store selskapene kan bidra til å diversifisere nettøkonomien, vil det ikke automatisk være bra for demokratiet. Hvorfor ville 20 datasugende desinformasjonsmaskiner være bedre enn én? Hvis Facebook blir tvunget til å avhende WhatsApp og Instagram, fortalte Fukuyama oss, det kommer ikke til å løse kjernespørsmålet – evnen til disse store plattformene til å enten forsterke eller undertrykke visse typer politisk informasjon på en måte som potensielt kan påvirke et demokratisk valg.

Den kanskje mest treffende historiske modellen for algoritmisk regulering er ikke tillitsbrudd, men miljøvern. For å forbedre økologien rundt en elv, er det ikke nok å bare regulere bedriftenes forurensning. Det vil heller ikke hjelpe å bare bryte opp de forurensende selskapene. Du må tenke på hvordan elva brukes av innbyggerne – hva slags boligbygg er bygget langs bredden, hva som transporteres opp og ned i elven – og fisken som svømmer i vannet. Fiskere, yachtseilere, økologer, eiendomsutviklere og beboere i området trenger alle å si noe. Bruk denne metaforen på nettverdenen: Politikere, borgerforskere, aktivister og vanlige mennesker vil alle måtte jobbe sammen for å styre en teknologi hvis innvirkning er avhengig av alles atferd, og som vil være like integrert i livene våre og våre økonomier som elver en gang var til fremveksten av tidlige sivilisasjoner.

GJENNOMFØRING AV DEN OFFENTLIGE Sfæren

Internett er ikke den første lovende teknologien som raskt har blitt dystopisk. Tidlig på 1900-tallet ble radio møtt med like mye entusiasme som internett var tidlig på 2000-tallet. Radio vil smelte sammen hele menneskeheten skrev Velimir Khlebnikov, en russisk futuristisk poet, på 1920-tallet. Radio ville koble mennesker sammen, avslutte krig, fremme fred!

Nesten umiddelbart lærte en generasjon autoritære å bruke radio for hatpropaganda og sosial kontroll. I Sovjetunionen braste radiohøyttalere i leiligheter og på gatehjørner kommunistisk agitprop. Nazistene introduserte Volksempfänger, en billig trådløs radio, for å kringkaste Hitlers taler; på 1930-tallet hadde Tyskland flere radioer per innbygger enn noe annet sted i verden.** I Amerika ble den nye informasjonssfæren ikke overtatt av staten, men av private medieselskaper som jaktet på rangeringer – og en av de beste måtene å få rangeringer på var å fremme hat. Hver uke ville mer enn 30 millioner stille inn på de pro-Hitler, antisemittiske radiosendingene til Father Charles Coughlin, Detroit-presten som til slutt vendte seg mot selve det amerikanske demokratiet.

I Storbritannia begynte John Reith, den visjonære sønnen til en skotsk prest, å lete etter et alternativ: radio som verken ble kontrollert av staten, slik den var i diktaturer, eller av polariserende, profittsøkende selskaper. Reiths idé var offentlig radio, finansiert av skattebetalerne, men uavhengig av myndighetene. Det ville ikke bare informere, utdanne og underholde; det ville lette demokratiet ved å bringe samfunnet sammen: Stemmen til ledere av tanke eller handling som kommer til bålet; verdensnyhetene for øret av det rustikke … fakta om store saker, hittil forvrengt av partipolitisk tolkning, nå direkte og tydelig foran dem; en retur av gamle bystat. Denne visjonen om en radiokringkaster som kunne skape en sammenhengende, men pluralistisk nasjonal samtale ble til slutt BBC , hvor Reith var den første generaldirektøren.

Reiths arv lever videre i en ny generasjon tenkere, blant dem Ethan Zuckerman, direktøren for Institute for Digital Public Infrastructure ved University of Massachusetts i Amherst og en teknisk veiviser som skrev koden som ligger til grunn for popup-annonsen , en av de største milepælene i veksten av nettannonsering. Delvis som bot, dedikerer Zuckerman nå tiden sin til å tenke på ideelle organisasjoner på nett som kan konkurrere med den kommersielle onlineverdenen han var med på å skape. Sosiale medier, fortalte han oss, er ødelagt: Jeg hjalp til med å bryte det. Nå er jeg interessert i å bygge nye systemer fra bunnen av. Og en del av det vi bør bygge er nettverk som har eksplisitt sosialt løfte.

Ved å påkalle eksemplet til Reiths BBC, forestiller Zuckerman seg sosiale medier som er utformet bevisst i allmennhetens interesse som kan fremme sivil diskurs, ikke bare absorbere oppmerksomheten og dataene dine, og som vil bidra til å redusere den sinte tonen i amerikansk debatt. Som bevis på at polarisering virkelig kan reduseres, nevnte Zuckerman, lånt fra en kollega, eksemplet med Quebec, den kanadiske provinsen som hadde blitt dypt polarisert mellom fransktalende som ønsket uavhengighet og engelsktalende som ønsket å forbli en del av Canada. Nå for tiden er Quebec gledelig kjedelig. Det tok enormt mye arbeid å få politikk til å bli så kjedelig, sa Zuckerman. Det innebar å legge reelle problemer på bordet som tvang folk til å samarbeide og inngå kompromisser. Han regner med at hvis i det minste en del av internett blir et sted der partiangrupper krangler om spesifikke problemer, ikke et sted hvor folk viser frem og paraderer identiteten sin, kan det også bli nyttig kjedelig. I stedet for å gjøre folk sinte, kan deltakelse i nettfora gi dem den samme samfunnsspenningen som rådhus eller sosiale klubber en gang gjorde. Elks Club-møter var det som ga oss erfaring med demokrati, sa han. Vi lærte å drive en organisasjon. Vi lærte hvordan vi skal håndtere uenighet. Vi lærte å være siviliserte mennesker som ikke stormer ut av en krangel.

Illustrasjon av Yoshi Sodeoka; bilde fra Universal History Archive / Getty

Versjoner av denne ideen finnes allerede. Et Vermont-basert nettsted, Front Porch Forum, brukes av omtrent en fjerdedel av statens innbyggere til all slags samfunnsaktivitet, fra naturkatastroferrespons til jobbjakt, så vel som samfunnsdiskusjoner. I stedet for å oppmuntre brukere til å samhandle så mye og så raskt som mulig, bremser Front Porch samtalen ned: Innleggene dine kommer online 24 timer etter at du har skrevet dem. Noen ganger henvender folk seg til moderatorene for å trekke tilbake noe som er sagt i sinne. Alle på forumet er ekte, og de må registrere seg med ekte Vermont-adresser. Når du går inn på siden, samhandler du med dine faktiske naboer, ikke online avatarer.

Selvfølgelig kan ikke modererte offentlige sosiale medier opprettes gratis. Den trenger finansiering, akkurat som BBC. Zuckerman foreslår å samle inn pengene gjennom en skatt på nettannonsering som samler inn mange brukerdata – kanskje en avgift på 2 prosent til å begynne med: De pengene skal gå inn i et fond som er analogt med Corporation for Public Broadcasting. Og det kommer til å være tilgjengelig for folk som ønsker å prøve forskjellige ideer om hvordan nettsamfunn kan se ut. Tanken er å så la tusen blomster blomstre – la folk søke om å bruke pengene til å skape ulike typer fellesskap – og se hvilke som blomstrer.

Større versjoner av fellesskapsfora eksisterer allerede også, spesielt i Taiwan, hvor de har blitt banebrytende av Audrey Tang, et vidunderbarn som ble en frafallende videregående skole som ble en Silicon Valley-entreprenør som ble en politisk aktivist som ble den digitale minister i Taiwan, rollen hun inntar i dag. Tang foretrekker å si at hun jobber med regjeringen, ikke til regjeringen; hennes medarbeidere får et rom for å danne en grov konsensus. Hun publiserer transkripsjoner av alle samtalene sine med nesten alle, inkludert oss, fordi staten må være åpen for innbyggerne.

Blant mange andre eksperimentelle prosjekter har Tang sponset bruken av programvare kalt Polis, oppfunnet i Seattle. Dette er en plattform som lar folk komme med tweet-lignende uttalelser på 140 tegn, og lar andre stemme på dem. Det er ingen svarfunksjon, og dermed ingen trolling eller personangrep. Etter hvert som uttalelser blir gjort, identifiserer systemet de som genererer mest enighet mellom ulike grupper. I stedet for å favorisere opprørende eller sjokkerende synspunkter, fremhever Polis-algoritmen konsensus.

Polis brukes ofte til å produsere anbefalinger for regjeringens handlinger. For eksempel, da den taiwanske regjeringen utformet en polisdebatt rundt emnet Uber, inkluderte deltakerne personer fra selskapet selv, så vel som fra de taiwanske taxiforeningene, som ble sinte over noe av Ubers oppførsel – og likevel ble det oppnådd enighet. Uber gikk med på å lære opp sjåførene og betale transportavgifter; Taiwan Taxi, en av landets største flåter, lovet å tilby bedre tjenester. Det er mulig å forestille seg en verden der lokale myndigheter holder slike nettbaserte konsultasjoner regelmessig, og dermed øker deltakelsen i politikk og gir folk litt innflytelse over samfunnet og miljøet.

Selvfølgelig fungerer dette systemet bare hvis ekte mennesker – ikke roboter – blir med i disse debattene. Anonymitet har sin plass på nettet, akkurat som i det virkelige liv: Den gir dissidenter i undertrykkende land en måte å snakke på. Anonymitet har også en lang og fremtredende historie i amerikansk politikk, tilbake til Federalist Papers , som ble signert med et kollektivt pseudonym, Publius. Men Publius har aldri tenkt seg en verden der anonyme kontoer som promoterer hashtaggen #stopthesteal kunne overbevise millioner av amerikanere om at Donald Trump vant valget i 2020.

En mulig løsning på anonymitetsproblemet kommer fra Ronaldo Lemos, den brasilianske advokaten som crowdsourcet landets internettlovgivning. Lemos tar til orde for et system kjent som selvsuveren identitet, som vil tilfalle gjennom symbolene på tillit bygget opp gjennom ulike aktiviteter – vitnemålet ditt, førerkortet ditt, arbeidet ditt – for å skape et bindevev av pålitelige kilder som beviser at du er ekte. . En selv-suveren identitet vil fortsatt tillate deg å bruke pseudonymer på nettet, men det vil forsikre alle andre om at du er et faktisk menneske, noe som gjør det mulig for plattformer å filtrere ut roboter. Den relative fremtredenen av ulike ideer i vår offentlige samtale vil mer nøyaktig gjenspeile hva virkelige mennesker egentlig tenker, og ikke hva en hær av roboter og troll promulgerer. Å løse nettidentitetsproblemet er selvfølgelig også en av nøklene til å bekjempe organiserte desinformasjonskampanjer.

Men når virkelige mennesker har beviselige identiteter, når regjeringer eller nettaktivister har opprettet gruppene og satt reglene, hvor mange mennesker vil egentlig ønske å delta i verdige nettbaserte samfunnsdiskusjoner? Selv i Taiwan, der Tang oppfordrer det hun kaller sosialsektoren til å engasjere seg i styringen, er det ikke lett. Ttcat, en taiwansk hacktivist hvis arbeid innebærer å motvirke desinformasjonskampanjer, og som har samarbeidet mye med Tang, fortalte oss at han bekymrer seg over at antallet personer som bruker Polis fortsatt er for lavt. De fleste har fortsatt sine politiske diskusjoner på Facebook. Tiago C. Peixoto, en Mosambik-basert statsviter som fremmer deltakerdemokrati på nett rundt om i verden, mener at problemene må være høyere om folk skal bli med i forumene. Peixoto har utviklet prosjekter som for eksempel kan la innbyggerne hjelpe til med å sette sammen et bybudsjett. Men de ville kreve at politikere avgir reell makt, noe som ikke er noe mange politikere liker å gjøre. Selv utover det, er det sikkert berettiget en viss skepsis til foraenes tiltrekning: Er vi ikke alle avhengige av raseriet og kulturkrigene som er tilgjengelige på sosiale medier? Bruker vi ikke sosiale medier for å prestere, eller for å signalisere eller uttrykke identitet – og liker vi det ikke slik?

Kan være. Eller kanskje vi tenker slik bare fordi vi mangler fantasi til å tenke annerledes. Det er konklusjonen trukket av Eli Pariser, en av grunnleggerne av Avaaz og Upworthy, to nettsteder designet for å fremme politisk engasjement på nettet, og Talia Stroud, direktøren for Center for Media Engagement ved University of Texas i Austin. Pariser og Stroud har brukt de siste årene kjører meningsmålinger og fokusgrupper i 20 land , prøver å finne ut hva folk faktisk vil ha fra internett deres, og hvordan det stemmer overens med det de har. Blant annet fant de ut at Twitter-superbrukere – folk som bruker Twitter mer enn andre sosiale medier – vurderer plattformen høyt for å få dem til å føle seg tilkoblet, men gir den lave karakterer for å oppmuntre til menneskeliggjøring av andre, sikre folks sikkerhet og produsere pålitelig informasjon. YouTube-superbrukere bryr seg om å invitere alle til å delta, og de liker at plattformen gjør det, men de synes ikke den gjør en god jobb med å gi pålitelig informasjon. Facebook-superbrukere har den samme frykten, og er ikke overbevist om at plattformen holder personlig informasjon sikker, selv om Facebook hevder at den har mange verktøy på plass for å beskytte brukernes informasjon, og sier at den ikke deler denne informasjonen uten brukernes tillatelse. Pariser og Strouds forskning tyder på at den nåværende menyen med alternativer ikke tilfredsstiller oss helt. Folk er ivrige etter alternativer – og de ønsker å hjelpe til med å finne dem opp.

Tidlig i januar, mens Amerika ble forvirret av en uhyggelig krise utført av mennesker som hadde absorbert paranoide konspirasjonsteorier på nettet, arrangerte Pariser og Stroud en virtuell festival de beskrev som en sending fra fremtiden til det digitale offentlige rom. Designere som bygger annonsefrie sosiale medier som ikke trekker ut dataene dine, chattet med ingeniører som designer apper som filtrerer bort trakassering på Twitter. Selv mens menn i paramilitære kostymer la ut bilder av seg selv som knuste Capitol, var Pariser og Stroud vertskap for diskusjoner om hvordan man bygger algoritmer som favoriserer nettforbindelse, empati og forståelse, og hvordan man kan designe nettsamfunn som favoriserer bevis, ro og respekt. over desinformasjon, forargelse og vitriol. En av festivaltalerne var Deb Roy, en tidligere sjef medieforsker ved Twitter, som nå er professor ved MIT. I januar lanserte han et nytt senter rettet mot å skape teknologi som fremmer konstruktiv kommunikasjon – for eksempel algoritmer designet for å overvinne skiller.

Ingen av disse initiativene vil noen gang bli den nye Facebook-men det er akkurat poenget. De er ment å løse spesifikke problemer, ikke å skape enda en monolitisk megaplattform. Dette er hjertet av Pariser og Strouds visjon, den som deles av Zuckerman og Tang. Akkurat som John Reith en gang så på radio som en måte å gjenskape den gamle bystaten, argumenterer Pariser og Stroud for at vi bør tenke på cyberspace som et urbant miljø. Ingen ønsker å bo i en by der alt eies av noen få gigantiske selskaper, som ikke består av annet enn kjøpesentre og reklametavler – men det er i hovedsak hva internett har blitt. For å blomstre trenger demokratiske byer parker og biblioteker, varehus og gatemarkeder, skoler og politistasjoner, fortau og kunstgallerier. Som den store urbane tenkeren Jane Jacobs skrev, hjelper den beste urbane designen folk til å samhandle med hverandre, og den beste arkitekturen legger til rette for den beste samtalen. Det samme gjelder internett.

Hvis vi skulle besøkedenne demokratiske fremtidens nettby, hvordan kan den se ut? Det ville ikke være anarki, eller en villmark. Snarere kan vi finne, som Tocqueville skrev i sin beskrivelse av Amerika på 1830-tallet, ikke bare kommersielle og industrielle foreninger der alle deltar, men også tusen andre typer: religiøse, moralske, alvorlige, fåfengte, veldig generelle og veldig spesielle, enorm og veldig liten. Vi kan oppdage tusenvis av deltakende township-institusjoner av typen som ble pioneret av Tang, bebodd av ekte mennesker som bruker de sikre identitetene foreslått av Lemos – alle deler ideer og meninger uten digital manipulasjon eller forvrengning, takket være innbyggerforskerne Matias har undervist å jobbe med algoritmene. I denne byen vil regjeringen gi makt til innbyggere som bruker digitale verktøy for å engasjere seg i budsjetter og byggeprosjekter, skoler og miljø.

Slipp fantasien løs: Hva ville det egentlig bety å ha menneskerettigheter på nett? I stedet for å gi private selskaper den endelige avgjørelsen om hvem sine kontoer – enten din eller presidentens – som skal slettes, kan det bety at nettborgere kan henvende seg til en domstol som vil undersøke om de brøt tjenestevilkårene deres. Det vil også bety å ha ansvaret for dine egne data. Du kan gi medisinere all informasjonen de trenger for å bekjempe sykdommer, for eksempel, men vil også være garantert at disse dataene ikke kan brukes på nytt. Hvis du skulle se reklame, politisk eller på annen måte, ville du ha rett til å vite ikke bare hvem som sto bak, men hvordan dataene dine ble brukt for å målrette deg spesifikt.

Det er også andre mulige fordeler. Å gjenoppbygge et samfunnsmessig sunnere internett vil gi oss felles sak med våre gamle allianser, og bidra til å bygge nye. Våre relasjoner med Europa og med demokratiene i Asia, som så ofte føles foreldet, ville ha et nytt senter og fokus: Sammen kunne vi skape denne teknologien, og sammen kunne vi tilby den til verden som et styrkende alternativ til Kinas lukkede internett, og til Russlands forvrengte desinformasjonsmaskin. Vi ville ha noe å tilby beleirede demokrater, fra Moskva til Minsk til Hong Kong: håpet om et mer demokratisk offentlig rom.

Heldigvis er ikke denne fremtidige demokratiske byen en fjern utopi. Dens trekk stammer ikke fra en abstrakt storslått teori, men fra harde erfaringer. Vi glemmer ofte at den amerikanske grunnloven var et produkt av et tiår med fiasko. I 1789 visste forfatterne nøyaktig hvor dårlig konføderasjonen hadde vært, og de forsto hva som måtte fikses. Vårt nye internett vil også omfatte alle leksjonene vi så bittert har lært, ikke bare de siste 20 årene, men i de nesten to århundrene siden Tocqueville skrev sin berømte bok. Vi vet nå at cyberspace til slutt ikke unnslapp arven fra John Perry Barlows slitne giganter av kjøtt og stål. Den rekapitulerte bare fortidens patologier: finansielle bobler, utnyttende kommersialisering, ond polarisering, angrep fra diktaturer, kriminalitet.

Men dette er problemer demokratier har løst før. Løsningene er i vår historie, i vårt DNA, i våre egne minner om hvordan vi har fikset ødelagte systemer i andre tidsepoker. Internett var fremtiden en gang, og det kan det være igjen, hvis vi husker Reith og Roosevelt, Popper og Jacobs – hvis vi bruker det beste fra fortiden til nåtiden.


* På grunn av en redigeringsfeil, uttalte denne artikkelen opprinnelig at sitatet til Tristan Harris kom fra et intervju med forfatterne. Faktisk skrev Harris det i en nylig essay .
**
Denne artikkelen har tidligere uttalt at Volksempfänger-radioen var transistorbasert. Faktisk var det rørbasert.

Denne artikkelen vises i den trykte utgaven av april 2021 med overskriften The Internet Doesn't Have to Be Awful.