Društvena zabluda

Facebook i Google prikupljaju ogromne količine podataka o nama i koriste dotične informacije ne samo kako bi nam prodavali reklame, već i kako bi nas učinili ovisnima o svojim platformama, udaljili od obitelji i prijatelja te ispunili naše umove štetnim teorijama zavjere. Ili nas barem u to želi uvjeriti jedan novi dokumentarni film.

Društvena dilema izašla je na Netflixu početkom rujna i smjesta se našla na njegovoj listi top deset nagledanijeg sadržaja. U filmu su intervjuirane osobe koje su prije radile u big tech kompanijama, ali su sada progledale, zajedno s istraživačima iz drugih područja koji podupiru ideju da je „nadzorni kapitalizam” egzistencijalna prijetnja našim društvima.

Međutim, ovaj tehnodeterministički narativ itekako preuveličava kapacitete prikupljanja podataka i algoritama, i pritom tehnologiju okrivljava za čitav niz problema čiji korijeni leže u mnogo temeljnijim socijalnim i ekonomskim uvjetima suvremenog društva. Važno je razumjeti na koje načine ove tehnologije utječu na nas, kako osobno, tako i kolektivno, ali zanemarivanje dulje povijesti tih problema i širih struktura koje im doprinose dovest će nas do rješenja koja zapravo ne sežu do temeljnih uzroka.

Richard Barbrook i Andy Cameron su 1995. godine dali pregled onoga što su nazvali „kalifornijskom ideologijom”. U Silicijskoj dolini „discipline tržišne ekonomije i slobode hipijevskog zanatstva” združile su se s „gotovo univerzalnim vjerovanjem u tehnološki determinizam” kako bi stvorili libertarijansku ideologiju koja je vjerovala da boljitak čovječanstva neće nastupiti putem „društvenih, političkih i pravnih struktura moći”, već putem slobodnog tržišta i neprekidnog razvoja novih tehnologija.

„Politička rasprava je stoga gubitak vremena”, objasnili su, i samo bi ometala tehnološki napredak. Bila je to mješavina neoliberalizma i tehnologije.

Nema sumnje da se posljednjih godina popularno stajalište o ulozi politike u odnosu na tehnologiju počinje mijenjati među onima u Silicijskoj dolini, osobito onima koji ne zauzimaju izvršne položaje u tehnološkim monopolima ili investicijskim firmama. No, to ne znači da tehnodeterminizam još uvijek ne igra važnu ulogu u oblikovanju načina na koji vidimo tehnologiju i njezine potencijalne učinke – u Silicijskoj dolini i šire.

Kako je tehnološka industrija izrasla u ekonomskog moloha, progurala je svoj tehnodeterministički narativ daleko van Zaljevskog područja, do te mjere da ga često ponavljaju srednjostrujaške medijske organizacije i političari. Svaka nova tehnološka žrtva navodno bi trebala poboljšati naše živote, od pametnog telefona do pametnog grada, a kritičke perspektive ovih tehnologija koje su se protivile tome narativu dugo su gurane na marginu. To se tek sada počinje mijenjati.

U Društvenoj dilemi tehnodeterminizam i dalje pokreće narativ, ali je njegova osnovna premisa obrnuta. Umjesto da smatraju da tehnologija svijet čini boljim, većina ljudi u filmu uviđa da se u našem društvu događaju negativne stvari, a s obzirom na to kroz koju prizmu promatraju svijet, mora da je tehnologija srž problema.

Ovo je pojačano dramatičnom pričom koja se odigrava između intervjua, koja prati obitelj čija djeca postaju sve više ovisna o svojim telefonima dok ljudi u zamišljenom centru za kontrolu algoritama upravljaju sadržajem i notifikacijama kako bi ih držali okupiranima i prodavali im reklame.

Evgeny Morozov, autor knjige To Save Everything Click Here: The Folly of Technological Solutionism, objašnjava kako ovo ograničeno viđenje svijeta dovodi do „uskogrudnih rješenja – tip stvari koje oduševljavaju publiku na TED konferencijama – za probleme koji su krajnje složeni, fluidni i prijeporni”. Dapače, i u samome filmu je prikazana prezentacija nalik na TED izlaganje.

Živimo u svijetu koji se suočava s mnogim društvenim i ekonomskim izazovima, ali ako ih svedemo na Facebook i Google, odnosno podatke i algoritme, od drveta ne vidimo šmu.

Cory Doctorow je u kolovozu objavio članak How to Destroy Surveillance Capitalism, u kojemu sustavno demontira upravo one ideje koje forsira Društvena dilema. Dio problema nadzornog kapitalizma jest taj što se previše usredotočuje na aspekt nadzora, a premalo na sam kapitalizam.

Doctorow otkriva kako se tvrdnje da ogromne količine podataka i algoritmi kojima upravljaju stvaraju tehnološke sustave za kontrolu uma ne temelje na znanstvenim činjenicama, već na marketinškim tvrdnjama tvrtki poput Facebooka i Googlea s ciljem uvjeravanja oglašivača da novac troše na njihovim platformama.

U svojoj knjizi Subprime Attention Crisis: Advertising and the Time Bomb at the Heart of the Internet, Tim Hwang objašnjava da su, unatoč svim tvrdnjama o sposobnostima targetinga uz pomoć svih tih novih podataka, online reklame nevjerojatno neučinkovite, a dio razloga zašto to mnogi ne uviđaju jest činjenica da postoji vrlo malo transparentnosti na tržištima digitalnih reklama. To omogućuje ovim tehnološkim tvrtkama da se odvažno samoreklamiraju dok, tvrdi Doctorow, „ostaju nekažnjeni za nevjerojatna pretjerana obećanja i nedostatno ispunjavanje istih”.

No, ovaj dokumentarni film pokazuje da nije sposoban nositi se s tom činjenicom, niti sagledati širu perspektivu izvan ovog manjkavog tehnodeterminističkog okvira. Primjerice, tehnološku industriju se odavna kritizira zbog manjka širih perspektiva koje nude društvene i humanističke znanosti, posebno s obzirom na to kako se današnji trendovi uklapaju u povijesne promjene.

U jednom trenutku Tristan Harris, bivši Googleov etičar dizajna koji postaje središnji lik ovog dokumentarca, iznosi argument o tome kako tehnologije temeljene na alatima nisu izazvale istu vrstu bijesa kao one zasnovane na ovisnosti i manipulaciji. Koristi primjer bicikla i tvrdi kako se „nitko nije uznemirio” ili rekao „uništili smo društvo” kad je postao popularan – osim što to nije istina. Kada su se bicikli pojavili u devetnaestom stoljeću, izazvali su oštre kritike zbog slobode koju su pružili ženama.

Slično tome, ovaj dokumentarni film forsira poprilično raširenu ideju da društveni mediji stvaraju društvenu podjelu i političku pristranost i tretira to kao novi razvoj događaja. Društveni mediji nedvojbeno imaju utjecaja, uz mogućnost filtriranja informacija i Facebookovo privilegiranje desničarskih sadržaja, ali nisu odlučujući čimbenik koji oblikuje politiku i društvo.

Društvena dilema ne zanemaruje samo prošlost, već također predstavlja i iskrivljen pogled na sadašnjost. Ako je teza filma točna, tada bi negativni učinci u društvu trebali proizlaziti samo s platformi koje koriste model prikupljanja podataka i algoritamskog uređivanja sadržaja, no to nije slučaj.

Na primjer, u Brazilu i Indiji WhatsApp se često krivi za širenje lažnih vijesti i desničarskih narativa, no, kako objašnjava Adi Robertson, „WhatsApp ima jako malo sličnosti s Facebookom. To je vrlo privatna, kodirana usluga razmjene poruka bez algoritamskih interferencija, a i dalje je plodno tlo za lažne narative.” Također ističe kako mnogi značajni ekstremno desni agresori u posljednjih nekoliko godina nisu proizvod Facebooka ili YouTubea, već su radikalizirani na manjim platformama bez takvog algoritamskog uređivanja sadržaja ili čak motiva za zaradu, poput 4chana, 8chana, Gaba i Stormfronta.

Sve nam ovo govori da svođenje rastućih društvenih problema na nove tehnologije jednostavno nije ispravno. Ako problem uokvirimo na taj način, može se činiti da će, ako stvorimo bolje platforme, naši problemi biti riješeni – ali ako platforme reagiraju na ekonomske poticaje kapitalističkog sustava, možda bi upravo to valjalo pobliže istražiti.

Bismo li trebali vjerovati da je društvena polarizacija proizvod Facebooka, a ne činjenice da se dohodovna nejednakost vratila na razinu prije Velike depresije (i vjerojatno je puno gora zbog pandemije)?

Bismo li trebali vjerovati da je nepovjerenje u elite i političare rezultat Googleovih rezultata pretraživanja, a ne činjenice da politički sustav ne odgovara potrebama velike većine stanovništva, dok vlada dopušta industriji da se sama regulira, što dovodi do tragedija poput Boeinga 737 MAX?

Bismo li trebali vjerovati da je rasap zajednica i osobnih odnosa rezultat pametnih algoritama, a ne činjenice da je kapitalizam komercijalizirao većinu aspekata naših života, desetkovao javne prostore i pobrinuo se za to da su naše zajednice izgrađene na takav način da se većina ljudi odvaja u predgrađa usmjerena na sebe same?

Mislim da znate odgovor.

Facebook i Google nisu dobronamjerni akteri. Uz svoju moć monopola i način na koji upravljaju svojim platformama, imaju negativan utjecaj na naša društva. No, pripisivanje tolikih naših društvenih i ekonomskih problema tehnologiji – a ne kapitalističkom ekonomskom sustavu – ukazuje na nemogućnost sagledavanja šire slike.

Pretkraj Društvene dileme, bivši Googleov voditelj proizvoda Justin Rosenstein iznosi kritički argument o kapitalizmu, ali nakon više od jednog sata utuvljivanja narativa o tome kako su podaci i algoritmi problem, ne uspijeva se probiti. Neki od ostalih navodnih stručnjaka predlažu regulaciju i sugeriraju da bi ljudi trebali obrisati svoje račune na društvenim mrežama – ali to su prilagodbe i pojedinačni odgovori na mnogo dublji problem.

Bailey Richardson, jedna od izvornih zaposlenica Instagrama, objašnjava da je internet nekada bio neobičniji i kreativniji, ali sada se čini poput divovskog trgovačkog centra. I dok film uokviruje ove promjene kao rezultat odluka inženjera koji sada trebaju snositi odgovornost da ih isprave, standardizacija weba izravan je rezultat njegove komercijalizacije. Stvaranje ovih masivnih platformi je način na koji velike tvrtke od njih ostvaruju masovnu dobit – a najbolji način da se to promijeni je sučeljavanje s tom osnovnijom strukturom

U konačnici, bolji internet nije samo pitanje veće konkurencije ili ograničavanja prikupljanja podataka i nadzora. Moramo shvatiti da je internet proizvod javnog financiranja i istraživanja, a možda i njegovo poboljšanje zahtijeva povratak nekomercijalnijoj strukturi u kojoj javne tvrtke posjeduju ključne infrastrukturne dijelove, zadruge upravljaju nizom platformi uz daleko drugačiju motivaciju s obzirom na izostanak profita, a obični ljudi mogu surađivati ​​na novim digitalnim alatima bez komercijalnog imperativa. No, to će također zahtijevati promjene širih političkih i ekonomskih struktura.

Društvena dilema ostavlja dojam liberalne tehnodeterminističke propagande skupine ljudi koji su se nevjerojatno obogatili radeći za ove tehnološke tvrtke i sada grade nove karijere ističući ono što smatraju njenim manama. Međutim, način na koji uokviruju ovaj problem tehnologiji i dalje pripisuje neku vrstu snažne čarobne moći koja nas odvlači od dubljih socijalnih i ekonomskih problema koji zahvaćaju naša društva.