Šta bi bilo potrebno da svetska totalitarna vlada preuzme neograničenu vlast? Ovaj scenario noćne more možda je bliži nego što se čini.
Kako bi izgledale totalitarne vlade iz prošlosti da nikada nisu poražene? Nacisti su poslovali tehnologijom 20. veka i još je bio potreban svetski rat da ih zaustavi. Koliko su moćniji – i trajniji – mogli biti nacisti da su potukli SAD atomskom bombom? Kontrola najnaprednije tehnologije tog doba mogla je učvrstiti nacističku moć i promeniti tok istorije. Kad razmišljamo o egzistencijalnim rizicima, često nam padnu na pamet događaji poput nuklearnog rata ili udara asteroida.
Ipak, postoji jedna buduća pretnja koja je manje poznata – i iako ne uključuje izumiranje naše vrste, mogla bi biti jednako loša. Zove se scenario „sveta u lancima“, gde, kao i prethodni misaoni eksperiment, globalna totalitarna vlada koristi novu tehnologiju da zaključa većinu sveta u trajnu patnju. Ako zvuči mračno, bili biste u pravu. Ali da li je verovatno?
Istraživači i filozofi počinju da razmišljaju o tome kako bi moglo to toga doći – i, što je još važnije, šta možemo učiniti da to izbegnemo. Egzistencijalni rizici (x-rizici) su pogubni jer zatvaraju čovečanstvo u jednu sudbinu, poput trajnog kolapsa civilizacije ili izumiranja naše vrste. Te katastrofe mogu imati prirodne uzroke, poput udara asteroida ili supervulkana, ili ih može stvoriti čovek iz izvora poput nuklearnog rata ili klimatskih promena. Dopuštanje da se to dogodi bio bi „bedan kraj ljudske priče“ i izneverilo bi stotine generacija koje su došle pre nas, kaže Hejdn Belfild, rukovodilac akademskog projekta u Centru za proučavanje egzistencijalnog rizika na Univerzitetu u Kembridžu.
Tobi Ord, viši naučni istraživač na Institutu za budućnost čovečanstva (FHI) na Univerzitetu Oksford, veruje da su šanse za egzistencijalnu katastrofu koja se ovog veka dogodila iz prirodnih razloga manje od jedan prema dve hiljade, jer su ljudi preživeli dve hiljade vekova bez ijedne takve. Međutim, kada doda verovatnoću katastrofa koje izaziva čovek, Ord veruje da se šanse povećavaju na zapanjujućih jedan prema šest. Ovaj vek naziva „provalijom“, jer rizik od gubitka budućnosti nikada nije bio tako visok.
Istraživači iz Centra za dugoročni rizik, neprofitnog istraživačkog instituta u Londonu, proširili su x-rizike sa još hladnijom mogućnošću pretrpljenja rizika.
Ovi „s-rizici“ su definisani kao „patnja u astronomskim razmerama, koja znatno premašuje sve patnje koje su do sada postojale na Zemlji“. U tim scenarijima život se nastavlja za milijarde ljudi, ali kvalitet je tako nizak, a izgledi tako mračni da bi odumiranje bilo poželjnije.
Ukratko: budućnost sa negativnom vrednošću je gora od one koja uopšte nema vrednost. Tu dolazi do scenarija „sveta u lancima“.
Ako bi zlonamerna grupa ili vlada iznenada stekla moć kojom dominira svetom tehnološkim putem i nije bilo ničega što bi joj stalo na put, to bi moglo dovesti do produženog perioda stradanja i potčinjavanja. Izveštaj iz 2017. o egzistencijalnim rizicima iz Projekta globalnih prioriteta, zajedno sa FHIi Ministarstvom spoljnih poslova Finske, upozorava da bi „duga budućnost u posebno brutalnoj svetskoj totalitarnoj državi mogla biti gora od potpunog izumiranja“.
Hipoteza singltona
Iako je svetski totalitarizam još uvek niša tema proučavanja, istraživači na polju egzistencijalnog rizika sve više usmeravaju pažnju na njegov najverovatniji uzrok: veštačku inteligenciju.
U „singlton hipotezi“ Nik Bostrom, direktor Oksfordovog FHI-ja, objasnio je kako bi se svetska vlada mogla formirati pomoću veštačke inteligencije ili drugih moćnih tehnologija – i zašto bi to moglo biti nemoguće srušiti. Piše da bi se mogao dogoditi svet sa „jedinstvenom agencijom za donošenje odluka na najvišem nivou“, ako ta agencija „odlučno dovede do tehnološkog proboja u veštačkoj inteligenciji ili molekularnoj nanotehnologiji“. Jednom kad je nadležna, kontrolisaće napredak tehnologije koja sprečava unutrašnje izazove, poput nadzora ili autonomnog oružja, i, uz ovaj monopol, ostaje trajno stabilna.
Ako je singlton totalitarni, život bi bio mračan. Čak i u zemljama sa najstrožim režimima, vesti „procure“ i uđu iz drugih zemalja i ljudi mogu pobeći. Svetska totalitarna vladavina uklonila bi čak i ovo malo seme nade.Da bude gore od izumiranja, „to bi značilo da ne osećamo apsolutno nikakvu slobodu, privatnost, nadu u bekstvo, nikakvu agenciju koja bi uopšte kontrolisala naše živote“, kaže Taker Dejvi, pisac sa Instituta za budućnost života u Masačusetsu, koji se fokusira na istraživanje egzistencijalnog rizika.
„U totalitarnim režimima u prošlosti, bilo je toliko paranoje i psihološke patnje, jer jednostavno nemate pojma hoćete li biti ubijeni zbog pogrešne reči“, nastavlja on.
„A sada zamislite da čak uopšte nema pitanja, svaka stvar koju kažete prijavljuje se i analizira.“
„Možda još uvek nemamo tehnologije za to“, rekao je Ord u nedavnom intervjuu, „ali izgleda da vrste tehnologija koje razvijamo to čine lakšim i lakšim. Čini se verovatnim da bi to moglo postati moguće tokom sledećih sto godina.“
Izvor: BBC na srpskom, priredila: Ksenija Radonjić
