„Ne vjerujem u čist položaj čovjeka izvan sustava. Koristim iste alate koje kritiziram i upravo je ta proturječnost pošteno polazište. Ni kazalište se ne nalazi na nekoj sigurnoj obali s koje promatra tehnološku katastrofu. Ono ovisi o digitalnoj distribuciji, platformama, računalima, tehničkoj opremi i institucijama koje također djeluju unutar istih ekonomskih odnosa“, kaže redatelj i osnivač umjetničkog kolektiva Montažstroj Borut Šeparović u nastavku razgovora za P-portal.

Stručni konzultanti za vašu predstavu „Slijepi vode slijepe” rekli su da će vrlo razvijena umjetna inteligencija u skoroj budućnosti dominirati čovjekovim resursima, načinom života i njegovim odlukama. Kako će vaše kazalište odgovoriti na izazov tog dominantno artificijelnog svijeta?

U promišljanju predstave sudjelovali su Jan Šnajder, redoviti profesor na zagrebačkom FER-u i voditelj TakeLaba, te Branimir Ćaran, istraživač i doktorand iz područja napredne robotike i autonomnih sustava u odjelu CRTA pri Fakultetu strojarstva i brodogradnje. Njihovi tehnički i znanstveni uvidi nisu bili ukras uz našu već završenu koncepciju. Uključili smo ih tijekom rada, kada su se naša pitanja još mogla mijenjati. Oni su nas naime trebali zaustaviti kada metafora počne glumiti činjenicu.

Koja ste specijalistička znanja ove dvojice stručnjaka koristili u predstavi?

Šnajderovo područje otvara problem jezika. Jezični model proizvodi odgovor i na ekranu stvara dojam sugovornika, iako nema tijelo ni osobno iskustvo. Ta je razlika lako zaboravljiva jer se susret odvija upravo u jeziku, ondje gdje smo navikli prepoznavati drugu osobu. Ćaran radi s autonomnim sustavima koji opažaju okolinu, kreću se i djeluju u fizičkom prostoru. Tu više nije riječ samo o odgovoru na ekranu, nego o strojnom tijelu koje može djelovati bez neposredne ljudske naredbe. U predstavi nas je zanimalo što se događa kada se jezik bez tijela susretne s tijelom bez jezika.

Koliko su korisni bili njihovi stručni savjeti?

Upozorenje koje se otvorilo u tim razgovorima nisam shvatio kao proročanstvo da će se stroj jednoga jutra probuditi i poželjeti zavladati čovjekom. Umjetna inteligencija nema vlasništvo nad računalnom infrastrukturom. Ona ne posjeduje elektrane, podatkovne centre ni političke institucije. Sve to posjeduju i uređuju korporacije i države, ljudi koji donose poslovne i političke odluke.

Tko upravlja algoritmom?

Kako bi glasila vaša generalna teza o odnosu čovjeka i umjetne inteligencije?

Tvrdnju da će AI dominirati resursima ja razumijem kao pitanje ljudske kontrole nad AI-em. Oni koji kontroliraju modele i infrastrukturu sve snažnije posreduju naš pristup informacijama i znanju. Utječu na uvjete rada. Njihove procjene mogu odlučivati tko će dobiti kredit, posao, zdravstvenu skrb ili policijsku pozornost. Sustav se pritom pojavljuje kao tehnički posrednik, čak i kada je u njega ugrađena vrlo određena odluka o tome što je normalno, korisno ili rizično.

Govorite o političkoj dominaciji?

Takva dominacija ne mora izgledati kao nasilno preuzimanje vlasti. Možemo je prihvatiti iz umora, zbog brzine ili zato što nam je obećano oslobađanje od dosadnog dijela odlučivanja. Najprije sustavu prepustimo ono što smatramo sitnim procjenama. Nakon nekog vremena bez njega više ne možemo dobiti posao, doći do publike ili dokazati da nismo rizik. Čovjek formalno još donosi odluke, ali granice mogućeg izbora postavljene su ranije i negdje drugdje.

Što sve u sebi krije pojam „artificijelni svijet“?

Izraz „artificijelni svijet” mi je pomalo varljiv. Iza prividno bestjelesnog oblaka nalaze se rudnici iz kojih dolaze potrebni materijali, podmorski kabeli, elektrane i podatkovni centri. Tu je golema potrošnja energije. Tu je i rad ljudi koji označavaju podatke, moderiraju najgori sadržaj i održavaju sustave, često daleko od mjesta na kojem se ubire najveća dobit. Ništa od toga nije nematerijalno. Umjetna inteligencija samo se vrlo uspješno predstavlja kao da je odvojena od vlastitih fizičkih uvjeta.

Ali umjetna inteligencija se već duboko umiješala u konkretan ljudski život?

Još 2004. pisao sam da chatterbot ili računalni program koji simulira ljudski razgovor putem teksta ili glasa može biti zamjena za čovjeka, da može izvoditi uživo premda nije živ i da, za razliku od organskog izvođača, ne umire pred našim očima. Tada je to bilo teorijsko pitanje vezano uz vrlo primitivne programe. Danas ljudi razgovaraju s AI partnerima, održavaju emocionalne odnose sa sustavima i razvijaju programe koji govore glasom umrle osobe. Digitalni dvojnik više nije samo spekulacija o budućnosti. Možemo ga proizvesti iz nečijih fotografija, snimki glasa i tekstova koje je ostavio iza sebe.

O tome govori vaša predstava „Solaris Dva“…

Predstava „Solaris Dva” tu postaje vrlo sadašnja priča. Solarisov ocean ne vraća voljenu osobu. Proizvodi nešto iz sjećanja, krivnje i želje onoga koji ga promatra. Današnja infrastruktura može učiniti nešto slično s podacima koje ostavljamo. Vraća nam sliku koja je dovoljno bliska da u njoj prepoznamo drugoga, ali je istodobno sastavljena prema obrascima koje ne vidimo. Mene zanima što čovjek radi s takvom prisutnošću i što je spreman zaboraviti kako bi u nju povjerovao.

Kazalište pred strojem

Što bi u svemu tome bila misija današnjeg kazališta?

Kazalište može nevidljivi sustav vratiti među ljudska tijela. U mojoj predstavi „Slijepi vode slijepe” apstraktno pitanje algoritamskog vodstva postaje lanac ljudi koji ne znaju tko ih vodi ni kamo idu. U „Solarisu Dva” jedno se lice razdvaja na filmsko, živo i sintetičko, dok robot dijeli prostor s izvođačima. Publika ne dobiva dijagram sustava. Ona gleda tek posljedice: i to je način na koji se živi ljudi ponašaju kada povjeruju da stroj misli, zna ili odlučuje bolje od njih.

Što vi kao redatelj takve predstave želite postići?

Ne vjerujem u čist položaj čovjeka izvan sustava. Koristim iste alate koje kritiziram i upravo je ta proturječnost pošteno polazište. Ni kazalište se ne nalazi na nekoj sigurnoj obali s koje promatra tehnološku katastrofu. Ono ovisi o digitalnoj distribuciji, platformama, računalima, tehničkoj opremi i institucijama koje također djeluju unutar istih ekonomskih odnosa.

Ne djeluje baš optimistično?

Moje kazalište ne može obećati izlaz iz tehno-feudalizma. Može pokazati njegov mehanizam, pukotine i vlastitu upletenost. Može odbiti glatku iluziju autonomnog stroja i vratiti odgovornost čovjeku koji je postavio pitanje, odabrao rezultat i odlučio kako će ga upotrijebiti. Kada sustav pogriješi, nije dovoljno reći da je to učinio algoritam. Netko je odlučio koristiti taj sustav, prihvatiti njegov rezultat i primijeniti ga na drugu osobu. To je mjesto na kojem kazalište može intervenirati. Ne mora nuditi utjehu da će čovjek na kraju sigurno pobijediti. Ali može podsjetiti da je odluka o tome što ćemo s tehnologijom učiniti još uvijek – barem djelomično – naša.

Granice napretka

Ipak, čini se da se nalazimo na pragu transhumane civilizacije. U takvoj perspektivi postoje i takva današnja razmišljanja o mogućnosti života malih zajednica „starog svijeta” koje bi ustrajale na solidarnosti, prijateljstvu i igri. Što biste vi rekli na takvu mogućnost?

Nisam siguran da transhumanu civilizaciju trebamo prihvatiti kao prirodnu i neizbježnu sljedeću etapu ljudskog razvoja. Sama riječ „transhumanizam” često preskače pitanje tko si uopće može priuštiti tehnološko nadilaženje vlastitih ograničenja. Jedni će možda kupovati dulji život, bolje kognitivne sposobnosti i zaštitu vlastitih podataka. Drugi će biti sirovina od koje se ti sustavi grade ili radna snaga koja im služi. Posthumana budućnost bez prethodno riješenog pitanja jednakosti lako može postati samo radikalizirana klasna podjela.

Ali čini se mnogim ljudima danas da smo prešli civilizacijski prag svijeta u kojem smo još do jučer živjeli… 

Taj se prag ne prelazi jednim dramatičnim događajem. Prelazimo ga svakodnevno. Pristanemo da algoritam vodi našu pažnju jer je tako jednostavnije pronaći sljedeću sliku ili vijest. Efikasnost počinjemo prihvaćati kao vrhunsku vrijednost i ondje gdje ona ne bi smjela biti jedina mjera. Pamćenje predajemo stroju. Tijelo sve češće promatramo kao skup podataka koji treba pratiti i optimizirati. Svaka od tih odluka može izgledati bezazleno kada je promatramo odvojeno.

Kako god bilo, kako će ljudi živjeti u budućnosti, praktično već sutra?

Tekst „Izvedba u digitalno doba” završio sam 2004. jednom dilemom, oslanjajući se na tadašnji optimizam Pierrea Lévyja. Pitao sam se hoće li kibernetički prostor beskrajno proširiti tržište, spektakl, potrošnju informacija i društveno isključenje ili će omogućiti civilizacijski projekt zasnovan na inteligentnim zajednicama. Danas mi se čini da se prva mogućnost ostvarila mnogo snažnije. Inteligentne i solidarne zajednice nisu spontano izrasle iz umreženosti. Tehnologija ih sama nije proizvela jer sama ne bira društveni cilj.

Maloprije smo se zaustavili na mogućnosti malih humanih zajednica solidarnosti…

Ta druga mogućnost nije time nestala, ali neće se ostvariti ni kao automatska posljedica tehnološkog napretka. Za nju su potrebne političke odluke i institucije, vrijeme i materijalni uvjeti. Potrebni su ljudi koji će prihvatiti sukob oko toga komu tehnologija služi. Bez toga će se jezik zajednice vrlo lako pretvoriti u jezik korisničke skupine, tržišnog segmenta ili publike koju platforma okuplja samo zato što slično reagira.

Što je problem s prihvaćanjem malih zajednica koje se žele spasiti od svijeta koji najvjerojatnije postaje sve više neprijateljski za čovjeka?

Razumijem želju za malim zajednicama „starog svijeta”. Ne bih ih, međutim, romantizirao kao zaštićene otoke ljudskosti. Mala zajednica može pružiti solidarnost, ali može postati zatvorena, autoritarna i isključiva. Može od svojih članova tražiti poslušnost u ime pripadanja. Povlačenje iz tehnološkog svijeta također lako postaje privilegija onih koji imaju dovoljno novca, prostora i sigurnosti da se mogu povući. Većina ljudi nema taj izbor, a sustav će nastaviti odlučivati o njihovim životima.

Solidarnost, prijateljstvo i igra za mene zato nisu ostaci nekoga izgubljenog, čistog svijeta. Možda su tehnologije budućnosti najvažnije, samo što ih ne uspijevamo instalirati. One ne nastaju pritiskom na tipku i ne održavaju se bez vremena i rada.

Moderna tehnologija, pametni telefoni, društvene mreže i umjetna inteligencija sve više nas udaljavaju od osobnih kontakata. U nestajanju bliskih kontakata kao da se izgubila i kategorija prijateljstva?

Prijateljstvo nije sučelje koje nam neprekidno vraća potvrdu da smo u pravu. U njemu postoji drugi čovjek koji nam ponekad ostaje nerazumljiv. Za takav odnos treba vrijeme koje se ne može optimizirati. Solidarnost se pokaže kada nešto košta. Ponekad znači odreći se dijela vlastite udobnosti, vremena ili koristi za osobu koju možda uopće ne poznajemo. Za nju su potrebne materijalna sigurnost i institucije koje neće svaku ljudsku potrebu pretvoriti u tržišnu uslugu, a svaki odnos u izvor podataka.

Konačno, osobni kontakti u kazalištu između glumaca i gledalaca presudno su važni.

Kazališnu igru bih tu branio iz drugog razloga. Dragocjena je upravo zato što ne mora završiti proizvodom i ne mora dokazati svoju korisnost. Nestaje kada je svaki njezin trenutak mjeren, procijenjen i pretvoren u rezultat.

Kazalište je u tom smislu lokalna praksa i privremena mala zajednica. Stranci dolaze na isto mjesto, pristaju dijeliti vrijeme i gledati istu stvar. Ne idealiziram taj susret. Jedna predstava ne može zamijeniti politiku, socijalne službe ni stvarnu društvenu organizaciju.

Ali izvedba može od zbirke izoliranih pojedinaca privremeno stvoriti publiku, možda i javnost: ljude koji su nešto zajedno vidjeli i prema tome mogu zauzeti stav. To nije isto što i skup korisnika kojima je sustav pojedinačno isporučio sadržaj izračunat prema njihovim prethodnim izborima. Algoritam može proizvesti doseg, vidljivost i ciljanu publiku. Ne može sam proizvesti javnost u političkom smislu te riječi.

Budućnost kao zajednička borba

Kako u ovom sve ubrzanijem svijetu funkcionira vaša umjetnička zajednica Montažstroj?

Montažstroj više od tri i pol desetljeća opstaje kao promjenjiv umjetnički kolektiv, pa tako ja znam i vrijednost i krhkost male zajednice. Kolektiv nije sklad bez sukoba. Ljudi dolaze i odlaze. Povjerenje se izgubi pa ga treba ponovno graditi. Netko mora preuzeti odgovornost za odluku s kojom se drugi ne slažu. Zajednički rad nije stanje koje jednom postignemo; svaki ga projekt ponovno dovodi u pitanje. Umjetnost tu ima konkretnu funkciju. Izlaže nas onome što ne razumijemo i neko nas vrijeme zadržava u neizvjesnosti, bez trenutnog izlaza i bez personaliziranog odgovora. U najboljem slučaju vježbamo pažnju prema drugome. Rješenja možda nećemo dobiti. Stvaraju se, međutim, okolnosti u kojima pitanja ponovno postavljamo jedni pred drugima, a ne samo sustavu koji će svakome od nas ponuditi drukčiji, privatni odgovor.

Kako zapravo izgleda vaša temeljna društvena ideja, ostvarena kroz umjetnički posao kazališnog redatelja kojim se bavite?

Ne zanima me očuvati čovjeka kao muzejski primjerak nekoga čistog, predtehnološkog bića. Čovjek je uvijek živio s alatima i kroz njih se mijenjao. Umjetnički angažman zato ne vidim u bijegu od tehnologije. Zanima me borba oko toga tko je posjeduje, komu je dostupna i kakve odnose među ljudima proizvodi.

Zanima me možemo li sačuvati pravo na sporost, pogrešku, privatnost, dodir, neslaganje, beskorisnu igru i život koji ne mora biti neprekidno mjeren i optimiziran. Ako su to vrijednosti starog svijeta, onda ćemo ih u novom svijetu morati ponovno izmisliti.

Male zajednice koje ih budu stvarale neće biti rezervati. One će biti fronte. Ne fronte protiv tehnologije, nego mjesta borbe za to hoće li budućnost ostati zajednička. A to je borba koju ne možemo delegirati ni stroju ni algoritmu.

 

 

Ovaj tekst je objavljen uz financijsku potporu Agencije za medije iz Programa poticanja novinarske izvrsnosti.