„Pitanje može li umjetna inteligencija biti umjetnički alat meni se postavlja pomalo kasno. Ona već jest alat. Koristi se u prijevodu i pisanju, ulazi u sliku i zvuk. Možemo je susresti u tehničkoj pripremi, organizaciji rada ili promociji. Umjetnik se danas teško može ponašati kao da toga nema. Može odlučiti da neki sustav neće upotrijebiti, ali i ta je odluka odnos prema svijetu u kojem taj sustav već djeluje“, kaže u razgovoru za P-portal redatelj i osnivač umjetničkog kolektiva Montažstroj Borut Šeparović.

Vaše novije predstave „Solaris Dva” i „Slijepi vode slijepe” bave se fenomenom tzv. tehno-feudalizma i odnosom realnog svijeta i umjetne inteligencije. Koliko takvo kazalište smjera upozorenju, analizi i raspravi o opasnostima nove tehnologije? Ili dopušta mogućnost da ta tehnologija bude i naš alat u umjetničkom procesu?

Ne mislim da kazalište treba biti alarmni uređaj, kao što ne mislim ni da treba biti sajam novih tehnologija. Ako u proces uđem s već donesenom presudom da je umjetna inteligencija dobra ili zla, predstava prestaje biti istraživanje i postaje ilustracija te presude. Publika tada može samo prihvatiti ili odbiti ono što sam unaprijed odlučio. Mene takvo kazalište ne zanima.

Na kakvo kazalište mislite, koje bi na bilo koji način bilo u vezi s umjetnom inteligencijom?

Upozorenje obično pretpostavlja da opasnost tek dolazi i da je još možemo izbjeći. Ovdje nisam siguran da je tako. Umjetna inteligencija već sudjeluje u tome kako radimo, komuniciramo i dolazimo do informacija. Preporučuje nam što ćemo gledati i razvrstava ljude. Negdje procjenjuje rizik, drugdje piše tekst ili proizvodi sliku. Ponekad je prepoznajemo, mnogo češće je skrivena u usluzi koju smo prihvatili kao običnu i praktičnu. Mi smo već unutra. Umjetna inteligencija nije ni demon ni spasitelj. Ona je ambijent.

Kada ste se u kazalištu počeli baviti tehnologijom novog doba?

Moje bavljenje odnosom kazališta i tehnologije nije počelo s ChatGPT-om. Još 2004. napisao sam opsežan tekst „Izvedba u digitalno doba”. Veliki jezični modeli kakve danas poznajemo tada nisu postojali. Nisam mogao predvidjeti njihov oblik, brzinu razvoja ni količinu materijala na kojem će biti trenirani. Bavio sam se, međutim, pitanjima koja su se danas vratila u mnogo konkretnijem obliku. Možemo li u digitalnoj komunikaciji znati da razgovaramo s čovjekom ili s programom? Što se događa kada se digitalna sjena odvoji od fizičkog tijela? Hoće li se na pozornici susresti živi i virtualni izvođač?

Ništa nije stečeno bez gubitka

Bavite se digitalnom komunikacijom u kazalištu već preko 20 godina: što to govori o prirodi vašeg interesa, a što o naravi nove tehnologije?

Ne mislim da me to čini prorokom, jer tehnologije se ne pojavljuju niotkuda. Tehnologije se razvijaju kroz dulje procese, a mi obično primijetimo samo trenutak u kojem njihov učinak postane masovan. Polazišna rečenica tog teksta bila je: „Ništa nije stečeno bez gubitka“ i ona mi se danas čini točnom. Dobitak nove tehnologije vidimo odmah jer nam nešto ubrza, olakša ili učini dostupnim, a gubitak se pokaže poslije, kada se promijene naše navike, odnosi i očekivanja, često bez odluke da smo ih uopće željeli promijeniti.

U kakvom su odnosu umjetnost i nova tehnologija?

U tom sam tekstu polazio i od tvrdnje da „nema izvedbe koja već nije roba”. Umjetnost ni tada nije bila izvan tržišta i ekonomije reprodukcije. Danas je proces otišao dalje. Robom više nije samo završeno umjetničko djelo. Robom postaju jezik kojim govorimo, lice i glas izvođača, naše ponašanje, pažnja, sjećanja i tragovi koje ostavljamo dok se služimo digitalnim alatima. Od tog se materijala grade sustavi kojima zatim ponovno plaćamo pristup.

 O čemu onda govorimo?

Tu za mene počinje pitanje tehno-feudalizma. Tim pojmom ne nazivam svaku novu spravu ni svaku uporabu računala. Govorim o odnosu u kojem mali broj korporacija posjeduje infrastrukturu, modele i goleme količine podataka. Mi ih svojim radom i ponašanjem neprekidno hranimo, ali ne sudjelujemo u odlučivanju o tome kako će se ti sustavi koristiti. Korisnik izgleda slobodno jer može birati među ponuđenim uslugama. U stvarnosti on djeluje na tuđem digitalnom posjedu, pod pravilima koja se mogu promijeniti bez njegova pristanka.

Korisnik izgleda slobodno jer može birati među ponuđenim uslugama. U stvarnosti on djeluje na tuđem digitalnom posjedu, pod pravilima koja se mogu promijeniti bez njegova pristanka.

Razvijamo se sve više, ali i naša skepsa raste sve brže?

U tekstu iz 2004. još je postojala stanovita vjera da će decentralizirana Mreža sama po sebi demokratizirati odnose i povećati moć korisnika. To je vjerojatno bio njegov najnaivniji dio. Umreženost se nije razvijala odvojeno od kapitala. Nekoliko je platformi izraslo u infrastrukturu svakodnevnog života, a njihova moć danas nije samo ekonomska. One uređuju vidljivost i pristup javnosti. Utječu i na ono što će biti zapamćeno. Mogu nekoga učiniti prisutnim ili nevidljivim, čak i sumnjivim, a da odluka nikada ne bude predstavljena kao politička odluka.

Gdje se onda nalazi umjetna inteligencija, između korisnog alata i oružja političke i ekonomske dominacije?

Pitanje može li umjetna inteligencija biti umjetnički alat meni se postavlja pomalo kasno. Ona već jest alat. Koristi se u prijevodu i pisanju, ulazi u sliku i zvuk. Možemo je susresti u tehničkoj pripremi, organizaciji rada ili promociji. Umjetnik se danas teško može ponašati kao da toga nema. Može odlučiti da neki sustav neće upotrijebiti, ali i ta je odluka odnos prema svijetu u kojem taj sustav već djeluje.

Stroj ne može preuzeti odgovornost

Čini se da je umjetna inteligencija preplavila vašu predstavu u Gaveli „Slijepi vode slijepe“?

U našoj predstavi „Slijepi vode slijepe” umjetna inteligencija nije bila tema koju bismo naknadno opisivali publici. Ona je ušla u proces. Služili smo se njome pri prijevodu Maeterlinckovih „Slijepih”, u stvaranju dijelova teksta, zvuka i slike. Filip Rutić i ja pisali smo upute umjetnoj inteligenciji, procjenjivali dobivene rezultate, odbacivali veći dio materijala, vraćali se s drukčije postavljenim pitanjem. Nakon toga slijedili su montaža i dramaturška odluka. Ništa se nije jednostavno pojavilo na sceni, samo zato što je to proizveo stroj.

Tko potpisuje autorstvo predstave: vi ili umjetna inteligencija?

Naše autorstvo time nije nestalo. Premjestilo se i postalo manje vidljivo. Čovjek je već prisutan u pitanju koje postavlja i granici koju zadaje. Zatim bira dobiveni materijal i stavlja ga u određeni kontekst. Stroj može proizvesti rečenicu, ali ne može preuzeti odgovornost za to zašto se upravo ta rečenica nalazi pred publikom. Ne može odlučiti što ona znači unutar cijele predstave ni snositi posljedice njezina javnog izgovaranja. To ostaje nama.

Kakav je odnos umjetne inteligencije i živog izvođača na pozornici?

Na primjer, u predstavi „Solaris Dva” drukčiju funkciju imaju manipulirani medijski sadržaj, generativna slika i robot-pas. Tamo ispitujemo dvojnika, sjećanje i mogućnost da se lice i glas odvoje od osobe kojoj pripadaju. Digitalni dvojnik na prvi pogled obećava savršenu zamjenu. Može ponoviti lice i oponašati glas. Iz njegove se izvedbe mogu ukloniti umor i pogreška. Ali na pozornici se susreće sa živim izvođačem, s tijelom koje diše i ne može biti potpuno jednako vlastitoj snimci.

Zato nismo skrivali trenutke u kojima se digitalna maska raspada. Neočekivana greška nije samo tehnički kvar koji treba ukloniti prije premijere. Ona pokazuje kako je slika napravljena i otkriva tijelo koje se nalazi ispod nje. Mene zanima upravo taj trenutak. Emocija ne nastaje iz demonstracije tehnološke savršenosti. Pojavljuje se u napetosti između filmske slike, sintetičkog dvojnika i živog čovjeka koji pred nama pokušava izdržati njihovu prisutnost.

Kakvu vrstu alata u umjetnosti zapravo predstavlja nova tehnologija?

Tehnologija svakako može biti umjetnički alat, ali nije neutralan alat. U nju su ugrađeni vlasništvo, interesi i odnosi moći. Najmanje me zanima dokazivati je li AI dobar ili loš. Zanima me tko ga posjeduje, tko njime upravlja, čiji rad prisvaja i tko odgovara za njegove posljedice. Koristim li ga kao zamjenu za mišljenje, tada sam mu predao upravo ono što kao umjetnik moram raditi. Postoje situacije u kojima ga upotrebljavam da problem učinim vidljivijim ili da vlastitu poziciju dovedem u pitanje. Tada tehnologija može postati relevantan umjetnički materijal.

Dakle: ne upozoravati, nego imenovati.

Najveća promjena bit će radna i politička

Kako će se kazalište mijenjati u odnosu na nova tehnička pomagala? Kojim će se temama baviti i na koji će ih način predstaviti publici? Što će u kazalištu biti važno?

Kazalište je oduvijek koristilo tehnologiju svojega vremena. Scenski mehanizmi, električna rasvjeta, snimljeni zvuk, film i video nisu ostali izvan njega; svaki je od tih izuma promijenio način na koji pozornica proizvodi prostor, vrijeme i prisutnost. Umjetna inteligencija nastavak je te povijesti, ali ona u proces ulazi dublje. Više se ne tiče samo onoga što gledamo. Dotiče tekst, glas, lice izvođača i odluke koje smo navikli smatrati autorskima.

Još sam 2004. pisao o virtualnim scenografijama i izvođačima te o hibridnom obliku koji bi spajao film, živu izvedbu i virtualnu stvarnost. Predstava „Solaris Dva” danas gotovo doslovno ulazi u taj prostor. Glumac istodobno postoji kao tijelo pred nama, kao filmski prethodnik i kao sintetički dvojnik. Gledatelj bira kamo će usmjeriti pogled: prema platnu, monitoru, robotu ili čovjeku koji se nalazi u istom prostoru. Ta se odluka mijenja tijekom izvedbe i ne može je potpuno propisati redatelj.

Kakva će biti posljedica tih novih pomagala?

Nova će pomagala sigurno ubrzati proizvodnju slike, zvuka i teksta. Imat ćemo sve bolje prijevode u stvarnom vremenu, sintetičke glasove, digitalne izvođače i scenografije koje reagiraju na događaj. Ono što je donedavno zahtijevalo velik studio moći će izvesti mala kazališna skupina s nekoliko računala. To može otvoriti prostor ljudima koji ranije nisu imali pristup skupoj tehnologiji. Istodobno raste očekivanje da isti broj ljudi u kraćem vremenu proizvede mnogo više sadržaja. To već poznajemo iz drugih područja rada.

Što će u tom slučaju predstavljati najveću promjenu?

Najveća promjena možda zato neće biti scenografska, nego će ona biti radna i politička. Morat ćemo ponovno pitati tko je autor, što se uopće priznaje kao umjetnički rad i smijemo li bez pristanka koristiti nečije lice ili glas. Trebat ćemo znati gdje završavaju podaci izvođača i publike. Pitanje honorara neće nestati zato što je dio posla obavio model; naprotiv, otvorit će se pitanje svih ljudi čiji je rad prethodno ugrađen u taj model, najčešće bez njihova znanja. A teme će, vjerujem, ostati one najstarije: tko smo, kome pripadamo, što možemo znati i što smijemo učiniti.

Umjetna inteligencija neće ta pitanja učiniti zastarjelima. Dat će im drukčije okolnosti. Identitet postaje vrlo konkretan problem kada se lice i glas mogu odvojiti od tijela. Uvjerljiv odgovor bez jasnog izvora i bez osobe koja za njega odgovara mijenja i ono što uopće možemo nazvati znanjem. Platforma nam u međuvremenu svakodnevno sastavlja privremene zajednice od ljudi koji slično reagiraju, pa i pripadanje počinje ovisiti o računalnoj procjeni. Na kraju se vraća pitanje što smijemo učiniti: odluka sve češće ostaje skrivena iza rezultata sustava.

Kako će kazalište reagirati na sva ova iskušenja?

Ne vjerujem da kazalište na to treba odgovoriti gomilanjem efekata. Ako se pokuša natjecati s platformama u brzini i neprekidnoj proizvodnji sadržaja, izgubit će prije nego što je počelo. Ekran koji nas prati cijeli dan uvijek će proizvesti više slika, više uzbuđenja i preciznije prilagođene podražaje. Kazalište je presporo, preskupo i previše ovisno o tijelima da bi pobijedilo u toj utakmici.

Upravo bi to što izgleda kao nedostatak moglo postati njegova prednost. Kazalište nije spremno za masovan rast. Četrdeset, četiristo ili tisuću ljudi mora u isto vrijeme doći na isto mjesto. Netko je morao otvoriti vrata i zagrijati dvoranu. Izvođači su toga dana morali doći na pozornicu. Publika je morala odvojiti vrijeme i pristati da se događaj ne može zaustaviti, ubrzati ni prilagoditi svakome pojedinačno.

Kazalište je jedna od rijetkih preostalih tehnologija starog svijeta koja i dalje funkcionira. Njegova starost ne čini ga čistim ni nevinim. Još uvijek, međutim, može proizvesti fizičko okupljanje ljudi koji se međusobno ne poznaju i koji nisu unaprijed odabrani prema svojoj navodnoj kompatibilnosti.

Kazalište je jedna od rijetkih preostalih tehnologija starog svijeta koja i dalje funkcionira. Njegova starost ne čini ga čistim ni nevinim. Još uvijek, međutim, može proizvesti fizičko okupljanje ljudi koji se međusobno ne poznaju i koji nisu unaprijed odabrani prema svojoj navodnoj kompatibilnosti.

Što će tada u teatru biti, recimo, od presudne važnosti?

U kazalištu će postati još važnije ono što se ne može potpuno automatizirati. Mislim prije svega na živo tijelo i zajedničko vrijeme. Pogreška ostaje u izvedbi; vide se dah i umor izvođača. Tu je i rizik da se nešto pred drugima doista neće dogoditi onako kako smo planirali. Prisutnost publike ključna je iz još jednostavnijeg razloga: bez nje postoji proba, snimka ili proizvod, ali nema izvedbe u punom smislu te riječi.

To nazivam biološkim šumom. Izvođač nije savršeno jednak vlastitoj jučerašnjoj izvedbi, snimci ili digitalnom dvojniku. Nekada će zakasniti djelić sekunde. Glas će mu zazvučati drukčije, publika će promijeniti ritam scene, umor će postati vidljiv. Sustav bi te razlike mogao opisati kao pogrešku koju treba ukloniti. U kazalištu su one dokaz da čovjek još nije potpuno programiran.

Živa izvedba je, dakle, ta ključna razlika?

U živoj izvedbi odluke se donose u vremenu i pred drugima. To su odluke s posljedicama koje se ne mogu vratiti u prethodno stanje. Glumac ne može izbrisati pogrešan pokret. Gledatelj ne može vratiti trenutak tijekom kojeg mu je pažnja odlutala. Predstava se može ponoviti sljedeće večeri, ali susret neće biti isti. Nepovratnost ovdje nije velika metafizička riječ; ona je vrlo praktičan uvjet izvedbe.

Važna će ostati i publika. Ljudi u dvoranu dolaze kao pojedinci i mogu iz nje izaći jednako razdvojeni. Kazalište ne proizvodi zajednicu automatski. Ipak, tijekom izvedbe postoji mogućnost da zbirka pojedinaca postane javnost: ljudi nešto gledaju u isto vrijeme, svjesni da su prisutni i drugi koji možda ne vide isto. Netko će se složiti, netko odbiti ono što je vidio; razgovor se može nastaviti nakon predstave. Algoritam proizvodi mnoštvo precizno odabranih publika za svakog korisnika. Kazalište barem privremeno otvara prostor zajedničkog predmeta i javnog stava. U tom ograničenom, ali važnom smislu kazalište stvara javnost, a javnost je upravo ono što algoritmi sami ne mogu proizvesti.

 

Ovaj tekst je objavljen uz financijsku potporu Agencije za medije iz Programa za poticanje novinarske izvrsnosti.