[Intervju] Dr. Gamulin: Če bi bil kritičen do desne opcije, bi isti mediji moje analize najverjetneje povzeli brez zadržkov

Dr. Niko Gamulin je strokovnjak za strojno učenje in umetno inteligenco. S svojo analizo je potrdil pristnost posnetkov, ki razgaljajo korupcijo globoke države, zaradi česar se je znašel v nemilosti osrednjih medijev. Z njim smo se pogovarjali o analizah, o odzivih javnosti in tudi o tem, kako umetna inteligenca lahko vpliva na naše življenje in družbo.

Dr. Gamulin, nam lahko za začetek poveste kaj več o vašem delu in strokovnem področju?
Doktoriral sem na Fakulteti za elektrotehniko Univerze v Ljubljani leta 2015 na področju strojnega učenja. V sklopu doktorata sem se ukvarjal z napovedovanjem prekinitev naročniških razmerij mobilnega operaterja na podlagi socialnih vplivov. Že v času doktorata sem se začel zanimati za globoko učenje (ang. deep learning). To so bili časi velikih prebojev na področju računalniškega vida. Bistvo mojega dela je, da rešujem izzive na področjih, ki niso moja. Strojno učenje ti to omogoča: naučiš se graditi modele, nato pa jih apliciraš na probleme, ki jih sam ne bi znal rešiti brez domenske ekspertize. Preizkusil sem se v tekmovanju zaznavanja diabetične retinopatije, kjer sem, čeprav nimam znanja s področja medicine, nekaj časa ohranjal 3. mesto med več kot 600 tekmovalci. Sodeloval sem tudi s tujim podjetjem, ki deluje globalno, pri razvoju modela, ki na podlagi satelitskih slik sadovnjakov oceni optimalen čas za opraševanje, da se tja pravočasno dostavijo čebele. Dolgo sem delal kot programski inženir, vendar sem ves čas spremljal razvoj strojnega učenja (kasneje je ta termin zasenčila UI). Nekaj časa sem vzporedno delal kot raziskovalec na fakulteti za računalništvo, zadnja tri leta pa se ukvarjam s statistiko, treniranjem modelov za detekcijo objektov in velikimi jezikovnimi modeli.

Ob razkritju prisluhov oz. posnetkov, ki dokazujejo ne le obstoj globoke države, temveč tudi njeno globoko korupcijo, ste tudi sami opravili podrobne analize teh vsebin in potrdili njihovo pristnost. Bi nam lahko pojasnili, kako takšne analize potekajo, koliko natančne so in na katere stvari je treba biti najbolj pozoren?

Zmotilo me je to, da so uveljavljeni mediji preprosto povzeli trditve akterjev, ki so bili povezani s prisluhi. Nihče si ni vzel časa, da bi preveril, ali trditve o umetno generiranih vsebinah sploh držijo. Pregledal sem znanstveno literaturo in znane omejitve trenutnih najzmogljivejših modelov. Ti imajo težave z generiranjem variabilnih premorov med besedami, variacijo naglaševanja besed, simulacijo hripavega glasu, kašlja. To so podrobnosti, ki jih človeški govor vsebuje naravno, umetna inteligenca pa jih še ne zna prepričljivo posnemati. Poleg tega sem pogledal, kakšne teste vključujejo forenzične analize. Gre za analizo spektrograma, preverjanje konsistentnosti ozadja, analizo prisotnosti električnega omrežnega signala in podobno. Sam nisem forenzik, vendar sem na razpoložljivih vsebinah pognal te teste in nobeden od teh ni pokazal indikatorjev, da so bile vsebine generirane z umetno inteligenco. Nasprotno, vsebovale so značilnosti, ki jih trenutni modeli ne znajo reproducirati.

Kaj resničnost posnetkov pravzaprav pomeni? Kaj razkriva o delovanju krogov okoli Roberta Goloba? O tem ste na omrežju X objavili zanimiv članek “Anatomija ugrabitve države”.

Avdiozapise sem pretvoril v besedilo in opazoval omenjanje različnih entitet. Danes imamo na razpolago veliko gradnikov in orodij, s katerimi pridemo do rezultatov zelo hitro. Sestavil sem tudi koroboracijsko matrico, torej preglednico, v kateri sem sistematično preveril, ali se informacije iz različnih posnetkov med seboj potrjujejo. Če oseba A v enem posnetku omeni dogovor z osebo B in oseba B v drugem posnetku omeni isti dogovor, je to neodvisna potrditev. Več kot je takšnih potrditev med različnimi viri, težje je trditi, da so vsebine izmišljene ali zrežirane. V mojem primeru je matrica pokazala gosto mrežo medsebojnih referenc, ki so bile konsistentne po vsebini, časovnici in omenjenih osebah. Tak vzorec je zelo težko zrežirati, še težje pa ga je generirati z umetno inteligenco. Kar je analiza razkrila o delovanju teh krogov, sem podrobneje opisal v članku Anatomija ugrabitve države. Na kratko: posnetki kažejo koordinirano delovanje, ki presega to, kar bi pričakovali od posameznih akterjev. Vidna je mreža medsebojnih uslug, pritiskov in dogovorov, ki deluje sistemsko.

Dr. Niko Gamulin (Foto: Andrej Sekulović)

Ko ste objavili svoje analize v javnosti, ste se hitro znašli pod ognjem nekaterih osrednjih medijev, kot tudi tistih, ki jih posnetki kompromitirajo, češ da so vaše analize napačne. Kakšni so bili njihovi protiargumenti, so ponudili kakšne drugačne analize ali dokaze?

Pri analizi prisotnosti električnega signala je sicer bila ena napaka, na katero pa so me opozorili uporabniki na X-u, medtem ko kritični mediji tega niso omenili, temveč so za diskreditacijo uporabili moje politične preference. Nihče od njih ni ponudil alternativne analize ali tehničnega protiargumenta. Ni bilo nobenega spektrograma, nobenega forenzičnega poročila, nobene primerjave z znanimi generiranimi vzorci. Samo etiketiranje. To je za demokratično družbo zelo nevarno, saj je to jasen znak, da bo vsakdo, ki bo izpostavil morebitne nepravilnosti, javno ožigosan.

Zdi se, da jih je najbolj zmotila vaša bolj konservativna politična usmerjenost, ki naj bi nekako izpodbijala vaše strokovno znanje. Kako ste se odzvali na te napade in kako komentirate takšen odziv domnevno “objektivnih” medijev?

Odzivi so bili podobni barskemu predavanju, kjer zmaga tisti, ki pridobi na svojo stran dovolj ljudi, da preglasijo tistega, ki bi želel nekaj povedati. Konkretnih tehničnih protiargumentov nisem prejel. Namesto tega se je debata sprevrgla v vprašanje, ali ima nekdo s »konservativnimi« pogledi sploh pravico komentirati tehnične zadeve. To je absurdno. Spektrogram ne ve, kakšne so tvoje politične preference. Algoritem ne loči med levim in desnim. Rezultati analize so enaki, ne glede na to, kdo jo izvede. Če bi bil kritičen do desne opcije, bi isti mediji moje analize najverjetneje povzeli brez zadržkov.

Če se pomakneva na strokovno področje vašega dela; kako bo UI vplivala na našo družbo in gospodarstvo? Kateri poklici bi lahko postali odveč in katerim UI najbolj pomaga?

Pred kratkim sem napovedi podjetja Anthropic projiciral na demografske podatke iz slovenskega statističnega urada. Slovenija ima 938.000 delovno aktivnih prebivalcev. Vzel sem Anthropicov model izpostavljenosti poklicev umetni inteligenci in ga prečrtal čez podatke Sursa o strukturi zaposlenih. Rezultat: med 247.000 in 331.000 delovnih mest v Sloveniji je visoko ali srednje izpostavljenih avtomatizaciji z velikimi jezikovnimi modeli. To je med 26 in 35 odstotkov celotne delovne sile.

To pa ne pomeni, da bodo ta delovna mesta izginila. Anthropicovi podatki kažejo, da dejanska uporaba pokriva le delček teoretično mogočega. Pri računalniških poklicih je teoretična izpostavljenost 94 odstotkov, dejanska pokritost pa le 33. Najbolj izpostavljeni so poklici, ki temeljijo na obdelavi besedila, analizi podatkov in rutinskem odločanju: računovodje, pravniki za preprostejše zadeve, prevajalci, del novinarjev, administrativni delavci. Poklici, ki zahtevajo fizično prisotnost, ročno spretnost ali kompleksno presojo, so zaenkrat manj ogroženi. Vprašanje za Slovenijo ni, ali bo umetna inteligenca nadomestila delovna mesta, temveč kako hitro se bo vrzel med zmožnostjo in dejansko uporabo zapirala. In ali bomo na to pripravljeni.

Če ostaneva še malce pri gospodarstvu in se naveževa tudi na demografijo; vemo da ima Slovenija, pa tudi Evropa, velike težave na področju demografije. Leva politična opcija bi pomanjkanje prebivalstva in s tem tudi delovne sile reševala predvsem z uvažanjem migrantov oz. tujih delavcev. Menite, da bi UI na tem področju lahko ponudila alternativo in omogočila opravljanje določenih nalog in poklicev brez uvažanja tuje delovne sile?

Marca lani sem dobil drugega otroka. Porodnišnica se mi je zdela žalostno prazna in bojim se, da nismo na dobri poti. Kar se delovne sile tiče, številna podjetja že omejujejo zaposlovanje pisarniških delavcev. Za obrtniška dela ta trenutek roboti še niso dovolj poceni, da bi nadomestili npr. vodovodarje, vendar je pri eksponencialnem razvoju težko napovedovati nekaj let vnaprej. Če izpustimo scenarij, da bodo roboti opravljali večino ročnih del, bo zmanjšana potreba po pisarniških poklicih spodbudila del prebivalstva k ročnim delom. Točnih izračunov nisem delal, vendar lahko pogledate številke pri prejšnjem odgovoru in ocenite sami. Kar pa zadeva demografijo: umetna inteligenca lahko nadomesti določena delovna mesta, ne more pa nadomestiti ljudi. To sta dva ločena problema. Enega rešuje tehnologija, drugega pa moramo rešiti kot družba. Slovenija ima stopnjo rodnosti 1,6 otroka na žensko. Za obnavljanje prebivalstva potrebuješ 2,1. Noben algoritem tega ne bo rešil.

Na mednarodnem področju se zdi, da se odvija tehnološka tekma med Kitajsko in ZDA. Kako to komentirate in katera velesila ima bolj razvito UI po vašem mnenju? Bi lahko UI postala tudi pomembno geopolitično orodje na področju razmerij moči velikih sil?

Definitivno UI vpliva na vojaške zmogljivosti in ekonomsko konkurenčno prednost. Podobno kot je pomembno za vsako velesilo, da ima svoj navigacijski sistem, je pomembno, da ohrani avtonomijo tudi pri drugih aspektih, ki lahko ogrozijo položaj. ZDA trenutno vodijo pri najzmogljivejših modelih, Kitajska pa ima prednost v količini podatkov in hitrosti implementacije. Kitajski model DeepSeek je lani pokazal, da je mogoče z bistveno manj računske moči priti do primerljivih rezultatov, kar je presenetilo marsikoga. Tudi če popolnoma odmislimo vojaške zmogljivosti, si lahko predstavljate, da se bo veliko ljudi navadilo uporabljati umetno inteligenco za vsakdanja opravila in bo posledično produktivnost veliko večja. Nato pa se lahko zgodi, da pride do spora in naenkrat ponudniki velikih modelov prekinejo oskrbo Evropi. Ekonomske posledice bi bile opazne zelo hitro. Evropa v tem trenutku nima lastnega modela, ki bi bil konkurenčen najboljšim. Francoski Mistral je korak v pravo smer, vendar zaostaja za vodilnimi. To je strateška ranljivost, o kateri se premalo govori.

Vemo, da lahko z UI izdelamo t. i. “deep fake” vsebine za potencialno diskreditacijo političnih nasprotnikov itn. Bo to v prihodnosti začelo ogrožati splošno zaupanje javnosti in ali obstajajo sistemi, ki lahko z gotovostjo prepoznajo tovrstne “lažne novice”?

Na račun “deep fak” vsebin se bodo razvrednotile tudi pristne vsebine in to je še večja nevarnost. Prav temu smo bili priča v predvolilnem boju pred zadnjimi volitvami. Dovolj je bilo reči “to je deep fake” in pristna vsebina je bila nevtralizirana. Nasprotno pa “deep fake” vsebina lahko kroži, dokler je ne preveri nekdo s tehničnim znanjem, kar traja. Kar se detekcije tiče, sistemi za prepoznavanje obstajajo, vendar nobeden ne deluje z gotovostjo. Gre za tekmo med generiranjem in zaznavanjem, ki se nikoli ne bo končala. Sam to dojemam kot splošno razvrednotenje vseh videovsebin. Podobno kot bi alkimija razvrednotila zlato.

Dr. Niko Gamulin (Vir: Osebni arhiv)

Letos ste bili tudi gost na konferenci Demokracija in tehnologija. Bi nam lahko povedali, kako bo razvoj tehnologije vplival na demokratične procese in kakšne pozitivne in negativne posledice bi lahko prinesel?

Od tiskane knjige smo prešli k socialnim medijem in naprej k iskanju odgovorov s pomočjo velikih jezikovnih modelov (Grok, ChatGPT, Claude, Gemini …). Objektivnost odgovorov je omejena z objektivnostjo korpusa, ki je bil uporabljen za učenje modelov in ocenjevalcev odgovorov. Če je korpus selektivno izbran in če so ocenjevalci pristranski, to vpliva tudi na odgovore modela, ki je v širši rabi, in če ljudje z modeli iščejo potrditve in ne objektivne resnice, se dodatno oddaljujemo od konstruktivnega, z argumenti podprtega dialoga. Konkretno: če nekdo vpraša jezikovni model o nekem političnem vprašanju in model odgovori pristransko, uporabnik pa nima konteksta, da bi to prepoznal, se pristranskost širi pod krinko navidezne objektivnosti. To je bolj subtilna grožnja kot “deep fake”, ker ne izgleda kot manipulacija. Na pozitivni strani pa obstaja možnost, da bi jezikovni modeli lahko pomagali pri preverjanju dejstev, analizi zakonodaje ali povečanju transparentnosti javnih financ. Orodja za to že obstajajo, vprašanje je le, kdo jih bo uporabil in s kakšnim namenom.

Za konec: kako dolgoročne in korenite bodo posledice razvoja UI v bližnji prihodnosti? Smo priča tehnološki revoluciji na ravni industrijske revolucije ali prihoda spleta?

Upam si ugibati, da smo še daleč od točke, ko bo lahko umetna inteligenca razmišljala divergentno in nadomestila znanstveno metodo. Trenutni modeli so izjemno sposobni pri sintetiziranju obstoječega znanja, slabši pa pri ustvarjanju zares novega. Kljub temu pa je očitno, da bodo ljudje, ki zavračajo uporabo tehnologije, težko konkurenčni na trgu dela. Primerjavo z industrijsko revolucijo vidim tako: takrat so stroji nadomestili mišice, zdaj nadomeščajo rutinsko razmišljanje. Tisti, ki bodo znali umetno inteligenco uporabiti kot orodje, bodo produktivnejši. Tisti, ki jo bodo ignorirali, bodo ostali zadaj. To velja za posameznike in za države. Zaradi hitrosti razvoja tehnologij je prihodnost čedalje težje napovedovati, zato je toliko bolj pomembno, da se o teh temah pogovarjamo odkrito in brez ideoloških filtrov.

Andrej Sekulović