Sintetični mediji in globoki ponaredki

Brez skrbi – ne meša se vam. Ne gre za resnično kompilacija različnih scen iz filma, ampak za t. i. “globok ponaredek”, posnetek, ki je bil spremenjen s pomočjo umetne inteligence. Če ste zelo pozorni in video gledate na velikem zaslonu, bi morda še zaznali, da z videom nekaj ni v redu, da deluje nekoliko umetno, kot posnetek iz videoigrice. A večina bi ne glede na to nasedla. Ja, računalniško modificiranje različnih multimedijskih vsebin se je v zadnjih letih razvilo do te mere, da lahko to, česar so svojčas bile sposobne le ekipe hollywoodskih editorjev z neznansko močnimi računalniki, izvede vsak z nekaj tehničnega znanja in nekaj časa. 

Strašljivo natančno?

Okoli leta 2018 so se na spletu prvič pojavili uporabniku prijazni programi, ki so tehnično nekoliko bolj podkovanim omogočali z AI podprto modifikacijo videoposnetkov. Množicam dostopna DeepFaceLab in Faceswap sta omogočala, da smo lahko programu servirali veliko sličic dveh ljudi, računalniška magija pa je z enega na drugega preslikala obraz – vključno z mimiko, odpiranjem ust in mežikanjem. Vsakdo je lahko iz domačega naslanjača začel ustvarjati ponarejene videoposnetke, ki bi prelisičili veliko večino populacije. Seveda zadeva vseeno ni tako preprosta; za prepričljiv ponaredek potrebujemo zelo zmogljiv računalnik in precej znanja in potrpljenja, da ročno obrusimo računalniške artefakte. 

A kljub pomanjkljivostim sta DeepFaceLab in Faceswap odprla vrata nepopisnemu številu srhljivo prepričljivih lažnih videov. Nekateri so bili zelo nedolžni (npr. menjavanje igralcev v znanih hollywoodskih filmih ali vstavljanje sebe v slavno vlogo), drugi pa niti malo ne. Obsesija prvih navdušencev so postali pornografski posnetki, na katerih so obraz pornoigralke zamenjali s slavno osebo ali podobo svoje nesrečne ljubezni. Za še večje frike se je pojavil program, ki je za nas slekel človeka na videoposnetku; zaradi internetnega odpora so ga razvijalci sicer v nekaj mesecih odstranili.

Etično zelo vprašljivo

Zakaj je takšna tehnologija lahko nevarna, ni treba posebej poudarjati. Poleg etične spornosti nekonsenzualnega lepljenja ljudi v porniče je tehnologija sintetičnih medijev odprla tudi nove možnosti nadobudnim izsiljevalcem. Če si v preteklosti moral posneti žrtev v nelagodni situaciji, lahko po novem obremenjujoči video ustvariš iz ničesar. Problematika ne sega le na področje videov; vedno bolj napredna umetna inteligenca zna prepričljivo ponarediti tudi glas in pisanje. Raj za lažne novice in velike afere, torej. Ko so izsiljevalci z lažnim zvočnim posnetkom želeli od direktorja izsiliti več kot 200.000 evrov, je problematika sintetičnih medijev zbudila zanimanje tudi med vladajočimi. Ameriški kongres je na primer leta 2019 razpravljal o nevarnosti sintetičnih medijev in jih izpostavil kot veliko grožnjo za nacionalno varnost.

Ukrepi socialnih omrežij

Kmalu po tem, ko so sintetični mediji zaradi splošne dostopnosti obnoreli internet, so tehnološka podjetja začela boj proti neetični uporabi le-teh. Reddit je zaprl največji subreddit, kjer so se pojavljale ponarejene pornografske vsebine, pa tudi Twitter je začel zatirati vse potencialno škodljive sintetične medije. Kljub temu je gibanje ostalo in se aktivno razvija; v zadnjih letih ste bržčas tudi sami zasledili številne mobilne aplikacije, ki nam omogočajo, da se preslikamo v družbo znanih igralcev ali po svoje animiramo uvoženo fotografijo.

Tehnologija torej sama po sebi ni slaba – široka dostopnost izredno močnih AI programov, ki so bili včasih rezervirani le za največje in najbogatejše filmske studije, manjšim ustvarjalcem odpira vrata za izdelavo kvalitetnih računalniško generiranih vsebin. Kljub temu je porast sintetičnih medijev in globokih ponaredkov še en korak v distopično prihodnost, kjer se meje med resničnostjo in digitalnostjo počasi začnejo zlivati, resnico pa je vedno težje odkriti. Če je Baudrilliard v svoji srhljivi napovedi opozarjal, da resnico ustvarjajo mediji, objektivna dejstva pa so vedno manj pomembna, se zdi, da nas v prihodnosti niti razmišljanje s svojo glavo in skeptičnost ne bosta obvarovala pred “življenjem v stimulaciji” – vse, kar nas obdaja in kar zaznavamo, bo lahko ponaredek, ki ga na noben način ne bomo mogli ločiti od resničnosti.