Novo tehnološko orodje, ki vam lahko ukrade glas

Da je umetna inteligenca vse močnejše orodje, ki lahko poveča produktivnost in svetuje na praktično kateremkoli področju, ni treba posebej poudarjati. A z naraščajočo močjo nove tehnologije vedno več idej dobivajo tudi tisti, ki jo želijo uporabiti za manj etične namene. Sploh pereč problem postaja uporaba glasov znanih vplivnežev in igralcev, ki se jih da z uporabo umetne inteligence (UI) enostavno klonirati in jim naročiti, da rečejo karkoli, tudi če se lastnik glasu s tem niti približno ne strinja.

Scarlett Johansson proti OpenAI

Splet je nedavno preplavila novica, da je OpenAI domnevno uporabil glas Scarlett Johanson pri snovanju glasu svoje zvočne različice ChatGPTja. Primer je sploh pereč, ker je slavna igralka prej jasno zavrnila sodelovanje, a so se pri OpenAI kljub temu odločili, da v produkt vključijo glas, zelo podoben njenemu. Čeprav se OpenAI brani, da so za glas uporabili drugo profesionalno igralko, je dejstvo, da je glas na las podoben temu glasu slavne igralke; Johanssonova meni, da to nikakor ni naključje. Če je res, da so pri OpenAI namerno kršili njeno jasno zavrnitev sodelovanja, incident odpira zelo pomembna vprašanja. Če je milijardna korporacija pripravljena hoditi po tankem ledu, je jasno, da bodo to poskušali tudi drugi, s še slabšimi nameni v ozadju. To se že dogaja, zakonodaja pa ne dohaja razvoja tehnologije, ki omogoča, da vsakemu ukrademo glas brez njegovega privoljenja.

MKBHD je bil nedavno "oropan"

Marques Brownlee, eden najvplivnejših tehnoloških youtuberjev, je nedavno naletel na podobno zlorabo. Podjetje je z uporabo UI tehnologije kloniralo njegov glas in začelo z njim promovirati izdelek, ki ga sam nikoli ni podprl, niti ni v zameno dobil nikakršne finančne kompenzacije. "Dogaja se. Obstajajo resnična podjetja, ki bodo preprosto uporabila AI kopijo mojega glasu za promocijo svojih izdelkov," je na socialnem omrežju X razočarano zapisal Brownlee. Težava je, da za takšna, očitno sporna dejanja, trenutno sploh ni resnih pravnih posledic.

Na pravnem področju je trenutno črna luknja

Sploh primer Scarlett Johansson je odprl debato o tehnologiji, ki očitno prehiteva razvoj zakonodaje. Ameriški sindikat igralcev si že nekaj časa prizadeva za to, da bi se dalo glas in podobo zaščititi z zakonom, s čimer bi podjetja, ki karkoli od tega klonirajo brez odobravanja "lastnika", postala pravno odgovorna. V Ameriki predlagan "No Fakes Act" naj bi zaščitil slavne osebe pred ustvarjanjem digitalnih replik, podobni zakoni, ki zahtevajo jasno označevanje AI vsebin, pa so že postali aktualni tudi v Evropski uniji. A dejstvo je, da tehnologija napreduje hitreje od zakonov in da je prestopnikom težko dokazati njihove neetične namene, kar v vmesni praznini slavne pahne v zelo neprijeten položaj.

Prihodnost je regulirana

Na eni strani si želimo, da bi tehnologija, ki nam pomaga v vsakdanjem življenju, lahko nemoteno nadaljevala svoj razvoj, a hkrati postaja jasno, da bo treba napredek uravnotežiti s spoštovanjem osebnih pravic. Čeprav je včasih težko čutiti empatijo do slavnih in bogatih, je jasno, da nikomur ne bi bilo všeč, če bi naš digitalni ponaredek začel po spletu širiti vsebine, ki jih sami ne podpiramo. Če na zakone in napredek tehnologije ne moremo neposredno vplivati, je ključno vsaj, da ostanemo budni in kritični in trikrat preverimo, preden na spletu nasedemo oglasu, ki naj bi ga promovirala naša najljubša zvezda.