Usred digitalnog doba zabrinutost zbog lažnih vijesti sve više zaokuplja pažnju javnih organizacija, medija i ličnosti svih vrsta. Ne bez razloga, Lažne vijesti imale su određenu težinu u važnim izbornim procesima poput predsjedničkih izbora u SAD-u 2016. godine, referenduma o izlasku Ujedinjenog Kraljevstva iz Europske unije ili generala Brazila koji su Bolsonaru donijeli pobjedu.
Bez da je morao ići tako daleko, u našoj je zemlji Facebook nedavno morao zatvoriti tri velike mreže krajnje desnice koje su kroz 30 stranica, grupa i dupliciranih računa akumulirale više od milijun i pol sljedbenika i više od 7 milijuna interakcija . Te su skupine bile posvećene širenju podvala i lažnih slika.
Ali sada smo suočeni s drugom vrstom digitalne prijetnje koja generira nove glavobolje. Govorimo o takozvanom Deepfake, izrazu koji proizlazi iz kombinacije "dubokog učenja" i "lažnog". U osnovi je to oblik umjetne inteligencije koji svakom korisniku omogućuje uređivanje lažnih videozapisa i audio zapisa ljudi koji se čine stvarnima. Za to se koriste antagonističke generativne mreže (AGR) , vrsta algoritma koji može stvoriti nove vrste podataka iz drugih već postojećih skupova.
Ukratko, "deepfakes" su još jedan oblik digitalne manipulacije i jedan od najvjerojatnije korištenih za "trolanje" u najboljim slučajevima. Ali kako ih možemo otkriti? I, prije svega, što privatne institucije i tvrtke poduzimaju kako bi spriječile njihove katastrofalne posljedice? U ovom posebnom dijelu pregledat ćemo napore koji se poduzimaju kako bi se zaustavila ta nova digitalna pošast.
Zašto su deepfakes toliko opasni?
Tehnologija "deepfake" omogućuje nam da lako zamijenimo lice jedne osobe licem druge, kao da je riječ o nekoj vrsti maske ili digitalne maske, da bismo povjerovali da je rekao određene stvari koje se zapravo nikada nisu dogodile . Kao što možete pretpostaviti, ove tehnike imaju niz prilično značajnih implikacija na utvrđivanje legitimnosti informacija koje kruže internetom.
Iako se često koriste za stvaranje humorističnih videozapisa, istina je da "deepfakes" imaju mračni potencijal da unište javnu sliku neke osobe ili da utječu na javno mnijenje korištenjem dezinformacija. Nažalost, moramo vam reći da je ova zlouporaba raširenija nego što bismo željeli, i s ogromnim uspjehom trebali bismo dodati.
Jasan je primjer u aplikaciji DeepNude koja vam je omogućila da prenesete sliku osobe s odjećom i stvorite novu istu golu osobu . Srećom, već je zatvoren, ali moramo naglasiti jednostavnost korištenja ove vrste alata za koje nije potrebno znanje o uređivanju jer sav posao obavlja sam algoritam.
U slučaju DeepNude, platforma je pružala nevjerojatno realne rezultate i bila je u potpunosti dostupna putem svoje web stranice za Windows i Linux . I kao što se očekivalo, montaže sa poznatim osobama poput Katy Perry ili Gal Gadot nisu dugo potrajale na mreži, do te mjere da pritisak odvjetnika ovih glumica nije prestao sve dok važne web stranice sa sadržajem za odrasle nisu uklonile videozapise .
Ovo je samo vrh ledenog brijega kapaciteta rukovanja koji ove vrste aplikacija mogu imati. Sad zamislite posljedice kampanje ove vrste usmjerene protiv određene političke osobe kako bi se manipuliralo izbornim postupkom u zemlji ili regiji. Zlo ne poznaje granice.
Kako se borite protiv deepfakesa?
Jedna od prvih tvrtki koja se oglasila bio je nitko drugi do Google, koji je najavio svoju čvrstu volju za borbu protiv dubokih lažnih lanaca i, kako kažu u tim slučajevima, vatra gasi vatru. Tehnološki div potvrdio je pokretanje cijele baze podataka s do 3000 videozapisa kojima se manipulira umjetnom inteligencijom (deepfakes) koji su stvoreni posebno za pročišćavanje alata za otkrivanje istraživača.
Da bi to učinio, Google je unajmio stvarne glumce koji će im snimiti lica i koristiti ih kao referentnu točku kako bi utvrdio je li videozapis umjetno izmijenjen. Koristeći metode generiranja deepfakea dostupne svima, na tim su snimkama stvorene tisuće deepfakeova.
Rezultirajući videozapisi, stvarni i lažni, prenose se na suradničku razvojnu platformu GitHub, tako da istraživači u potpunosti razumiju što sustav proizvodi. Ova baza podataka, kako mi kažemo, u potpunosti je dostupna, iako će vam prvo morati dati dopuštenje .
Sa svoje strane, Facebook također planira stvoriti sličnu bazu podataka do kraja ove godine. Prema riječima njezinog izvršnog direktora Marka Zuckerberga, glavni je problem što industrija nema standardizirani sustav za njihovo otkrivanje . Zbog toga se udružio sa Udruženjem umjetnih inteligencija, Microsofta i akademicima iz Cornell Tech-a, MIT-a, Oxforda, UC Berkeley, Sveučilišta Maryland, College Parka i Sveučilišta Albany-SUNY kako bi izgradili izazov za otkrivanje dubokih fake. (DFDC za kraticu na engleskom).
Ovaj makro projekt uključuje opsežnu bazu podataka i detaljnu klasifikaciju , kao i financijsku pomoć i donacije za poticanje što većeg broja suradnika. Ideja je stvoriti neku vrstu zajednice koja pomaže otkrivanju i izbjegavanju manipuliranih videozapisa putem AI.
Nema sumnje da je širenje "deepfakesa" postalo vrlo ozbiljno pitanje, s teškim posljedicama koje se ne mogu zanemariti. Iako se mjere koje su predložili glavni agenti počinjeni u tom cilju mogu dugoročno činiti nepraktičnim ili čak kontraproduktivnim, možda su jedini način da se taj zločin iskorijeni. Iako se može činiti kontradiktornim, borba protiv "deepfakesa" s više "deepfakesa" pomoći će alatima za otkrivanje da apsorbiraju više podataka kako bi im lakše pronašli ove vrste montaža .