Snimak koji je prošle godine pripisivan Milošu Medenici trajao je samo nekoliko sekundi, ali je otvorio pitanje na koje crnogorske redakcije još nemaju jasan odgovor: koliko brzo i pouzdano mogu provjeriti autentičnost audio i video zapisa. Iako se sadržaji generisani uz pomoć ove tehnologije dominantno distribuiraju preko društvenih mreža, u praksi su zabilježeli slučajevi da budu preuzeti od „mejnstrim” medija. 

Redakcijama potrebna tehnološka ekspertiza

Dražen Đurašković iz Sindikata medija Crne Gore smatra da spremnost još nije na nivou koji zahtijeva brz razvoj generativne vještačke inteligencije. Novinari i redakcije imaju iskustvo u provjeri informacija, ali za prepoznavanje sofisticiranog sintetičkog materijala su potrebna dodatna znanja, jasne procedure i odgovarajući alati.

„Razvoj tehnologije je toliko brz da više nije dovoljno oslanjati se na vizuelne ili zvučne nepravilnosti kao znak da je određeni sadržaj lažan“, upozorava on.

Slično ocjenjuje i Branko Džakula, stručnjak za sajber bezbjednost i suosnivač kompanije Secfix.

„Najveći broj redakcija u Crnoj Gori nema pisanu proceduru za provjeru audio i video materijala koji stiže izvan redakcije, nema imenovanu osobu odgovornu za tu provjeru, niti ima unaprijed uspostavljen kontakt sa nekim ko može uraditi forenzičku analizu snimka u roku od nekoliko sati“, kaže Džakula.

Džakula

U praksi se provjera često svodi na procjenu urednika i na to koliko snimak djeluje uvjerljivo, a taj kriterijum generativni modeli sve lakše nadmašuju. Male redakcije ipak imaju prednost: ljudi se poznaju, lanac odlučivanja je kratak, a kolege prepoznaju glas i dikciju jedni drugih. Uz jasnu proceduru mogu reagovati brže od velikih medijskih kuća, ali ona mora postojati prije sumnjivog snimka.

„Nedostaje odluka da se procedura napiše, uvježba i primjenjuje i onda kada je materijal atraktivan i kada postoji pritisak da se objavi prvi“, kaže Džakula.

Od lažne reklame do političke manipulacije

Primjera upotrebe ove tehnologije je mnogo. Džakula kao primjer zloupotrebe lika navodi lažnu reklamu za investicionu platformu u kojoj je iskorišćen lik voditelja informativnog programa, a takva prevara funkcioniše upravo zbog povjerenja koje publika ima prema tom licu.

Drugi rizik je politička manipulacija u osjetljivim trenucima. Džakula podsjeća na slučaj Slovačke iz septembra 2023. godine, kada je lažni audio-snimak objavljen dva dana prije izbora, tokom izborne tišine, što je otežalo pravovremeni demanti.

Poseban rizik predstavljaju zloupotrebe usmjerene prema ženama, uključujući novinarke.

„Istraživanja sprovedena od 2019. godine naovamo dosljedno pokazuju da najveći dio dipfejk materijala na internetu čini nekonsensualni seksualni sadržaj i da je u ogromnoj većini usmjeren prema ženama“, kaže Džakula.

Kako se provjerava autentičnost?

Stručnjaci upozoravaju da bi redakcije morale unaprijed da znaju ko provjerava izvor i originalni fajl, kako se traži nezavisna potvrda i ko donosi odluku o objavljivanju, te da ne bi trebalo da se oslanjaju na jedan AI detektor.

Džakula predlaže tri nivoa provjere: porijeklo materijala, nezavisnu potvrdu i tek na kraju tehničku analizu.

„Tu može pomoći i standard C2PA, odnosno Content Credentials, koji omogućava da uz sadržaj postoji provjerljiv zapis o tome čime je napravljen i šta je nad njim naknadno rađeno“.

Drugi nivo je nezavisna potvrda, što podrazumijeva kontakt sa osobom čiji se lik ili glas koristi, putem ranije uspostavljenog kanala komunikacije, kao i poređenje sa arhivom.

„Provjerava se da li je emisija tog dana uopšte emitovana i da li se poklapaju špica, grafika, potpis u dnu ekrana, scenografija i sat u studiju“, objašnjava Džakula.

Tek nakon toga dolazi tehnička analiza: posmatraju se, između ostalog, ivice oko vilice i kose, ritam treptanja, nesklad između pokreta usana i glasova, akustika prostorije i disanje u audio zapisu.

„Postoje i automatski detektori sintetičkog sadržaja, ali njihova pouzdanost može opasti kada je snimak više puta kompresovan i prekodiran, što je često slučaj sa materijalom koji kruži društvenim mrežama. Nalaz detektora treba tretirati kao indikaciju, a nikada kao dokaz“, kaže Džakula.

Regulator: AI nije problem sam po sebi

Damir Nikočević iz Agencije za audio vizuelne medijske usluge (AMU) kaže da regulatorni okvir u Crnoj Gori nema posebnu kategoriju za dipfejk sadržaj, te da . Agencija do sada nije dobijala prigovore koji se odnose na AI-generisani ili vještačkom inteligencijom izmijenjen sadržaj.

Zakon o audiovizuelnim medijskim uslugama iz 2024. ne uređuje takav sadržaj kao posebnu kategoriju, ali on zato ne ostaje izvan regulatornog okvira.

„Za Agenciju je, stoga, odlučujuće da li konkretan sadržaj, nezavisno od tehnologije kojom je proizveden, predstavlja povredu obaveza propisanih Zakonom i podzakonskim aktima. Ukoliko bi AI-generisani ili manipulisani sadržaj, na primjer, povrijedio prava i interese lica, ugrozio maloljetnike ili prekršio neku drugu zakonsku obavezu, Agencija bi slučaj razmatrala u skladu s postojećim pravnim okvirom. Postupak može biti pokrenut po službenoj dužnosti ili na osnovu prigovora, nakon čega Agencija utvrđuje relevantne činjenice i, ukoliko utvrdi povredu propisa, preduzima odgovarajuće mjere.“

Na regulatorni okvir ne treba čekati

Redakcije ne moraju čekati nove propise da bi uredile sopstvenu praksu. Džakula smatra da bi svaka već sada trebalo da ima pisanu proceduru za postupanje sa materijalom nepoznatog porijekla, imenovanu odgovornu osobu i pravilo da se ništa ne emituje bez druge, nezavisne potvrde. Za hitne komunikacije predlaže i kontrolnu riječ ili pitanje na koje odgovor zna samo sagovornik. Redakcije bi trebalo da štite i sopstvenu produkciju čuvanjem originalnih fajlova i vremenskih oznaka, korišćenjem Content Credentials i javno dostupnom arhivom emitovanog programa.

Posebno je važan plan reagovanja nakon što se lažni sadržaj pojavi.

„On obuhvata pripremljen tekst demantija, obavezu da se reaguje u roku od jednog sata, a ne narednog dana, određenog portparola, unaprijed pripremljene prijave platformama za uklanjanje sadržaja i kontakt sa Nacionalnim CIRT-om Crne Gore i policijom“, kaže Džakula.

Dokaze treba prikupljati odmah: linkove, snimke ekrana, vremenske oznake i kriptografske otiske fajlova. Obuka ne bi trebalo da ostane na teoriji, pa Džakula predlaže najmanje dvije praktične obuke godišnje, sa simuliranim incidentom u kojem se koristi lažni snimak napravljen od materijala same redakcije. Podjednako je važno da redakcija napad na lik i glas svog novinara tretira kao napad na sebe.

Problem nije samo u redakcijama

Đurašković

Đurašković naglašava da je ova tehnologija donijela dvostruki problem čije dimenzije ne treba potcijeniti: sintetički mediji omogućavaju da lažno izgleda kao stvarno, ali i da se stvarno lakše proglasi lažnim. Taj drugi dio poznat je kao „liar’s dividend“, odnosno korist koju neko ostvari tako što autentičan sadržaj predstavi kao dipfejk.

„Sama činjenica da ova tehnologija postoji omogućava političarima, javnim ličnostima i drugim akterima da kompromitujući autentični snimak pokušaju da proglase falsifikatom“, kaže Đurašković.

Takođe, prema njegovim riječima, bilo bi pogrešno da odgovornost bude samo redakcijska: „Istovremeno imamo i širi problem preplavljivanja digitalnog prostora takozvanim ‘AI slopom’, velikom količinom brzo i jeftino proizvedenog sintetičkog sadržaja bez odgovarajuće ljudske provjere“.

Zato, smatra, ovaj problem ne mogu riješiti samo novinari i urednici. Potrebni su veća odgovornost tehnoloških platformi, odgovarajući regulatorni mehanizmi, razvoj medijske i AI pismenosti i kontinuirana obuka novinara. Za redakcije to znači da provjera autentičnosti ne može biti vanredna reakcija na sumnjiv snimak, već dio redovnog novinarskog postupka.

Ova priča je nastala uz finansijsku podršku Evropske unije u okviru projekta SMS Facility – Small Media Support in Western Balkans, koji sprovodi Centar za demokratsku tranziciju (CDT). Sadržaj je isključiva odgovornost autora i ne odražava nužno stavove, mišljenja ili vrijednosti Evropske unije ili Centra za demokratsku tranziciju (CDT).

Napomena: U pripremi ovog sadržaja korišćen je alat generativne vještačke inteligencije. Sadržaj je provjerila i odobrila redakcija.