Dok skrolujemo kroz Instagram, TikTok ili Facebook, rijetko mislimo na ljude koji su prije nas vidjeli ono što nama nikad neće stići na ekran. Objavimo fotografiju, ostavimo komentar, odgovorimo nekome i idemo dalje. Iza tog običnog gesta stoji sistem pravila, algoritama i ljudi koji u djeliću sekunde procjenjuju šta smije ostati online, šta mora nestati, a šta traži dodatnu provjeru.

Jedan od njih je moderator sadržaja.

Posao koji samo naizgled djeluje jednostavno

Na papiru, zadatak je jasan: pronaći neprimjeren sadržaj i ukloniti ga. U praksi, ekran pred moderatorom rijetko nudi tako čiste odgovore. U istom satu mogu mu stići uvreda, prijetnja, prevara, uznemirujuća fotografija i komentar koji je neugodan, provokativan, ali ipak samo nečije mišljenje.

Upravo tu počinje suština njegovog posla. Nije sve što vrijeđa govor mržnje, niti svaki neprijatan stav zaslužuje brisanje.

Gdje prestaje mišljenje, a počinje mržnja

Sloboda izražavanja ne štiti samo ugodne i popularne stavove. Ona obuhvata i kritiku koja zasmeta, mišljenje koje šokira, i riječi koje bole. Istovremeno, granica postoji, jer kada je sadržaj nezakonit ili kada širi i podstiče mržnju prema ljudima zbog toga ko su, ograničavanje je opravdano. Evropske institucije zato ističu da moderacija mora štititi korisnike, ali i njihova osnovna prava, uključujući pravo da kažu ono što drugima ne prija.

Zato moderator rijetko može odlučiti na osnovu nekoliko riječi, već presuđuje kontekst: ko je meta komentara, šta je autor zaista rekao, je li riječ o kritici, šali, uvredi ili prijetnji, i krši li sadržaj pravila baš te platforme. Isti komentar, u drugom kontekstu, može dobiti potpuno drugačiju odluku.

Tri komentara, tri odluke

Dovoljno je zamisliti tri komentara ispod iste objave.

„Ne slažem se sa ovim stavom.“ Obično, legitimno mišljenje. Nema razloga da nestane.

„Ovo je glupo.“ Nepristojno, možda uvredljivo, ali samo po sebi ne mora biti govor mržnje. Ovdje moderator već mora da pita: čemu se to „glupo“ odnosi, i ko je meta?

Treći komentar napada čitavu grupu ljudi zbog njihove nacionalnosti, vjere ili drugog ličnog svojstva i poziva na mržnju ili nasilje. Ovo je druga kategorija. Takav sadržaj krši zakon i pravila platforme.

Razlika između druge i treće kategorije nije samo u jačini riječi, nego u njihovoj meti i namjeri. I upravo tu moderator najčešće provodi svoje radno vrijeme.

Ljudi i mašine, pravila i žalbe

Moderacija danas nije ni isključivo ljudski, ni isključivo mašinski posao. Automatizovani sistemi preuzimaju ogromnu količinu sadržaja, ali sporne i nejasne slučajeve i dalje procjenjuju ljudi, oslanjajući se na pravila platforme i na zakonski okvir.

Evropska unija je kroz Akt o digitalnim uslugama (Digital Services Act) uvela dodatne obaveze za online platforme: mehanizme za prijavu nezakonitog sadržaja, jasnije obrazloženje odluka o uklanjanju i mogućnost da korisnik ospori odluku ako smatra da mu je sadržaj neosnovano uklonjen. Drugim riječima, moderatorova odluka više nije tačka na kraju rečenice, već nešto što se može preispitati. Ovaj propis nedavno je postao dio zakonodavstva i u Crnoj Gori. 

Evropski pristup naglašava saradnju platformi, transparentnost i pravovremeno postupanje po prijavama.

Posao na granici

Zbog svega navedenog, moderator je mnogo više od osobe koja „briše loše komentare“. Njegov posao je da svakodnevno, iznova i često pod pritiskom vremena, odgovara na pitanje na koje ni društva ni pravnici nemaju jednostavan odgovor: gdje se završava pravo jednog čovjeka da kaže šta misli, a počinje pravo drugog da ne bude ugrožen, diskriminisan ili ponižen.

Projekat Digitalni kompas – Medijski radnici/e između medijske pismenosti, AI i DSA/DMA, koji realizuje Sindikat medija Crne Gore podržan je kroz program „Zaštita prava i promocija digitalnog građanstva: Crnogorski digitalni štit (MDS)“ koji sprovodi Centar za građansko obrazovanje (CGO) u partnerstvu sa SHARE fondacijom, i u saradnji sa Agencijom za audiovizuelne medijske usluge, a uz finansijsku podršku Evropske unije i kofinansiranje Ministarstva regionalno-investicionog razvoja i saradnje sa nevladinim organizacijama.

Sadržaj ovog videa isključiva je odgovornost Sinikata medija Crne Gore i ne odražava nužno stavove CGO-a, SHARE-a, AMU-a, Evropske unije ili Ministarstva regionalno-investicionog razvoja i saradnje sa nevladinim organizacijama. 

Napomena: U pripremi ovog sadržaja korišćen je alat generativne vještačke inteligencije. Sadržaj je provjerila i odobrila redakcija.