PRIJEDLOG ZA USVAJANJE ZAKONODAVNOG OKVIRA ZA ZAŠTITU DJECE OD UMJETNE INTELIGENCIJE
Tekst: N. M.
Foto: UNICEF
Povodom donošenja Odluke Vlade RH o pokretanju postupka izrade Nacionalnog plana za razvoj umjetne inteligencije za razdoblje do 2032. godine, udruga Pragma predlaže stvaranje jasnog zakonodavnog i društvenog okvira usmjerenog zaštititi djece u online prostoru zbog razvoja umjetne inteligencije.
Nedavno je Povjerenik za djecu Engleske, potaknut rastom seksualnog zlostavljanja djece uzrokovanog umjetnom inteligencijom, pozvao vladu Engleske da zabrani aplikacije koje koriste umjetnu inteligenciju za stvaranje seksualno eksplicitnih slika djece, a pozitivne reakcije iz vlade ukazuju kako će Velika Britanija biti prva zemlja koja na sustavan način uređuje pitanja zaštite djece i razvoja umjetne inteligencije. Opasan proces „nudifikacije“ djece gdje umjetna inteligencija uređuje fotografije stvarnih ljudi kako bi izgledali goli, uz deepfakeove (videozapisi, slike ili audio isječci napravljeni umjetnom inteligencijom kako bi izgledali ili zvučali stvarno), dovode do opasnosti da takve aplikacije ostaju nekontrolirane s ekstremnim posljedicama u stvarnom svijetu za djecu i mlade.
Nužno je da svi materijali – stvoreni i umjetnom inteligencijom budu jasno označeni kao ilegalnite se moraju ustanoviti (nova) kaznena djela za stvaranje, posjedovanje ili distribuciju alata umjetne inteligencije osmišljenih za stvaranje takvog seksualnog sadržaja, predlažu iz udruge Pragma.
Nadalje, britanska izvješća upozoravaju kako tehnologije umjetne inteligencije nerazmjerno ciljaju na djevojke i mlade žene, a mnoge aplikacije po mjeri izgledaju kao da rade samo na ženskim tijelima. Rezultat toga je da djevojke aktivno izbjegavaju objavljivanje slika ili interakciju na internetu kako bi smanjile rizik od napada, na isti način na koji djevojke slijede druga pravila kako bi se zaštitile u stvarnom svijetu.
Potrebno je izraditi Zakon o online sigurnosti koji će detaljnije urediti zabranu aplikacija za „nudifikaciju“; urediti kazneno-pravne posljedice dijeljenja ili prijetnje dijeljenja eksplicitnih deepfake sadržaja; strogo kažnjavati posjedovanje i dijeljenje „priručnika za pedofile s umjetnom inteligencijom“ koja ljude uče kako koristiti umjetnu inteligenciju za seksualno zlostavljanje djece i mladih; također, potrebno je detaljno urediti protuzakonito posjedovanje, stvaranje ili distribuciju alata umjetne inteligencije dizajniranih za stvaranje takvog materijala te urediti djelovanje svih platformi koje moraju ukloniti ovu vrstu sadržaja, zaključuju iz udruge Pragma.
Osim toga, potrebno je nametnuti zakonske obveze programerima generativnih alata umjetne inteligencije da identificiraju i riješe rizike koje njihovi proizvodi predstavljaju za djecu te poduzmu mjere za ublažavanje tih rizika, uključujući otežavanje pristupa djeci takvim sadržajima; uspostaviti sustavni proces za uklanjanje seksualno eksplicitnih deepfake slika djece s interneta te prepoznati deepfake seksualno zlostavljanje kao oblik nasilja nad djecom. Web stranice moraju uvesti pojačane provjere dobi, ili se suočiti s velikim kaznama, a potrebno je uvesti kažnjavanje web stranica na kojima pedofili mogu dijeliti sadržaj o seksualnom zlostavljanju djece ili davati savjete o tome kako se dotjerivati za djecu. Također, nužno je dati veće ovlasti policiji u mjerama za koje sumnjaju da predstavljaju seksualni rizik za djecu te narediti osobama da otključaju svoje digitalne uređaje radi pregleda kada pokušaju ući u Republiku Hrvatsku, budući da se takvi sadržaji često snimaju u inozemstvu, završno izjavljuju u udruzi Pragma.
