Malezija i Indonezija prve blokirale Maskov Grok zbog eksplicitnih slika veštačke inteligencije

Malezija i Indonezija postale su prve zemlje koje su blokirale Grok, četbot zasnovan na veštačkoj inteligenciji koji je razvila kompanija Iks Ej Aj (xAI) Ilona Maska, nakon što su vlasti saopštile da je alat zloupotrebljavan za stvaranje seksualno eksplicitnih slika bez pristanka osoba koje su na njima prikazane.

Ove mere odražavaju rastuću globalnu zabrinutost zbog AI alata koji mogu da proizvode realistične slike, zvuk i tekst, dok postojeći mehanizmi zaštite ne uspevaju da spreče njihovu zloupotrebu. Grok, kojem se pristupa putem Maskove društvene mreže Iks, našao se na meti kritika zbog generisanja manipulisnih slika, uključujući prikaze žena u bikinijima ili seksualno eksplicitnim pozama, kao i slike sa decom.

Regulatori u dve zemlje jugoistočne Azije saopštili su da postojeće kontrole nisu sprečavale stvaranje i širenje lažnog pornografskog sadržaja, posebno onog koji uključuje žene i maloletnike. 

"Vlada smatra seksualne dipfejk sadržaje napravljene bez pristanka ozbiljnim kršenjem ljudskih prava, dostojanstva i bezbednosti građana u digitalnom prostoru", izjavila je indonežanska ministarka za komunikacije i digitalna pitanja Meutja Hafid.

Ministarstvo je navelo da je ta mera uvedena kako bi se zaštitile žene, deca i šira zajednica od lažnog pornografskog sadržaja generisanog uz pomoć veštačke inteligencije.

Preliminarni nalazi pokazali su da Grok nema efikasne zaštitne mehanizme koji bi sprečili korisnike da prave i distribuiraju pornografski sadržaj zasnovan na stvarnim fotografijama stanovnika Indonezije, rekao je u posebnom saopštenju generalni direktor za nadzor digitalnog prostora Aleksandar Sabar.

On je upozorio da takve prakse mogu dovesti do kršenja prava na privatnost i prava na sopstveni lik, kada se fotografije manipulišu ili dele bez pristanka, izazivajući psihološku, društvenu i reputacionu štetu.

U Kuala Lumpuru, Malezijska komisija za komunikacije i multimedije naložila je privremeno ograničenje pristupa Groku, nakon, kako je navedeno, "učestale zloupotrebe" alata za generisanje seksualno eksplicitnih i namerno manipulisanih slika, uključujući sadržaje koji se odnose na žene i maloletnike.

Regulator je dodao da su upozorenja upućena ovog meseca kompanijama Iks i Iks Ej Aj, u kojima se zahtevalo uvođenje snažnijih zaštitnih mera, naišla uglavnom na odgovore koji su se oslanjali na mehanizme prijavljivanja od strane korisnika.