Dvadeset zemlja predlaže međunarodni nadzor AI da bi ostala pod kontrolom ljudi

Veštačka inteligencija mora da ostane pod nadzorom i kontrolom ljudi i da se razvija i koristi u skladu s međunarodnim pravom, navodi se u deklaraciji koju je usvojilo 20 zemalja, pozivajući na međunarodnu saradnju u upravljanju rizicima, uključujući mogućnost osnivanja globalnog nadzornog tela.

U deklaraciji se ističe da veštačka inteligencija ima "potencijal da poboljša živote, unapredi nauku i ojača ekonomiju" ali se upozorava da "brzi razvoj najnaprednijih modela AI nosi ozbiljne rizike po bezbednost i sigurnost ukoliko se njima ne upravlja na odgovarajući način".

Deklaraciju, usvojenu u ponedeljak na marginama Generalne skupštine UN, podržali su, između ostalih, Norveška, Finska, Nemačka, Holandija, Španija, Danska, Irska, Kanada, Australija, Južnoafrička Republika, Singapur i Turska, a među potpisnicima je i predsednica Evropske komisije Ursula fon der Lajen.

SAD i Kina, vodeće zemlje u razvoju veštačke inteligencije, nisu potpisale ovu deklaraciju, kao ni Velika Britanija, Francuska, Italija, Indija, Japan.

Predsednik Finske Aleksandar Stub, jedan od inicijatora izrade ovog dokumenta, rekao je da se nada da će se veći broj aktera priključiti.

"Mislim da je u interesu i Kine i SAD da imamo neku vrstu sigurnosnog mehanizma. Naša poruka je da nam je potrebna ljudska intervencija, da ljudi imaju glavnu reč", rekao je Stub za briselski portal Politiko.

U cilju upravljanja rizicima povezanim sa najnaprednijim tehnologijama AI, potpisnici deklaracije pozivaju kompanije da razviju "transparentne bezbednosne protokole, uključujući obavezno testiranje pre puštanja u rad i nezavisnu procenu".

Vlade i regionalne organizacije se pozivaju da razvijaju i koordiniraju zajedničke standarde, jačaju transparentnost, "uključujući zajedničko izveštavanje o ozbiljnim bezbednosnim incidentima", i obezbede da sve zemlje imaju pristup naučnim i stručnim kapacitetima i pouzdanim procenama.

"Države članice UN treba da nadograde postojeće međunarodne mehanizme i razmotre osnivanje međunarodne institucije koja bi postavila standarde, omogućila verifikaciju i pozvala države kada se prekorače pragovi kritičnih sposobnosti", navodi se u deklaraciji.

Stub je za Politiko rekao da se potpisnici zalažu za osnivanje nove institucije, slične Međunarodnoj agenciji za atomsku energiju, u okviru UN, ali da to pitanje treba ostaviti otvorenim "da ljudi ne bi odbacili inicijativu samo zato što bi bila u okviru UN".

Kao tri glavna razloga zbog kojih nedostatak efikasnog nadzora AI predstavlja pretnju, Stub je naveo biološko oružje kreirano pomoću AI, sajber napade koje izvode AI agenti i roboti-ubice koji koriste veštačku inteligenciju za smrtonosne napade.

Stub je istakao da prednosti veštačke inteligencije mogu biti mnogo veće, ako se tehnologija pravilno koristi, uključujući "iskorenjivanje bolesti, produktivnost, informacije i mnoge druge stvari".