Stručnjaci traže regulativu za usporavanje razvoja veštačke inteligencije

Više od hiljadu saradnika vodećih tehnoloških firmi koje se bave razvojem veštačke inteligencije izjasnilo se da se na globalnom nivou stvore mehanizmi za usporavanje razvoja AI.

U otvorenom pismu, koji je potpisao 1.171 saradnik vodećih tehnoloških koncerna, izražava se zabrinutost da bi moglo da dođe do gubitka kontrole nad AI, piše danas agencija dpa.

Među potpisnicima su vodeći naučnici i menadžeri koncerna poput OpenAI, Anthropic, i Meta.

Oni su na američku administraciju apelovali da se pridruži međunarodnim naporima na defnisanja tehničkih uslova i regulative za upravljanje razvojem veštačke inteligencije.
     
Naučnici upozoravaju da bi veštačka inteligencija uskoro mogla da bude sposobna da samostalno razvija svoj softver.

Već sada veštačka inteligencija piše velike delove programskog koda svog sofvera, ali pod ljudskim nadzorom. Upozorava se da će prekretnica nastupiti kada to pisanje programa bude automatizovano.

U pismu se navodi da je teško prognozirati koliko bi to moglo da ubrza razvoj AI, ali i da postoji ozbiljan rizik da će premašiti sposobnost ljudi da razumeju i kontrolišu takav novi softver.

Potreban je usklađeni međunarodni napor, pošto se svaka zemlja i svaka tehnološka firma nalaze pod pritiskom da ne usporavaju razvoj AI kako bi bile konkurentne. Uz to, trenutno nedostaju i tehnološki mehanizmi za takvu regulativu, navodi se u pismu.

Poziv na uzbunu u mnogim delovima tehnološkog sektora bio je, piše dpa, nedavni incident kada je jedan model AI koncerna OpenAI iz prostora za testiranje uspeo da prodre na internet.

AI je zatim, da bi našla rezultate za svoj test, hakerisalala kompjuterske sisteme druge firme nakon što je iskoristila rupe u zaštiti sistema.