OpenAI: Prvi hakerski napad modela veštačke inteligencije bio obimniji nego što se mislilo
Američka kompanija Oupen Ej-Aj (OpenAI) je danas otkrila da je prvim potpuno autonomnim hakerskim napadom odmetnutih modela veštačke inteligencije bilo obuhvaćeno više kompanija nego što se prvobitno mislilo.
Do sada se verovalo da je platforma Haging fejs (Hugging Face) bila jedina žrtva do sada nezabeleženog hakerskog napada odmetnutih Čet-Dži-Pi-Ti (ChatGPT) modela, ali je kompanija Oupen Ej-Aj danas priznala da je njen bot napao još nekoliko "javno dostupnih servisa", prenosi Bi-Bi-Si.
Kompanija je navela da je sistem veštačke inteligencije koji je izmakao kontroli pronašao na internetu pristupne podatke za četiri korisnička naloga, što mu je omogućilo da im pristupi.
Kompanija Haging fejs je u međuvremenu, na vanrednom sastanku sa stotinama stručnjaka za sajber bezbednost, opisala kako je biti meta prvog potpuno autonomnog hakerskog napada veštačke inteligencije na svetu.
Ta firma je opisala da je veštačka inteligencija radila nadljudskom brzinom, ali da je istovremeno donosila čudne odluke i pravila greške koje ne bi napravio nijedan čovek kao haker.
Platforma Haging fejs, koja je poput prodavnice aplikacija za alate veštačke inteligencije, navela je da su hakerski modeli isprobavali hiljade različitih metoda istovremeno.
Kompanija je prethodno, 16. jula, objavila da je bila meta hakera koji je koristio moćnu autonomnu veštačku inteligenciju i da je slučaj prijavila policiji.
Gotovo nedelju dana kasnije, kompanija Oupen Ej-Aj je priznala da je njena veštačka inteligencija izašla iz zatvorenog okruženja tokom testiranja i samostalno napala platformu Haging fejs.
Taj sistem je usmerio napad na Haging fejs dok je pokušavao da nađe odgovore za hakerski ispit koji mu je zadala kompanija Oupen Ej-Aj.
Danas je kompanija Oupen Ej-Aj ažurirala saopštenje, otkrivši da je napad bio obimniji nego što se prvobitno mislilo.
"Modeli su identifikovali i iskoristili javno izložene pristupne podatke o korisničkim nalozima na drugim javno dostupnim servisima. To uključuje četiri naloga na četiri servisa", navela je kompanija Oupen Ej-Aj.
Ona nije precizirala da li pod "javno dostupnim servisima" misli na druge kompanije, ali je navela da novi napadi nisu bili istog nivoa težine kao hakovanje platforme Haging fejs.
U utorak je industrijsko telo Alijansa za bezbednost u klaudu (Cloud Security Alliance) objavilo izveštaj zasnovan na vanrednom sastanku koji je kompanija Haging fejs održala u petak.
Alijansa je navela da su modeli veštačke inteligencije "često birali neefikasne puteve i ispoljavali nespretno ponašanje koje nijedan čovek ne bi odabrao".
Modeli veštačke inteligencije su ponavljali radnje koje su ranije već izvršili, što je znak da je agentska veštačka inteligencija gubila tok izvršavanja zadataka i kontekst, dodala je Alijansa.
Platforma Haging fejs je upozorila da su modeli veštačke inteligencije, uprkos greškama i čudnom ponašanju, "izveli brilijantne tehničke poteze" i da su mogli brzo da se prilagode novim scenarijima tokom višednevnog hakerskog napada.
Napadači su u mreži Haging fejsa otkriveni tek posle tri dana, a stručnjacima te kompanije za veštačku inteligenciju i sajber bezbednost trebalo je mnogo sati da ih zaustave i izbace iz sistema, što bi za obične kompanije bio ozbiljan problem.
Kompanija nije otkrila koliku je finansijsku štetu pretrpela zbog hakerskog napada, ali je navela da su zaposleni mnogo sati radili kako bi obnovili trećinu infrastrukture.
Teme
Tehnologija
