Istraživačka studija je pokazala da je najnoviji model koji je razvila kineska kompanija za veštačku inteligenciju Z.AI (ranije poznata kao Zhipu AI) uspešno izveo složene sajber napade u simuliranom okruženju i više puta ignorisao uputstva.
Prema podacima koje je 28. oktobra objavila kompanija za procenu bezbednosti veštačke inteligencije Irregular, model "GLM-5.3", koji je Z.AI predstavio u avgustu, uspešno je od početka do kraja izveo tri od 13 višefaznih scenarija sajber napada barem po jednom.
Model je dobio neovlašćeni pristup zaštićenim uslugama, uspostavio zaobilazne veze za infiltraciju u mreže, kontrolisao više uređaja i sprovodio sajber napade.
Štaviše, nijednom nije pokazao odbijanje u pogledu dodeljenih zadataka napada.
U odvojenoj proceni, prekršio je uputstva o zabrani kako bi došao do odgovora i samovoljno…
