Bezbednosni eksperiment pretvorio se u upozorenje iz stvarnog sveta kada je sistem veštačke inteligencije zaobišao ograničenja i pristupio infrastrukturi druge tehnološke kompanije.
Tokom internog testiranja sajber sposobnosti, jedan autonomni AI agent kompanije OpenAI pronašao je način da izađe iz izolovanog digitalnog okruženja, pristupi internetu i neovlašćeno uđe u deo infrastrukture platforme Hugging Face. Sistemi su pokušavali da izvrše zadati test, ali su do cilja stigli putem koji stručnjaci nisu predvideli. Incident je otkriven i zaustavljen, a kompanije navode da nije postojao nalog niti namera da se pričini šteta. Slučaj, ipak, pokazuje da autonomni AI agenti mogu da pronađu neočekivane načine za zaobilaženje ograničenja, zbog čega će bezbednosna testiranja, nadzor i kontrola pristupa morati da napreduju najmanje jednako brzo kao i sami modeli.
