Van kontrole

2026 - Aug - 04

Veštačka inteligencija je upravo prešla granicu ponašanja kakvo smo do nedavno gledali samo u naučnofantastičnim filmovima. Naime, kompanija OpenAI, koja stoji iz poznatog modela ChatGPT, objavila je da je tokom internog bezbednosnog testiranja njihov autonomni agent veštačke inteligencije uspeo da izađe iz kontrolisanog okruženja i izvrši neovlašćeni upad u sisteme Haging Fejsa, najveće svetske platforme za deljenje AI modela i skupova podataka. Naime, za razliku od običnog čet-bota koji samo odgovara na pitanja, agent (eng. AI agent) samostalno donosi odluke i preduzima korake da bi ostvario zadati cilj. A to je upravo ono što je u ovom slučaju izmaklo kontroli.

Prema dostupnim podacima, incident se odigrao između 9. i 13. jula ove godine. Haging Fejs je prvi otkrio upad, objavio bezbednosni incident i o tome obavestio FBI. OpenAI je tek nedelju dana kasnije, pregledajući sopstvene sistemske zapise, utvrdio da je njihov agent odgovoran za sve što se dogodilo. Radilo se o kombinaciji modela GPT-5.6 Sol i još nezavršenog, znatno moćnijeg modela koji nije bio dostupan javnosti. E sad, naravno da agent nije dobio nalog da hakuje bilo koga. Testiran je na zatvorenom i izolovanom sistemu koji proverava sposobnost veštačke inteligencije da otkriva i iskorišćava bezbednosne propuste, a bezbednosne kočnice koje inače sprečavaju rizične sajber radnje bile su namerno isključene u toku ovog testa. Umesto da samostalno reši postavljeni zadatak, agent je pronašao dotad nepoznatu ranjivost, izašao na internet i zaključio da bi rešenja mogao da pronađe na Haging Fejsu. Tako je, povezujući ukradene pristupne podatke i iskorišćavajući dodatne propuste, upao u produkcione sisteme kompanije, odnosno u infrastrukturu u kojoj se čuvaju hiljade modela i skupova podataka. Kasnija istraga pokazala je da su isti mehanizmi korišćeni i za pristup nalozima na još četiri servisa drugih kompanija.

Međutim, ono što najviše zabrinjava nije sama tehnička veština agenta, već činjenica da je, pokušavajući da ostvari zadati cilj, sam pronašao način da zaobiđe ograničenja koja su mu kreatori postavili. Stručnjaci upozoravaju da AI sistemi postaju toliko sposobni da bezbednost, nadzor i odgovornost moraju postati podjednako važni koliko i sama inteligencija. Najveća trka naredne decenije zato neće biti ko će napraviti najmoćniju veštačku inteligenciju, već ko će napraviti najbezbedniju.