pratite me na:
Verovatno ste primetili da svi veliki internet pretraživači, poput Gugla, sada na početku liste odgovora na vaš upit prikazuju sažetak koji je generisan odgovarajućim mehanizmima veštačke inteligencije. Na prvi pogled, ovo deluje kao neuporedivo brži i jednostavniji način za dolazak do željene informacije nego što je to slučaj sa klasičnom pretragom gde morate da prolazite kroz desetine veb lokacija i stranica. Zbog toga ovi AI sažeci u pretragama sve češće postaju prvi i jedini izvor informacija za veliki broj korisnika.
Upravo u tome leži najveći rizik. Umesto da otvore više linkova i sami procene pouzdanost izvora, ljudi dobijaju jedan gotov odgovor koji deluje tačno, neutralno i provereno. Međutim, taj odgovor ne mora biti ni tačan, ni proveren, a često je ponajmanje neutralan. Osim nenamernih grešaka u mehanizmima veštačke inteligencije, sve je više primera u kojima se u AI sažetke namerno ubacuju loše ili obmanjujuće informacije. Za to se koriste napredne tehnike optimizacije sadržaja prilagođene načinu na koji sistemi veštačke inteligencije analiziraju i rangiraju podatke. Takav sadržaj je često pažljivo strukturiran, pisan autoritativnim tonom i dizajniran tako da deluje pouzdano i relevantno za algoritme. Time AI sistemi mogu biti navedeni da u sažetke uključe lažne finansijske savete, opasne zdravstvene preporuke, pogrešne tehničke instrukcije ili čak uputstva koja vode ka prevarama i krađi ličnih podataka. Problem je dodatno izražen zbog toga što korisnici često ne vide jasno poreklo informacija, niti imaju razlog da sumnjaju u odgovor koji se nalazi na vrhu pretrage.
Na žalost, zlonamernici i prevaranti su naučili kako da “nahrane” veštačku inteligenciju. Za razliku od tradicionalnih rezultata pretrage, gde se prikazuje više izvora koje korisnik može sam da upoređuje i analizira, AI sažeci prikrivaju izvor i kontekst podataka. Kada se manipulisane informacije predstave kao jedinstven i konačan odgovor, rizik od stvarne štete značajno raste. Zbog toga je važno da se veštačka inteligencija koristi kao alat i podrška, a ne kao apsolutni autoritet. Kritičko razmišljanje, dodatna provera izvora i svest o mogućim manipulacijama postaju neophodni, dok tehnološke kompanije imaju sve veću odgovornost da svoje sisteme učine otpornijim na zloupotrebe.
Ostavi komentar