pratite me na:
Premda se u osnovi najpopularnijih postojećih modela veštačke inteligencije krije ništa drugo do statistička obrada ogromnih količina podataka, njena kompleksnost je nepojmljiva čak i za eksperte koji rade na njihovom razvoju. Ovu temu sam načeo prošle nedelje, kada sam pisao o potezu broj trideset i sedam u partiji igre Go, u kojoj je računar pobedio jednog od najviše rangiranih profesionalnih igrača. Potez koji je softver odigrao bio je nepredvidiv, originalan i neobičan, a opet ključan za pobedu. Zbog toga mnogi smatraju da on predstavlja dokaz kreativnosti veštačke inteligencije i potvrdu pameti njenih modela.
Danas ću se nadovezati na ovu priču. Naime, od momenta postavljanja pitanja veštačkoj inteligenciji, do trenutka pojave konačnog rešenja, dešava se nekoliko faza u procesu analize problema i međuodgovora. To je pre svega matematički model, ali takav da predstavlja neku vrstu rezonovanja. Do nedavno je važilo pravilo da svaki korak mora biti praćen opisom koji je dat prirodnim jezikom. Time su modeli naterani da „razmišljaju naglas“, kako bi ljudi koji rade na njihovom treniranju mogli da ih kontrolišu, koriguju eventualne greške i bolje razumeju sam proces funkcionisanja modela. Iz perspektive efikasnosti, ovo nije idealno jer se pomenuti višedimenzionalni matematički model mora svaki put svesti na jednostavan skup reči. U poslednjim verzijama AI sistema, inženjeri su dozvolili modelima da ovaj proces rade interno, u takozvanom skrivenom prostoru razmišljanja (eng. latent space thinking). Ono što se desilo je takođe svojevrsno čudo. Mašine su za međufaze izmislile sopstveni matematički rečnik koji nije razumljiv ljudima, ali je potpuno optimizovan. Zbog toga se stručnjaci pitaju da li je dobro da izgubimo mogućnost kontrole?
Ne treba zaboraviti da je u meču igre Go, koji sam pomenuo na početku, protiv čoveka igrao specijalizovani namenski softver, a ne opšti model za generalnu primenu. Budući da treba da odgovore na najširi spektar pitanja, jezički modeli imaju ogroman prostor za greške. E sad, pošto ih ljudi neretko pitaju za duboko lične i veoma intimne savete, posledice tih grešaka mogu biti pogubne, uključujući i gubitke života. Pošto softver nema ugrađen sistem vrednosti niti moralni kompas, smatram da najveći mogući stepen kontrole ipak mora da postoji. Ukratko, efikasnost i brzina rada ne mogu biti presudni kriterijumi.
Ostavi komentar