@žutokljunac,
Ne mozes ti AI da iskoristis da ti ispunjava zelje kao Aladinova lampa.
Odakle ti ideja da AI moze da ti nadje lek za kancer? Globalna identifikacija ljudi po hodu, licu i sl. je jednostavno "jezgro" koji se izvrsava na enormnoj kolicini podataka. Trik je da obradis tu enormnu kolicinu podataka sto brze mozes.
Deep Learning "revolucija" je zapravo bila revolucija u kolicinama operacija koje mogu da se izvrse. Alex Krizhevsky, Ilya Sutskever i Geoffrey Hinton su uspeli da spakuju gomilu koeficijenata na dve NVIDIA graficke kartice.
To sto su oni vrteli su bili modeli iz 1980-tih (Hinton-ovi) - kljucna stvar je bila ta sto je 2012-te po prvi put bilo moguce nabiti dovoljno podataka na GPU. "Sitnica" koja je bila dovoljna da se AI otprilike moze podeliti na epohe "pre 2012" i "posle 2012". Toliki je bio skok u tacnosti klasifikacije slika da je AI bukvalno preko noci od slepe ulice postao ponovo relevantan.
I tako je poceo novi talas AI-ja. Za nekoliko godina je benchmark koji je AlexNet pomerio postao irelevantan: AI je premasio sposobnosti ljudi za prepoznavanje objekata u slikama. Ali duboko ispod svega toga su i dalje formule iz 70-tih i 80-tih, samo sto se izvrsavaju na hardveru koji je svetlosnim godinama ispred hardvera ne iz 80-tih nego od pre 10 godina.
Otprilike nastavak one Feynmanove lekcije iz 1985 gde je Feynman za sat vremena od nule objasnio paralelni kompjuter jezikom koje razume dete u prvom osnovne.
Ko je gledao sigurno se seca analogije sa "catom" - prica pocinje sa obicnim kancelarijskim "catom" koji peske ide po podatke, vraca se do svog stola i obradjuje ih u miru pre nego sto ih vrati na svoje mesto.
Kako se prica nastavlja, "cata" postaje sve gluplji i gluplji, ali i sve brzi i brzi. U momentu koji oslikava mikroracunare, "cata" je postao glup kao daska, moze da razume samo 2 stanja (nazovimo ih nula i jedan) i nista drugo ali je brz kao kuc*in sin - juri brzinom svetlosti. Onda sledi novo poboljsanje, umesto jednog cate uposllimo hiljade cata koji jure brzinom svetlosti i svaki radi za sebe. To je inace bio projekat "Connection Machine", masina sa 65536 procesora.
--
Danas bi se ta prica nastavila - cata je i dalje podjednako glup ali i brz kao i 1985.
Ali su uvedene neke nove restrikcije - ne pustamo jednog catu da jurca, nego grupe od N cata (SIMT) gde svaki cata u grupi mora da radi istu stvar kao i ostatak grupe. Ako cata ne treba da pokupi podatke, morace da nastavi da koraca sa ostalim catama ali mu dajemo slobodno da se izduva. Takode, organizovacemo cate da idu po podatke isto u grupama. Ako smo dali zadatak catama tako da svaki od njih uzima podatke koji su odmah pored podataka za predhodnog catu, napravili smo posao: mozemo podatke "zahvatati" na veliko, grupu po grupu. Ko ne zna, izgledace mu da se podaci obradjuju mnogo brze zato sto umesto 1 uzimamo N podataka.
Kakve ovo veze ima sa pricom?
Danasnji AI je izvrsavanje vrlo jednostavnih algoritama. Ali u grupama :-) Uzmes glupog catu (konvoluciju? :-), kloniras ga u milione istih cata i pustis ih da svi jure u isto vreme. Ako toj gomili idiot-cata das enormnu kolicinu podataka, mozes da napravis vrlo zanimljive stvari: da prepoznajes objekte, igras Go, prevodis tekstove.
Ali ne daj se zavarati - to su i dalje cate idioti koji izvrsavaju vrlo jednostavan recept. Jedna tvoja celija je kompleksnija od cele te ekipe. Ne treba ti ni celija, ni DNK lanac, uzmi jedan protein. Trebace ti sve te cate na duze vreme da izracunas sledecih nekoliko sekundi tog proteina.
Lek za kancer kazes? Mislim da jos nemamo ni priblizno dovoljno glupih cata za to. Ali da prepoznamo da si ti taj ko je upravo ke*jao u WC-u? Nekoliko Google-ovih TPU-ova mogu da pokriju sve tvoje komsije i zemljake.
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos:
http://www.digicortex.net/node/17 Gallery:
http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! -
https://github.com/psyq321/PowerMonkey