Inspirisan ljudskim mozgom – IBM-ov najnoviji AI čip može biti 25 puta efikasniji od GPU-a
Naučnici su razvili procesor izgrađen na neuronskim mrežama koji može izvršavati AI zadatke mnogo brže od konvencionalnih čipova tako što eliminiše potrebu za pristupom spoljnoj memoriji.
Procesor pod imenom NorthPole eliminiše potrebu za RAM-om kako bi ubrzao rad
Čak i najbolji CPU-ovi nailaze na probleme pri obradi podataka, jer proračuni zahtevaju korišćenje RAM-a, pri čemu prenos podataka napred-nazad stvara neefikasnosti. IBM se nada da će rešiti ono što se naziva Von Nojmanovim uskim grlom sa svojim čipom NorthPole.
Procesor NorthPole ugrađuje malu količinu memorije u svaki od svojih 256 jezgara, koja su povezana na način sličan tome kako su delovi mozga povezani belom masom. To znači da čip potpuno eliminiše usko grlo.
Inspirisan ljudskim mozgom
IBM-ov NorthPole je više dokaz o konceptu nego potpuno funkcionalan čip koji može konkurisati firmama kao što su AMD i Nvidia. Na primer, sadrži samo 224 MB RAM-a, što je nedovoljno za AI ili za pokretanje velikih jezičkih modela (LLM). Čip takođe može da pokreće samo preprogramirane neuronske mreže obučene na odvojenim sistemima. Ali njegova jedinstvena arhitektura znači da se ističe po energetskoj efikasnosti. Naučnici tvrde da bi, ako bi se NorthPole napravio danas sa najmodernijim standardima proizvodnje, bio 25 puta efikasniji od najboljih GPU-ova i CPU-ova.
“Jednostavno je neverovatna energetska efikasnost”, kaže Damijen Kerlioz, istraživač iz oblasti nanoelektronike na Univerzitetu Pariz-Saclay u Palaiseau. “Rad objavljen u časopisu Science pokazuje da se računanje i memorija mogu integrisati u velikom obimu”, kaže. “Mislim da će ovaj rad promeniti uobičajeno razmišljanje u računarskoj arhitekturi.”
Takođe može prestići AI sisteme u zadacima poput prepoznavanja slika. Njegova arhitektura neuronskih mreža znači da donji sloj prima podatke, poput piksela na slici, a sledeći slojevi počinju da prepoznaju obrasce koji postaju složeniji kako se informacije prenose sa jednog sloja na sledeći. Najviši sloj potom daje krajnji rezultat, kao što je sugestija da li slika sadrži određeni objekat.
Izvor: Techradar
Možda će vas zanimati:
Naučnici su razvili procesor izgrađen na neuronskim mrežama koji može izvršavati AI zadatke mnogo brže od konvencionalnih čipova tako što eliminiše potrebu za pristupom spoljnoj memoriji. Procesor pod imenom NorthPole eliminiše potrebu za RAM-om kako…