|
29. Maijs 2013|15:20 |
Oh boy, algoritmiskās neirozinātnes diskusijas Cibas komentāros. Nesolu, ka būšu ļoti sakarīgs, bet mēģināšu anyway, jo tēma ir relevanta un interesanta arī man pašam.
Tātad, vispirms fizioloģija. Paternu atpazīšanas un inferences procesi smadzenēs notiek smadzeņu garozā. Garoza sastāv no aptuveni 6 slāņiem, tipiski sauktiem par L1 .. L6. Katru slāni veido liels daudzums garozas kolonnu (šķērsvirzienā orientētu savstarpēji cieši saistītu neironu populāciju). "Jēls" sensoro datu materiāls pienāk L4. No L4, kurā notiek pirmās kārtas invarianto paternu atpazīšana (rotācija, mērogošana, x-y-z pārvietojumi), bottom-up informācija nonāk L5, kur notiek dinamisku (laikā mainīgu) mainīgas kārtas paternu atpazīšana, izmantojot L4 jau atpazītās invariances. No L5 šie dati nonāk L6 slānī, ko veido galvenokārt interneironi, kuru aksoni veido feedback cilpu uz zemākajiem līmeņiem.
L3 un L2 slāņos (kas smadzenēs daudzviet saplūst un veido t.s. L2/3 slāni) nonāk gan top-down informācija no L6, gan bottom-up informācija no L4. Šīs plūsmas tur tiek salīdzinātas un uz varbūtiskas (probabilistic) bāzes šie salīdzinājumi veido pēdējo paternu atpazīšanas procesa daļu - konceptu kā kognitīvu "tagu", kas tiek piešķirti savstarpēji līdzīgu datu kopām, formēšanos.
Tagad algoritmiskā daļa. L4 slānī notiekošā invarianču atpazīšana ir t.s. "cortical learning procedure", kas nosacīti sastāv no trim secīgiem soļiem - retinātas (sparse) reprezentācijas veidošana no "jēliem" ievaddatiem; reprezentācijas apdeitošana iepriekšējo joprojām aktīvo ievaddatu kontekstā; varbūtības novērtēšana, ka esošie ievaddati ir korelējoši ar iepriekšējiem/invarianti pret iepriekšējiem.
Kad iedomājamies datu ievadu garozas slānī, var domāt par to kā lielu bitu skaitu. Smadzenēs šie biti būs sinapses no vieniem neironiem uz citiem. Jelkurā brīdī daļa no šiem ieejas biti būs aktīvi (1), kamēr citi būs neaktīvi (0). Ko nozīmē aktivitāte ķīmiskajās un elektriskajās sinapsēs, skaties pats, pamatu izskaidrošana šeit būtu pārāk daudz. Ievaddatu aktīvo bitu skaits laikā mainās, aptuveni no 0% līdz 60%. Pirmais solis L4 mācību procesā ir pārvērst šos ievaddatus atbilstošā retinātā formātā Tā, piemēram, ieejas datos varētu būt ap 40% "aktīvu" bitu, bet jaunajā reprezentācijā tie būs, teiksim, tikai 2% "aktīvu" bitu.
Katrs garozas slānis, tātad, sastāv no garozas kolonnām. Katra kolonna sastāv no vairākām šūnām (vidēji vienā kolonnā ir aptuveni 10000 .. 20000 neironu). Katra viena slāņa kolonna ir savienota ar unikālu ieejas datu apakškopu (kas var pārklāties ar citu kolonnu apakškopām, bet nekad nebūs identiska ar citām). Tā rezultātā dažādi ievaddatu paterni izsauc dažādus kolonnu aktivācijas līmeņus. Kolonnas ar stiprāko aktivāciju slāpē/inhibē kolonnas ar vājāko aktivāciju (inhibīcijas rādiusi var būt dažādi, no lokāla līdz visa reģiona mērogam). Retinātā ievaddatu reprezentācija veidojas no kolonnu aktivācijas līmeņiem pēc inhibīcijas, pēc kuras aktīvo kolonnu skaits ir relatīvi konstants, kaut arī ievaddatu bitu skaits var mainīties plašā spektrā. Ja ievaddatu paternā mainīsies tikai neliels bitu skaits, pēc inhibīcijas aktīvo kolonnu veidotais paterns mainīsies ļoti nelielā mērā, tādējādi līdzīgi ievaddatu paterni ar līdzīgu "aktīvo" bitu skaitu tiks kartēti uz nosacīti stabiliem pēc inhibīcijas aktīvo kolonnu paterniem (tātad, līdzīgi ievaddatu paterni tiks grupēti kopīgās reprezentācijās). Tas, cik stabils būs šis kodējums, ir atkarīgs no tā, ar kādām ievaddatu apakškopām ir saistīta katra kolonna, un šie savienojumi veidojas atmiņu formēšanās procesā. |
|