| |
[29. Sep 2026|09:42] |
izcila eseja par AI, apziņu un smadzenēm kā kompi
https://www.noemamag.com/the-mythology-of-conscious-ai/
tālāk daži fragmneti
Viens no inteliģentas uzvedības aspektiem, kas ir izrādījies īpaši efektīvs, liekot cilvēkiem ticēt, ka mākslīgais intelekts varētu būt apzinīgs, ir valoda. Tas, visticamāk, ir tādēļ, kā valoda ir cilvēka izcilības un unikalitātes stūrakmens. Lielie valodas modeļi (LLM), piemēram, OpenAI izstrādātais ChatGPT vai Anthropic veidotais Claude, ir bijuši galvenais fokuss lielākajai daļai sajūsmas par mākslīgo apziņu. Cik man zināms, neviens nav apgalvojis, ka DeepMind radītais AlphaFold būtu apzinīgs, lai gan strukturāli tas ir diezgan līdzīgs lielajiem valodas modeļiem. Visas šīs sistēmas darbojas uz silīcija bāzes un ietver mākslīgos neironu tīklus, kā arī citus sarežģītus algoritmu jauninājumus, piemēram, transformerus. AlphaFold, kas vārdu vietā prognozē olbaltumvielu struktūru, vienkārši neaizskar mūsu psiholoģiskās stīgas tajā pašā veidā.
Liela nozīme ir arī valodai, ko mēs paši lietojam. Padomājiet par to, cik ierasti ir kļuvis teikt, ka lielie valodas modeļi (LLM) „halucinē”, kad tie izplata klajus melus. Halucinācijas cilvēkiem galvenokārt ir apzināta pieredze, kas zaudējusi saikni ar realitāti (varētu teikt, nekontrolēta uztvere). Mēs halucinējam, kad dzirdam balsis, kuru nav, vai redzam mirušu radinieku stāvam gultas galvgalī. Sakot, ka mākslīgā intelekta sistēmas „halucinē”, mēs tām netieši piedēvējam spēju gūt pieredzi. Ja mums noteikti ir jāizmanto cilvēciska analoģija, būtu daudz pareizāk teikt, ka tās „konfabulē”. Cilvēkiem konfabulācija izpaužas kā lietu izdomāšana, pašam to neapzinoties. Runa pirmkārt ir par darbību, nevis par pieredzējumu.
[..]
Vēl viena reālu smadzeņu dziļās, daudzlīmeņu integrācijas sekas — īpašība, ko filozofi dažkārt dēvē par „ģeneratīvo nostiprināšanos” (generative entrenchment) —, ir tāda, ka nevar pieņemt, ka ir iespējams aizstāt vienu bioloģisko neironu ar silīcija ekvivalentu, pilnībā saglabājot tā funkciju un ievades-izvades uzvedību.
Piemēram, neirozinātnieki Čaitanja Čintaluri (Chaitanya Chintaluri) un Tims Fogels (Tim Vogels) atklāja, ka daži neironi raida aktivitātes impulsus acīmredzot tādēļ, lai attīrītos no vielmaiņas radītajiem atkritumproduktiem. Lai radītu perfektu silīcija aizstājēju šādiem neironiem, būtu nepieciešams izgudrot arī pilnīgi jaunu, uz silīcija bāzes veidotu vielmaiņu, kam silīcijs vienkārši nav piemērots. Vienīgais veids, kā nemanāmi aizstāt bioloģisko neironu, ir ar citu bioloģisko neironu — un ideālā gadījumā ar to pašu neironu.
Tas atklāj trūkumus populārajā „neironu aizstāšanas” domas eksperimentā, ko visbiežāk saista ar Čalmersu (Chalmers). Šis eksperiments aicina mūs iztēloties pakāpenisku smadzeņu daļu aizstāšanu ar silīcija ekvivalentiem, kas darbojas tieši tāpat kā to bioloģiskie analogi. Šķietamais secinājums ir tāds, ka tādām īpašībām kā kognīcija un apziņa ir jābūt neatkarīgām no substrāta (vai vismaz pielāgojamām silīcija substrātam). Šis domas eksperiments ir kļuvis par ievērojamu tēzi diskusijās par mākslīgo apziņu, un parasti tas tiek piesaukts, lai pamatotu tās iespējamību. Hintons nesen uz to atsaucās tieši šādā veidā kādā intervijā, kurā viņš apgalvoja, ka apzinīgs MI jau ir starp mums. Taču šis arguments izgāžas jau pie pirmā šķēršļa, ņemot vērā nespēju aizstāt jebkuru smadzeņu daļu ar perfektu silīcija ekvivalentu.
Ir vērts pieminēt vēl kādas sekas, ko rada dziļi un daudzlīmeņos integrētas smadzenes. Digitālie datori un smadzenes fundamentāli atšķiras tajā, kā tie attiecas pret laiku. Tjūringa pasaulē nozīme ir tikai secībai: no A uz B, no 0 uz 1. Starp jebkuru stāvokļu pāreju varētu pagāt mikrosekunde vai miljons gadu, un tas joprojām būtu tas pats algoritms, tas pats aprēķins.
Turpretī smadzenēm un bioloģiskajām sistēmām kopumā laiks ir fizisks, nepārtraukts un neizbēgams. Dzīvām sistēmām ir nepārtraukti jāpretojas sabrukumam un nekārtībai, kas sagaida uz trajektorijas pretim entropiskajai vienveidībai, ko nosaka neaizskaramais otrais termodinamikas likums. Tas nozīmē, ka neirobioloģiskā aktivitāte ir nostiprināta nepārtrauktā laikā tādos veidos, kādos algoritmi pēc sava dizaina nav. (Tas ir vēl viens iemesls, kāpēc digitālā skaitļošana ir tik energoietilpīga. Skaitļošana eksistē ārpus laika, bet datori nē. Lai nodrošinātu, ka vieninieki paliek par vieniniekiem un nulles par nullēm, ir nepieciešams daudz enerģijas, jo pat silīcijs nespēj izbēgt no entropijas skavām.)
(ok, te vairāk nelikšu, ejiet izlasiet, tur ir vēl tik daudz un tik spot on, i'm in awe) |
|
|
![[info]](http://klab.lv/img/userinfo.gif){kind=small}