"Vai noteiktā veidā organizēta skaitļošana var būt pietiekama pieredzei (..)". Es nezinu, varbūt ka arī var būt pietiekama - dažos skatījumos mēs arī neesam nekas vairāk par "slapjiem skaitļotājiem". Kas man tomēr liekas būtisks, pirms varam runāt par apziņu ir kontinuitāte. Lai kādā procesā varētu rasties kaut kas, ko esmu ar mieru saukt par refleksiju, tam nepieciešama atmiņa tajā otrā nozīmē - spēja pašam sevi mainīt. Tajā pašā uz papīra rēķināšanas piemērā - ja pēc katra aprēķina mēs arī pierakstītu izmaiņas pašā modelī, man būtu daudz vieglāk iztēloties, ka varbūt tajos atspoguļojas kaut kas, ko varētu saukt par apziņu.

Tas pats arguments attiecas arī uz jautājumu par to, vai vienāds rezultāts nozīmē vienādu pieredzi - ja mēs varam redzēt visus starprezultātus, un tie ir vienādi, tad pēc definīcijas jā - arī "pieredze" ir viena un tā pati, vai ne?

Ar ķermeni domāju tieši somatiku - "sensorus un iespēju darboties vidē" kā Tu saki. Mūsu smadzenēm ir nepārtraukta datu plūsma, ko apstrādāt. Un mēs zinām, ka smadzenes arī nepārtraukti ir darbībā un pārveidojas. Man šķiet, ka šī nepārtrauktā darbība arī veido kaut kādu nospiedumu, ko uztveram un konceptualizējam kā apziņu.

Tavs stiprākais arguments, manuprāt, un kuram es līdz šim vispār nepieskāros, ir par sistēmu kopumā. Es skatos tikai uz vienu elementu - pašu valodas modeli - jo tur atmiņas trūkums un determinisms man šķiet ir pietiekoši pārliecinošs arguments, kāpēc tiem nevar būt apziņas - vismaz manas intuīcijas nozīmē.

Par sistēmu kopumā runājot - kad pieliekam modelim iespēju pašam pierakstīt tekstus, tos pārlasīt, pievienojam dažādus prefiksus, lai tas aplūkotu dažādus aspektus, utt, protams varam sākt runāt par kaut kādu atmiņu. Problēma ir tikai tāda, ka tā atmiņa ir šausmigi ierobežota pat salīdzinot ar slieku (daždesmit tūkstoši tokenu nav liels apjoms - vēl vairāk, mēs tos varam izlasīt, un nekādu pašrefleksiju tur neatrodam, tikai darbu pie problēmas). Otrkārt, tās programmas, kas jau kombinē kopā un iterē LLM outputus, lai veidotu "thinking" modeļus, savukārt, ir konvencionālas, cilvēku radītas sistēmas, un mēs saprotam, ko un kāpēc darām - tur tā kā pazūd tā maģija, kas ir mašīnmācīšanās modeļu iekšienē.

Visbeidzot - es nemaz nedomāju, ka šo jautājumu būtu jāaizver! Man šie modeļi, un kas no tiem nāk ārā, liekas ļoti fascinējoši. Vienkārši patlaban neredzu pamatu runāt par to, ka tiem varētu būt apziņa. Man interesantāks liekas jautājums, kāpēc mums kā cilvēkiem tie liekas tik pārliecinoši, un ko tas pasaka par mums. :)