Labi, paliekam tieši pie pašreizējiem LLM. Tev argumentā ir viens diezgan būtisks iztrūkums: pāreja no „zinu, kā tiek aprēķināta izvade” uz „zinu, ka šādā procesā subjektīva pieredze nav iespējama”. Šī pāreja pati no sevis nenotiek. Vārds „statistisks” to tavā vietā, bļa, neizdara.

Zināt tīkla arhitektūru un matemātiskās operācijas vēl nenozīmē pilnībā saprast, kādus mehānismus tas apmācībā ir izveidojis. Anthropic pētnieki to atzīst pavisam atklāti. Viņi arī ir eksperimentāli parādījuši, ka modelis, kurš tekstu izvada pa vienai vienībai, var iepriekš plānot vēlāk izvadāmos vārdus — piemēram, dzejas rindas atskaņu. Tātad izvadīšanas secība pati par sevi nenosaka visu iekšējās apstrādes saturu. „Ģenerē nākamo tokenu” ir korekts apraksts; „tāpēc tur var notikt tikai primitīva vārdu virknēšana” jau ir tavs pielikums.

Arī par atmiņu vajag precizēt. Modelis izmanto iepriekšējo sarunas kontekstu; izpildes laikā no agrākajiem tokeniem aprēķinātās reprezentācijas var saglabāt KV kešatmiņā un izmantot nākamajos soļos. Tas pats par sevi nepierāda autobiogrāfisku atmiņu vai pārdzīvotu pieredzi. Taču apgalvojums „tam nav atmiņas” bez paskaidrojuma, kādu atmiņu tu domā, ir pārāk rupjš saīsinājums.

Par neaktīvu failu tev taisnība: ja aprēķins nenotiek, tas nenotiek. Bet jautājums ir par sistēmu darbības laikā. No procesa neesamības vienā brīdī tu nevari izsecināt, kādas īpašības šim procesam ir vai nav iespējamas tad, kad tas notiek. Norāde uz failu diskā šo jautājumu neatrisina.

Ar „reflektēt” arī vajag būt precīzam. Anthropic eksperimentos atsevišķi modeļi noteiktos apstākļos spēja atpazīt pētnieku izraisītas izmaiņas savos iekšējos stāvokļos. Šī spēja bija ierobežota un neuzticama; paši autori uzsver, ka tā nepierāda subjektīvu apziņu. Tomēr tās ir empīriski pētāmas spējas. Tas, ka tās realizējas aprēķinā, nav iemesls tās jau iepriekš izsvītrot ar vārdu „statistika”.

Un tavs apziņas minimums — „iekšējs process, kas maina uzvedību” — pats par sevi LLM neizslēdz. Arī modelī iekšējā apstrāde nosaka turpmāko izvadi. Lai pamatotu neiespējamību, tev jānorāda kaut kas konkrētāks: kura īpašība apziņai nepieciešama, kāpēc nepieciešama un kāpēc attiecīgajai arhitektūrai tās nevar būt.

Šis viss nepierāda, ka pašreizējie LLM ir apzināti. Tas parāda, kāpēc tavs „strukturāli nevar būt” ir daudz stiprāks par argumentiem, kurus esi uzlicis galdā.

Skepsi par pašreizējo modeļu apziņu es saprotu. Bet starp „nav pierādīts” un „ir pierādīts, ka nav iespējams” ir vesels argumentācijas gabals. Pārliecinoša intonācija to gabalu neaizpilda, joptvajumaķ.