Human is the awkward liminal phase between animal and machine

131017 1925

Ņemot Deneta, Mecingera, Graciano, Bakera (tā paša, kurš vēlāk) et al. pētījumus un “atlaidinot” tos ar Vatsa, Egana, Bakera, daļēji arī Gibsona, Lema u.c. daiļliteratūras darbiem, man ir izkristalizējusies kāda, pagaidām vēl nekonkrēta un vāji detalizēta, konjektūra. Īsumā to varētu aprakstīt šādi: apziņa kā kognitīvā aparāta darbības režīms varētu būt novērojama tikai samērā šaurā konceptuālā “logā” jeb saprātu telpas griezumā. Tā varētu būt novērojama galvenokārt pie tādām entitātēm, kas ir pietiekami jaudīgas (izmantojot kvantitatīvu intelekta definīciju), lai modelētu un prognozētu sevi kopā ar apkārtējo vidi, bet ne pietiekami, lai darītu to caurspīdīgi, piemērojot vienu un to pašu varbūtību sadalījumu (iespējams, kādu no universālā sadalījuma izskaitļojamiem tuvinājumiem) visiem ienākošajiem datiem pēc kārtas.

Pirms šī “loga” ir sastopamas tādas entitātes, kas spēj dažādā mērā reaģēt uz apkārtējās vides izmaiņām, izmantojot automātiskus un iemācītus paternus, bet vēl nespēj veikt savas rīcības kontrafaktuālas simulācijas. Telpu pēc šī “loga”, savukārt, aizņem tādas entitātes, kas savu (un citu) iekšējo stāvokļu lielumus prognozē eksplicīti, kā daļu no visas apkārtējās vides stāvokļu lielumu kopas, bez vajadzības veidot tos informāciju zaudējošos zemākas izšķirtspējas naratīvus un rekursīvos operacionālos kopsavilkumus (iekodētus neironu populāciju koordinētā aktivitātē kā, piem., semantiskos pointerus), kas, saskaņā ar minēto pētnieku darbiem, varētu būt primārais apziņas pamatā esošais mehānisms.

Protams, nav izslēgts, ka daļa entitāšu, pieņemoties jaudā, vispāri nekad nenonāk šajā “logā” (kas, kā jau minēts, reprezentē šauru un “plakanu” griezumu bezgalīgdimensionālā parametru telpā), jau no savas evolucionārās trajektorijas sākuma attīstot tādus informācijas apstrādes veidus, kur nefigurē šāds datu favorītisms, taču šādi minējumi nenovēršami atduras pret faktu, ka pagaidām par visām šīm lietām mēs varam mēģināt spriest, tikai skatoties paši uz sevi kā vienīgo mums zināmo piemēru.

Saprotamu iemeslu dēļ man šobrīd nav pieejami līdzekļi šo apgalvojumu pārbaudīšanai attiecībā pret realitāti, līdz ar to paredzamā nākotnē tie droši vien nezaudēs savu konjektūras statusu.

6917 2202

Kamēr jautājums par Krievijas dienestu ietekmi uz 2016. g. prezidenta vēlēšanu iznākumu turpina būt atklāts un bez būtiskas virzības uz skaidrības pusi, es vēlētos īsi pieminēt kādu citu, manuprāt, daudz interesantāku un skaidrāku faktoru šī iznākuma tapšanā.

Runa ir par Cambridge Analytica (turpmāk – CA), nelielu Lielbritānijā un ASV bāzētu datu analīzes, algoritmiskās psihometrikas un stratēģisko komunikāciju kompāniju, par kuras eksistenci lielākā daļa vēlēšanu norisei sekojušās publikas varētu joprojām nebūt dzirdējusi, bet kuras loma vēlēšanu gaitā un rezultātos, atkarībā no nepilnīgi pieejamajiem datiem, varētu būt bijusi no augstākas par vidēju līdz kritiskai. CA pirmsākumi meklējami Kembridžas universitātes Psihometrikas centra pētnieku komandā, kas 2008. g. Stenfordas GSB profesora un datu pētnieka dr. M. Kosinska vadībā pievienojās Biheiviorālās dinamikas institūtam un Stratēģisko komunikāciju laboratoriju grupai un 2014. g. ar AI pētnieka un uzņēmēja R. Mercera daļēju atbalstu apvienojās, lai dibinātu CA kā kompāniju.

CA ir gan komerciālā, gan politiskā divīzija un viņu devīze – “Cambridge Analytica uses data to change audience behavior” – labi raksturo tās līdzšinējo darbību un sasniegumus. CA analītiķi un eksperti ir piedalījušies veselas virknes politisko kampaņu norisē gan ASV, gan citur pasaulē, taču līdz šim būtiskākais viņu darba piemērs ir dalība 2016. g. Trampa kampaņas vadībā, izmantojot aptauju rezultātus un citus datu korpusus un statistisko modelēšanu, lai veiktu t.s. microtargeting jeb precīzu, evidence-based vēršanos pie šauri specifiskām populācijas apakškopām. Pilns šī darba ietekmes apjoms, protams, ir un paredzamā nākotnē paliks spekulāciju līmenī, taču, zinot izmantoto materiālu un metožu potenciālu, nebūtu pārsteidzoši, ja tas izrādītos centrāls dažādās ziņās neparastajā vēlēšanu gaitā. Tāpat tas varbūt varētu palīdzēt izskaidrot dažādās novērotās anomālijas, kas saistītas ar vēlēšanu gaitas prognozēšanu, reitingu izmaiņām u.c., bet par šīm tēmām man šeit nebūs tālāku komentāru.

Par spīti manām dažādajām antipātijām pret Mercera politiskajām aktivitātēm, Trampu, viņa elektorātu, viņa sastādīto valdību utt., mana attieksme pret CA darbu ir strikti neitrāla. Pretēji vispārpieņemtajai (?) attieksmei, man nav nekādu principiālu iebildumu pret dažādu veidu algotņiem un viņu īpatnējo darba paradigmu, mercenaires sans frontières, ja var atļauties šādu vārdu spēli. Tādēļ vienīgā morāle, ko es atvedinu no šiem faktiem un notikumiem, aprobežojas ar ieteikumiem visiem esošajiem un nākamajiem politiskajiem, komerciālajiem un citiem funkcionāriem pēc iespējas operatīvi novērtēt un sākt izmantot faktu, ka tagad un turpmāk pasaules notikumos noteicošie faktori ir un arvien izteiktāk būs dati un algoritmi un ka praktiski neierobežotu labumu gūst tie, kuri prot šos faktorus izmantot saviem mērķiem. Prognozēju, ka jau 2020. g. varēsim praksē pārliecināties par to, kuri no ASV politiskajiem grupējumiem ir iemācījušies šo patiesību.

4917 1328

One particularly relevant (throughout all of history but perhaps especially as of late) instance of humans running on a faulty and profoundly unreliable hardware might be expressed as follows.

When people start thinking about an issue in moral terms, they tend to stop thinking about it in terms of costs and benefits, dismiss anyone who disagrees with their values as not merely different or even wrong but explicitly “evil”, and desire to harshly punish those they now see as “villains” in order to protect whatever group they have selected as the “victims”. [1]

Contrary to common wisdom, emphasising empathy is not only unlikely to help in such cases but can exacerbate them and provide additional rationalised justification for them. While the value of understanding how and why people think the way they do cannot be overstated, relying heavily on affective empathy can cause reliance on anecdotal evidence, acting in favour of familiar or similar individuals, and harbour other potentially dangerous biases. [2][3] Maintaining impartiality and distance seems to help reasoning about the available facts.

Nothing of this is new or surprising, there is no morale [sic] to this post and I have no readily available solutions for counteracting the outlined issues. If anything, read and think of this as an example of the “This is a reminder that [..]” trope.

The thoughts of all men arise from the darkness. If you are the movement of your soul, and the cause of that movement precedes you, then how could you ever call your thoughts your own? How could you be anything other than a slave to the darkness that comes before?

[1] http://journals.sagepub.com/doi/abs/10.1111/1467-9280.00139
[2] https://bostonreview.net/forum/paul-bloom-against-empathy
[3] https://philpapers.org/rec/PRIIEN