302cc9b4780f8cbef6f70c3a8417913050b6aafb ([info]mindbound) rakstīja,
@ 2017-09-04 13:28:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Garastāvoklis:working
Mūzika:Угасание - Врастая В Вечность: Исчезая Во Тьме
Entry tags:rationality, science:cognitive

One particularly relevant (throughout all of history but perhaps especially as of late) instance of humans running on a faulty and profoundly unreliable hardware might be expressed as follows.

When people start thinking about an issue in moral terms, they tend to stop thinking about it in terms of costs and benefits, dismiss anyone who disagrees with their values as not merely different or even wrong but explicitly “evil”, and desire to harshly punish those they now see as “villains” in order to protect whatever group they have selected as the “victims”. [1]

Contrary to common wisdom, emphasising empathy is not only unlikely to help in such cases but can exacerbate them and provide additional rationalised justification for them. While the value of understanding how and why people think the way they do cannot be overstated, relying heavily on affective empathy can cause reliance on anecdotal evidence, acting in favour of familiar or similar individuals, and harbour other potentially dangerous biases. [2][3] Maintaining impartiality and distance seems to help reasoning about the available facts.

Nothing of this is new or surprising, there is no morale [sic] to this post and I have no readily available solutions for counteracting the outlined issues. If anything, read and think of this as an example of the “This is a reminder that [..]” trope.

The thoughts of all men arise from the darkness. If you are the movement of your soul, and the cause of that movement precedes you, then how could you ever call your thoughts your own? How could you be anything other than a slave to the darkness that comes before?
— R. Scott Bakker, The Darkness that Comes Before

 

[1] http://journals.sagepub.com/doi/abs/10.1111/1467-9280.00139
[2] https://bostonreview.net/forum/paul-bloom-against-empathy
[3] https://philpapers.org/rec/PRIIEN



(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]mindbound
2017-09-04 14:39 (saite)
Tajā skaitā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2017-09-04 14:46 (saite)
Nu re, viņi ir ļoti nespecifiski attiecībā uz values, t.i. varbūt man ir tādas vērtības, ka manā izpratnē cilvēka hārdwāre nu itin nemaz nav faulty.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2017-09-04 14:55 (saite)
The point is, arī tādu vērtību efektīvai īstenošanai nāksies tīši vai netīši sekot minēto likumsakarību "kontūrām"; you would have to be rational even in order to be consistently good at being irrational. Vienīgais [man zināmais] izņēmums te varētu būt mērķu un vērtību vakuums, kas man šķiet samērā apšaubāms gadījums, ja runa ir par (vienalga, fitness-maximising vai adaptation-executing) aģentiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2017-09-04 15:08 (saite)
Vai tas nozīmētu, ka manas vērtības ir neracionālas?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2017-09-04 15:25 (saite)
Vērtību selekcija īsti nav racionalitātes subjekts (as far as rationality is concerned, all values or terminal goals are interchangeable and arbitrary), bet nosacīti varētu teikt, ka instrumentāli racionālas vērtības ir visas tās vērtības, kuru specifikācija nesatur šķēršļus to implementācijai.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2017-09-04 15:37 (saite)
Kas ir tie mērķi, kuru sasniegšanai cilvēks ir pats sev tik liels šķērslis, ka viņš būtu jānomarķē par faulty?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2017-09-04 15:54 (saite)
Liela daļa to mērķu, kuru nosacījumi pietiekami atšķiras no mūsu evolucionārās pagātnes, un kuru īstenošanai tādējādi var būtiski traucēt pirmā kognitīvā sistēma (šo traucējumu diezgan izsmeļošu konspektu sk. šeit). Tēma ir tik dziļa un plaša, ka konkrētu piemēru detalizētu iztirzājumu droši vien ir jēga meklēt jau pašā literatūrā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2017-09-04 16:08 (saite)
Kāpēc tad šādi mērķi netiek atmesti kā neracionāli?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2017-09-04 16:14 (saite)
Tas ir prioritāšu un evidences jautājums. Ja šie mērķi ir aģentiem pietiekami svarīgi un ir evidence, ka ir iespējams veikt tādas izmaiņas apkārtējā vidē vai pašos aģentos, kas labāk nodrošinātu to īstenošanu, tad tie ir nevis iracionāli (ciktāl uz mērķiem tas vispāri var attiekties; sk. iepriekš), bet gan tikai ārēju faktoru traucēti un aģentiem atmaksājas šos faktorus censties novērst.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2017-09-04 16:34 (saite)
Ja nu mēs kaut kādas globālas kataklizmas rezultātā (super epidēmija, kodolkarš, asteroīda trieciens etc) tiktu atsviesti atpakaļ dziļā tribālismā, tad viss ko mēs patlaban dēvējam par faulty droši vien atkal kļūtu absolūti nepieciešams moment-to-moment izdzīvošanai. Varbūt, ka man ir vienkārši iebildumi pret leksiku (t.i. faulty hardware), jo es uz to raugos kā uz neērtu bagāžu no kuras varbūt labi, ka mēs nespējam tik vienkārši atbrīvoties, jo vidi kurā mēs dzīvojam var piemeklēt straujas un nepatīkamas pārmaiņas, kas mūsu mērķus un vērtības ar vielu rokas vēzienu var noraut podā tā just.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2017-09-04 16:53 (saite)
Taisnību sakot, vismaz man ir pagrūti iztēloties reālistiskus scenārijus, kur tiek pilnībā likvidēta civilizācija, bet saglabājas atkopties spējīgas cilvēces daļas (savukārt atkopties nespējīgas cilvēces daļas ir katrā gadījumā zaudētas un līdz ar to nerelevantas as far as I'm concerned, pat, ja tās vēl kādu laiku nosacīti velk savu eksistenci), bet tas ir zināmā mērā beside the point.

Runa vairāk ir par pirmās kognitīvās sistēmas un tās biasu, heiristiku u.c. automātismu kontroles iespēju meklēšanu, nekā to indiscriminate likvidēšanu (kas, pie tam, var izrādīties vienkārši neiespējami). Ierobežotā mērā ceļu uz šādu kontroli jau šobrīd paver otrā kognitīvā sistēma (racionalitātes metodes) un šobrīd pieejamās tehnoloģiskās iespējas (gk. neirālās atgriezeniskās saites tehnikas), bet iespējams, ka pilnīgākai tās īstenošanai nākotnē vajadzēs meklēt arī eksplicītākus līdzekļus (ģenētiskus, kibernētiskus utt.).

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2017-09-04 17:16 (saite)
Ja tā, tad jau labi.

(Atbildēt uz šo) (Iepriekšējais)


(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?