I simply fail to see how this statement holds true.

(Reply to this) (Thread)

(Reply to this) (Parent) (Thread)

And yet they can, at least in most cases imaginable to me, be reduced to more elementary substatements, themselves corresponding to either more basic and localised subsymbolic brain states, or to the symbolic abstractions of these.

(Reply to this) (Parent) (Thread)

I'm afraid the pain your stubborness makes me feel cannot be reduced to anything else, sorry.

(Reply to this) (Parent) (Thread)

Worry not, es nekad neesmu apgalvojis, ka ētiku var (vai vajag, for that point) reducēt līdz predikātu loģikai.

(Reply to this) (Parent)

Kuram dundukam vispār ienāc prātā, ka ētiku var ''formalizēt''? Kāpēc tie paši cilvēki nedomā par muzikālās gaumes vai tabakas preferenču formalizēšanu. Wtf is this šit enivej?

(Reply to this) (Thread)

For background purposes: http://en.wikipedia.org/wiki/Meta-ethics

(Reply to this) (Parent) (Thread)

*paceļ rociņu* & ar ko ētikas formalizācija principiāli atšķiras no reliģijas formalizācijas?

manuprāt abas ir apakšgadījums estētikas formalizācijai - kas ir iespējama:

http://mic-ro.com/metro/400/tokyo-iidabashi-400.jpg

http://www.divinearchitect.org/the-worlds-most-complex-computer-generated-architecture-high-ress-video/the-worlds-most-complex-computer-generated-architecture-03/

(Reply to this) (Parent) (Thread)

Manuprāt, tās visas trīs (kaut arī varētu strīdēties par to, kāda jēga, atskaitot tīru galdiņa urbjamā manipulatora kalibrāciju, ir no reliģijas formalizācijas mēģinājumiem) ir speciālgadījumi adaptācijas vadībai (bet ne obligāti pielāgojuma maksimizācijai) kompleksā vidē X - uzģenerējam n programmas, kas apraksta X, kompresējam tās, no iegūtās kopas izvēlamies programmu ar vismazāko kombinēto (programma plus kompresors) garumu; rinse and repeat.

Estētikas gadījumā (sk., piem., Šmidhūbera http://www.idsia.ch/~juergen/beauty.html) šis kompresijas progress ir daudz uzskatāmāks, nekā tas ir ar ētiku, un nav grūti saprast, kādēļ - cilvēka estētikas uztvere nav īpaši sarežģīta, salīdzinot ar cilvēka vērtību sistēmu.

(Reply to this) (Parent)

Nu jā. Adekvātāk būtu jautāt - kāda jēga no šāda veida formalizēšanas? Ētiskās un estētiskās apziņas kondīcijas no tā nepaliek mazāk subjektīvas.

(Reply to this) (Thread)

Protams, ka nepaliek, taču šāda formalizācija, pirmkārt, radītu sistēmu, kura potenciāli spētu pārliecināt par konkrētu ētisku shēmu no "tīrā prāta", nevis empātijas, vainas apziņas vai baiļu no soda pozīcijām. Līdz šim, vismaz ciktāl man zināms, neviena ētikas vai metaētikas sistēma to neīsteno apmierinošā līmenī.

Otrkārt, šīs sistēmas ietvaros būtu iespējams radīt "computational ethics" metodiku, kas ļautu pētīt ētiku un morāli to dažādajos aspektos ar to pašu informācijas teorijas instrumentu komplektu, kas visai veiksmīgi tiek izmantots citu "computational x" (where x = {genetics, biology, neuroscience, physics, chemistry, ...}) gadījumos.

(Reply to this) (Parent)

Tā pati vecā labā problēma ar cilvēka (vai tā atsevišķu aspektu) simulāciju datorā - iemesls, kāpēc vispār šos rakstus šobrīd roku augšā.

(Reply to this) (Parent) (Thread)

Lai simulētu cilvēku, nav vajadzīgs eksplicīti simulēt visus tā prāta atsevišķos elementus - as soon as you have the generative structures that give rise to mind up and running, mind and its full contents should activate automatically, just like it is with us now.

AGI, no otras puses, jau ir cita lieta.

(Reply to this) (Parent)

''radītu sistēmu, kura potenciāli spētu pārliecināt par konkrētu ētisku shēmu no "tīrā prāta"''

Pārliecināt ko/kuru? Man kāds varētu pārliecināt vai zils palikdams ar savu tīro prātu par kaut ko, bet ja mana aknu sajūta/sirdsapziņa teiks citādi, tad tas ir viens pīpis. Domāju vairumam cilvēku ir tāpat. Lai cik matemātiski nevainojams kādam liktos tīrā prāta arguments, tas nekad nespēs uzstādīt imperatīvus, jo tie ir
1) intuitīvi
un
2) izriet no mērķa, ko grib sasniegt (mērķa izvēle atkal ir intuitīva un subjektīva)

Piemēram, ja ir mērķis radīt saliedētu un monolītu sabiedrību, tad no ''tīrā prāta'' viedokļa tā pati tolerance pret ''citu'' ir kaitīga. Savukārt, ja iziet no humānisma un liberālisma viedokļa, tad tā ir laba.
Bet pati šī sākotnējā izvēle par to kādu sabiedrību vajag veidot ir aksiomātiska jābūtība, kuras lietderību nevar izvērtēt racionāli, jo tad būtu jāmeklē vēl zemākas pakāpes mērķis.

(Reply to this) (Thread)

> "Man kāds varētu pārliecināt vai zils palikdams ar savu tīro prātu par kaut ko, bet ja mana aknu sajūta/sirdsapziņa teiks citādi, tad tas ir viens pīpis."

Vismaz lielākajā daļā gadījumu ļaut "aknām" dominēt pār racionālo prātu ir slikta izvēle. "Aknas"/intuīcija ir heiristiska, tā sasniedz ātrus un uzskatāmus rezultātus uz to uzticamības un precizitātes rēķina.

Par aksiomātiku - jā, visām šīm programmām būtu jāsatur parametrs, kuru es šeit nosaukšu par nulltā līmeņa ētisko principu, the one that is beneath all others, lai izvairītos no citādi diezgan ticamās situācijas, kur veiksmīgākā/īsākā programma aprakstītu kaut ko tādu, kā visu saprātīgo būtņu, ieskaitot programmas autoru, likvidāciju. Šī nulltā līmeņa principa/pamataksiomas/primārās direktīvas/whatever izvēle ir debatējams jautājums, taču uzskatu, ka pašas hipotēzes kā tādas testēšanai var izvēlēties kaut vai "minimisation of involuntary suffering of sentient beings". Correct me if you think I'm wrong in this.

(Reply to this) (Parent) (Thread)

''Vismaz lielākajā daļā gadījumu ļaut "aknām" dominēt pār racionālo prātu ir slikta izvēle.''

Cilvēces vēsture un mana personīgā pieredze liecina par pretējo. Ar prātu var racionalizēt jebko, arī zvērības pret līdzcilvēkiem, imperiālismu, to pašu tevis mīļoto rasismu. Apziņa, ka labāk būt labsirdīgam, taisnīgam utt. nāk no aknām, nevis racionālā saprāta. To, protams, var racionalizēt post factum, bet tieši to pašu var ar diametrāli pretējiem imperatīviem. Prāts ir tikai rīks, ar kuru var sistematizēt un reflektēt par ētiskiem imperatīviem, kuru avots ir subjektīvā griba.

"minimisation of involuntary suffering of sentient beings". Correct me if you think I'm wrong in this.

Tu neesi wrong, jo viedoklis nevar būt wrong. Tas, ka es un vēl citi cilvēki tev piekristu, nenozīmētu, ka šāds viedoklis ir racionālāks par citiem.

(Reply to this) (Parent)

Visumā piekrītu GN.

> "Aknas"/intuīcija ir heiristiska, tā sasniedz ātrus un uzskatāmus rezultātus uz to uzticamības un precizitātes rēķina.

Pirmajā tuvinājumā - jā. Ar intuīciju arī ir problēmas. Emocijas mēdz būt just wrong. Piemērs - ētika ir supressed tās pašas mīlestības. Esmu par to domājis, un esmu redzējis piemērus, kad mīlamajā cilvēkā attaisno tādas darbības, kuras citādi liktos derdzīgas. (Kaut vai agresivitāte.) Tomēr, ja skatās plašāk, ja ņem par intuīcijas pamatu ne tikai konkrētus emocionālos stāvokļus, bet ko vispārīgāku, tad šo var atrisināt, manuprāt.

(Reply to this) (Parent)