Heh. Pirmkārt, tas labi, ka lasi AI/AMA, AI/AMA ir lielisks teksts, quite probably one of the best in existence about narrow AI.

Otrkārt, yup, viss ir pareizi - pie dotā x, U_self(x), U_soc(x) un U_evo(x) strādā ar atšķirīgiem un, bieži vien, vāji pārklājošamies prioriem. Savas personiskās utilītfunkcijas prioritizēšana var nozīmēt nelaimīgāku dzīvi, taču tas vienkārši nozīmē, ka siltās sajūtas ir jārēķina strikti atsevišķi no utilītvērtībām.

Treškārt, man nav īsti skaidrs, kādēļ šeit nepieciešamība pēc universāla priora, lai noteiktu dzīves vērtīgumu. Ir ļoti maz ticams, ka indivīda personīgajai utilītfunkcijai eksistēs priori ārpus paša indivīda prāta (un tie, kas varētu eksistēt, ir neizrēķināmi, à la Solomonovs).

(Reply to this) (Thread)

Interesanti salīdzināt, kā mainījies teksts laika gaitā: papīra formātā man ir pirmais izdevums (ap 1994. gadu), paralēli novilku trešo. Pamatbloki jau paliek tādi paši, tomēr Beijesam, Markova modeļiem un citu varbūtībām atvēlēts daudz vairāk vietas.

Atbildot uz trešo - jo relatīvisms ir slikta pozīcija.

(Reply to this) (Parent) (Thread)

Jā, un tas labi ilustrē tēmu attīstību arī pašā disciplīnā. Otrais izdevums arīdzan iekļaujas paternā, tas ir... kaut kur pa vidu.

Relatīvisms - varbūt, vai, drīzāk, tas ir ieguvis nepelnīti sliktu slavu. Subjektīvisms, toties, ir viss, kas mums jelkad varētu būt, ciktāl runa ir par utilītfunkcijām vai varbūtībām. Utilities and probabilities are on the map and on the map only, never in the territory, and that just is the kind of reality we have to make sense about.

(Reply to this) (Parent) (Thread)

Nesaprotu, kādā sakarā te parādās kartes/teritorijas nošķīrums.

(Reply to this) (Parent) (Thread)

Kad runa ir par varbūtībām vai utilītfunkcijām, runa neizbēgami ir par subjektīvismu. Es godīgi nesaprotu, kā Tu iedomājies apskatīt ko tādu "absolūtā plānā".

(Reply to this) (Parent) (Thread)

Subjektivitāte is a bitch, it īpaši morālajā plānā. Katrs var iedomāties darīt tā, kā viņam liekas labāk?

(Reply to this) (Parent) (Thread)

Jā. Ja tas ``liekas labāk`` plāns ir iegūts korekti - nu tā kā iegūst datus un pēc tam teorijas no tiem.

(Reply to this) (Parent) (Thread)

Tas, diemžēl, ir ļoti sarežģīti lielām cilvēku-as-they-are masām. Aptuveni tā ir ideja Judkovska koherentās ekstrapolētās gribas teorijas pamatā, bet radīt kā tāda implementāciju varētu būt AGI-complete problēma.

Pasaulē, kurā cilvēki būtu racionāli aģenti, tas, protams, būtu daudz vienkāršāk.

(Reply to this) (Parent) (Thread)

Protams, sarežģīti, bet kādas ir alternatīvas?

(Reply to this) (Parent) (Thread)

Viens variants - ētikas kontekstā pētīt cilvēku domāšanu nevis indivīdu, bet populāciju līmenī.

Ētika vienmēr ir sastāvējusi no vispārīgām, ne sevišķi detalizētām direktīvām, līdz ar to izšķirtspējas zudums šeit nav problēma - un tādā veidā zūd vajadzība ņemt vērā katra indivīda simt un vienu terminālo un instrumentālo utilītfunkciju (pie tam, kā jau teicu, ētika tāpat ir kolektīvas domāšanas izpausme).

(Reply to this) (Parent) (Thread)

Tīri jēdzienu sakārtošanai jautājums: Vai apskatāmās problemas populaciju/ sociumumu, nevis individu/ maza skaita individu grupu līmenī nav politikas, nevis ētikas lauks? ( protams, tie pārklājas)

(Reply to this) (Parent) (Thread)

Atšķirības starp ētiku un politiku nav īsti grupas izmēros. Ētika ir vadlīnijas indivīdu savstarpējām attiecībām, politika ir populācijas vadīšana noteiktā virzienā.

(Reply to this) (Parent) (Thread)

Anyway, nepiesārņosim gedymin blogu.

(Reply to this) (Parent)

Nu jā un tad sanāk, ka ja individs tās vadlīnijas izstrādā pats, tad ir augstāk minētais sarežģītais variants (viņam vajag metodi, kā izstrādāt), bet ja individam iebaro jau gatavas vadlīnijas (pieņemsim, ka tās ir labas), tad uzdevums ir kā efektīvāk iebarot un tā jau ir Tevis minētā vadīšanas problema.

(Reply to this) (Parent)

Morāles plānu var glābt fakts, ka cilvēku pieņemtie lēmumi ir, pirmkārt, daļēji racionāli un, otrkārt, sakņojas visiem cilvēkiem kopīgā kognitīvajā aparātā.

Es pats turpinu par to domāt, bet mans šībrīža bottom line ir, ka ētika atrodas "kaut kur" lēmumu teorijas un kognitīvo zinātņu konceptuālajā krustpunktā. Kognitīvās zinātnes disciplīnas ir rīks adekvāta "what is" apraksta iegūšanai, ciktāl ir runa par domāšanu, un lēmumu teorija ģenerē utilītfunkcijas, par prioru izmantojot šo aprakstu (essentially, to var uztvert kā funkciju no "what is" uz "what to do", no "is" uz "ought").

Papildus ētikas jomu glābj tas, ka ētika vistiešākajā veidā ir "groupthink", tā prasa indivīdam noteiktos apstākļos samazināt savu individuālo utilītfunkciju lielumu kolektīvas utilītfunkcijas izpildīšanas dēļ.

(Reply to this) (Parent)

No otras puses, varbūt, ka šādu ekstrapolētu perspektīvu arī var uzlūkot kā Tevis pieminēto "absolūto pozīciju". In that case it would even make sense.

(Reply to this) (Parent)

Basically, I see ethics as being about individuals (usually implicitly) trading [factorable parts of] their utility functions for the sake of some sort of mutual equilibrium of well-being being preserved.

(Reply to this) (Parent) (Thread)

Spēļu teorija?

Tas kas man nepatīk, ir tas, ka "tirgošana" utt. paģēr kvantificējamu, salīdzināmu labumu. Šis ir utilitārisma mīnuss - nevar salīdzināt nesalīdzināmu. Dažas baudas ir kvalitatīvi pārākas par citām.
Well-being prezervācija atkal paģēr vispirms jau šī "well-being" definīciju, kuru manuprāt nav iespējams dot apmierinošā veidā bez references uz kaut ko pāri subjektīvismam stāvošu. I hope that makes sense.

(Reply to this) (Parent) (Thread)

Nonsense - given the correct metric, there are no unquantifiable things, or at least I haven't been demonstrated as to the contrary.

Spēļu teorija plus tāds lēmumu teorijas dialekts, kas sadarbojas iteratīvajā cietumnieka dilemmā... iespējams, ka plus vēl kaut kas. I have put some thought to it but I haven't had the luxury of being free enough to think much about it.

Un well-being definīcija tad arī ir meklējama kognitīvajās zinātnēs (kas ir stāvošas pāri subjektīvismam, jo, well, empīrika). Ko vēlas un uzskata par sev labu cilvēku smadzenes? Ko no šī spektra, discountojot the know human biases, var savietot ar augstāk minēto utility trade? Es uzskatu, ka, kad šie jautājumi (kas, būtībā, ietver sevī metaētikas pamatus, jeb "kas ir labs") tiks atbildēti, mums būs "ejošs" minimālas provably sound ētikas karkass.

(Reply to this) (Parent) (Thread)

And yes, what you said did make sense.

(Reply to this) (Parent) (Thread)

''Nonsense - given the correct metric, there are no unquantifiable things, or at least I haven't been demonstrated as to the contrary.''

None, except for those that actually matter in this case. The second statement is a fallacy given you simply dismiss things that can't be quantifiable in the first place. Catch 22 is catchy.

Utilitārisms, vēl jo vairāk tāds, kas balstītos nevis uz cilvēka reportētajām vēlmēm/feedbeku, bet smadzeņu neironu agregātstāvokli vispār ir kaut kas no sirreālā. Nu kā tu veidotu morāles sistēmu, blenžot smadzeņu kompjūterfotogrāfijā? Pie tam leģislēt normatīvus noteikumus balstoties uz ''ko grib smadzenes'' vispār ir absurds. Uz tāda morālā pamata nespētu funkcionētu pat sīkas mednieku-vācēju sabiedrības. Advancēts sociums ir atkarīgs no tajā esošo indivīdu spējas atteikties no savu smadzeņu iegribām ''kopējā labuma'' vārdā. Mūsdienu hiperindividuālismā un egotismā iegrimušie ''progresīvisti'' to neapjēdz.

Pakaļējā taisne te ir tāda, ka stāvēt pāri subjektīvismam ar metodiku, kas ir predicēta subjektīvismā (utilitārisms) ir oksimorons.

(Reply to this) (Parent) (Thread)

Morāles sistēmu es veidotu matemātiski. "Smadzeņu kompjūtertomogrāfija" dotu datus, ko iebarot šādai sistēmai kā izejas pozīciju, kā proverbiālo "is", no kura tad atvasināt "ought".

Starp lietām, kuras "grib smadzenes", ir tādas, kuras ir sasniedzamas tikai pie Tevis nosauktajiem nosacījumiem - proti, "atsakoties no savu smadzeņu iegribām kopējā labuma vārdā". Altruisms un kolektīvā labuma ievērošana ir arī individuāli izdevīga, which is what this is all about. Not nearly all values that the brain recognises and upholds are unshared ones, un "progresīvisti" to saprot pat ļoti labi. Advanced self-interest isn't really possible on a longer scale without other-interest, without ethical behaviour.

(Reply to this) (Parent) (Thread)

Nav skaidrs mehānisms kā vispār ''is'' translējas uz ''ought''. ''Grib'' -> ''tātad jāpiešķir''?
Altruisms btw nav vienīgais pat nav svarīgākais faktors. Protams ir vajadzīgs, vismaz formālā līmenī (reāla empātija te nav nepieciešama). Daudz svarīgāka būtu, piemēram, stingra pašdisciplīna un tas ietver daudzus uzvedības paternus, kuri kā likums pārlieku liberālajiem/individuālistiskajiem ''progresīvistiem'' izraisa kairu alerģiju. Liberālisms, pretēji populāram mītam, ir kaitīgs sarežģītu sistēmu dzīvotspējai, tātad hardly progresīvs. Tāpat tā prasa ievērot zināmu ''veselīgu ksenofobiju'' kaut vai tiktāl ciktāl tas nozīmē izolēt no sevis tos, kas nepiekrīt attiecīgajās sistēmas uzstādītajām vērtībām. Nav skaidrs kādā veidā tu domā apvienot all-inclusive ''tolerantiju'' ar konkrētu, striktu vadlīniju, ņemot vērā, ka pat pašreizējajā hipertolerantajā Rietumu pasaulē dažādas kultūras diferences, pat lokālos līmeņos, rada nesamierināmus asumus. Liela daļa kreiso jau sāk atzīt, ka sapnis par globālo ciematu ir bankrotējis.

Ņemot vērā tavu domu biedru ideju marginalitāti, iespēja, ka tieši jūsējais modelis varētu kalpot par ko universālu ir maz ticams. Galu galā, jums ir tikai jūsu subjektīvais opinjōns un nāksies par tā labumu pārliecināt arī cilvēkus ārpus eksakto universitāšu kampusiem. Kas noved pie pēdējā un svarīgākā jautājuma - kā iedomājies savu matemātisku spergingu enforsēšanu. Jo morāle bez efektīvas enforsēšanas, nav morāle. Domā cilvēki pamazām pārvēršas par tādiem kā tu un tas notiks dabiski? Ņemot vērā pasīvi (agresīvo) progresīvistu filozofiju, neredzu variantus.

(Reply to this) (Parent) (Thread)

Neviena morāle nesatur direktīvas, kas liktu tai sekot. Par pārējo - šeit neizteikšos, pārāk gari un nu jau redundanti (nebūtu jau pirmā reize, kad izklāstu savu viedokli par šīm tēmām).

(Reply to this) (Parent) (Thread)

Plus, nevajadzētu jaukt ētiku ar politiku.

(Reply to this) (Parent)

''Tu neesi tava ģimene, tava nācija, tavs dzimums, un arī ne tava suga. Tu esi tu.''

Šāds teikums nestrādā nedz kā lozungs pareizajai sevis uztverei, nedz kā pretenzija uz fakta konstatāciju, pēdējais summē sevī (tajā skaitā) iepriekšējos, savukārt iepriekšējie determinē pēdējo.

Trešā utilita dod siltumu tādēļ, ka tik tiešām funkcionē kā jēgpilna daļa/zobrats labi ieeļļotā mehānismā, kura ceļa virziens ir viens un transparents - dzīvot. Otrais mazāk silts, jo dīlo ar problēmu - kā dzīvot. Pirmais ir visvēsākais, jo nonāk līdz - kāpēc dzīvot.
Saprotams, jo indivīds nevar būt pats sev par jēgu, pats sevis mērķis un rezultāts vienlaikus. No tā arī visa tā mizērija, mūžīgā depresija, dzīves jēgas meklējumi, kas labākajā gadījumā reducējas līdz ''sub'' jēgām ķipa, esmu ugunsdzēsējs - mana jēga ir dzēst uguni - tas man sniedz dzīves piepildījumu.

Reāla jēga, galīgā un patiesā, kas pārtrauc jebkādu tālāku interesi to meklēt, ir Absolūtā, apzinoties sevi nevis ''sevis'' bet Absolūta kontekstā. Te arī ceturtā un galīgā utilita, pret kuru trīs pārējās ir tikai ēnas uz alas sienas.

(Reply to this) (Thread)

Man prieks, ka Tev tā patīk fizika.

(Reply to this) (Parent)

Nedeterminē. Būtu skumji, ja tā būtu.

Tas par dzīvot/kā dzīvot/kāpēc dzīvot labs.

(Reply to this) (Parent)