Jautājums visiem konservatīvajiem un laissez-faire (zvēra) kapitālisma piekritējiem: vai Jūs gribētu, lai AI (AGI) aģenti (roboti, lielie valodu modeļi, ekspertu sistēmas, kas pieņem lēmumus automātiski utt. esošās un nākotnes sistēmas) būtu tādi un uzvestos tā, kā atbilstu Jūsu ideāliem un uzraudzītu Jūs, lai arī Jūs paši sekotu saviem iedomātajiem ideāliem?

Tieši tā - Jūsu nežēlīgajiem ideāliem, nevis jūsu pašu grēcīgajai tagadējai esamībai, kas atļauj gan piedzerties, gan iziet uz negodīgām intīmām attiecībām, gan strādā savtīgumā, nežēlībā un peļņā bāzētu darbu ar formali pievilktu saikni uz kādām ētikas vai morālām vērtībā (vai nu tas būt konservatīvais kristitisms vai korporatīvie ESG standarti).

Mani nomāc perspektīva dzīvot pasaulē, kurā AI aģentī būtu līdz nežēlībai savtīgi, rijīgi, peļņu maksimizējoši, kuriem nebūtu cilvēcīgas attieksmes pret seksualitāti un kultūras izjūtas pret ēdienu, alkoholu, modi, utt. Pietiek taču atcerēties, ka konservatīvais kristietisms nosoda arī smalkus ēdienus, nemaz nerunājot par citām sfērām.

Tieši tāpēc man liekas, ka AI aģentiem būtu jāseko 3 Bibliskajiem principiem: 1) audziet; 2) multiplicējaties; 3) mīliet savus tuvākos kā sevi pašu un tiem kalpojiet.

Cilvēkiem visādi ir gājis ar šo principu ievērošanu. Tie ir gan pārprasti. Gan arī palikuši neīstenoti, jo tekošās izdzīvošanas vajadzības dažreiz is spiedušas rīkoties pretēji ideāliem. Vismaz tā tajā brīdī ir licies. Tā tas viss ir bijis. Ne tikai cilvēku vēsture, bet arī tagade mēdz būt nepatīkama.

Bet vai tiešām mēs vēlamies, lai šīs negācijas, šī negāciju filosofija pāriet arī uz AI aģentiem un kopienām, kurās AI aģenti līdzdarbosies? Un pat ja mēs vēlētos šīs negacijas ieraudzīg AI aģentos un izjust to nežēlīgo attieksmi pret sevi, vai esam tam vispār gatavi?

----
Un tad vēl tā doma, ka mums būtu jāsaplūst ar AI... AI aprēkini tīri labi notiek silikonā, var notikt arī organiskos tranzistoros vai kvantu datoros, bet vai tiešām mums jācenšas, lai daļa no šiem kalkulāciju procesiem notiek arī mūsu smadzenēs? Ar mērki, ka tad nu mums it kā būtu spējas kaut ko kontrolēt?

Man tomēr liekas, ka nākotne ir AI un cilvēku kopienās, kas ir bāzētas uz morāli ētiskiem principiem un liberālais katolicisms (vai jebkura 2. paaudzes ne-pagāniskā reliģija - Budisms varbūt arī Islāms - bet jebkurā gadījumā - to liberālās versijas) būtu šādi principi. Liberālais katolicisms nozīmētu: 1) zinātnes integrācija ētikē (t.i. nevis abstraktas un ne-apzinātas, ne-izprotamas tikumiskās normas, bet psiholoģija un apzinātība, human flourising); 2) personības atzīšana (dzimte, rase, seksuālā orientācija, utt.) un respektēšana un mūsdienu apziņas līmenim neatbilstošu un pārprastu tabu izbeigšana; 3) tuvākmīlestība, karitāte, integrāla izaugsme; 4) atvērtība Providencei un iespējamiem fixpoint risinājumiem bezgalības hierarhijās, no kuriem nāk bezgalīgs labums; 5) pat ja Paradīzes nav, tā ir jārada, kaut vai uz zemes.