|
22. Feb 2014|16:48 |
Ja mēs paskatāmies un padomājam par to, ko viens cilvēks var darīt, lai dotu maksimālu labumu pārējiem, tad iespējams, tieši produktīva cīņa pret garīgajām slimībām un kaitēm ir pašreiz visproduktīvākā iespēja.
Tas - nobeidzot domu no iepriekšējā posta, saliekot kopā faktu, ka šis ir moments pirms būtiskiem izrāvieniem neirozinātnē ar faktu, ka grūtības būt harmonijā ar sevi un sabiedrību ir galvenais nelaimīguma cēlonis.
Šāds ir mans pašreizējais uzskats. Par pašu tēmu man aizdomāties pamudināja, šķiet LessWrong izlasītā tēze, ka vislielākā utilīta ir tādām darbībām kā darbs pie "draudzīga" mākslīgā intelekta, vai pie nemirstības - vispār darbībām, kas varētu dot maksimālu labumu maksimālam cilvēku skaitam. Tēzei piekrītu, kaut paši piemēri liekas aplami. Pirmkārt, nav konkrētu iemeslu, kas liktu domāt, ka kāds no šiem mērķiem varētu tikt sasniegts pārskatāmā laikā, līdz ar to strādā standarta Paskāla derību pretarguments - tikpat labi varētu strādāt pie miljons citiem mērķiem ar varbūtību margināli lielāku par nulli, tādiem kā teleportācija vai garu izsaukšana (presumably, "draudzīgu" garu). Mēģinājumi virzīties uz tik tālu esošiem mērķiem 99.9% gadījumu novedīs strupceļā. Līdz ar to jebkā darīšana šajā jomā gandrīz noteikti būtu wasted effort. No subjektīvās perspektīvas tas būtu ārkārtīgi nomācoši, pat ja cilvēcei kopumā šos strupceļus agrāk vai vēlāk būtu jāizpēta.
Otrkārt, nav skaidrs, vai pat tad, ja darbs tiešām dotu ieguldījumu virzībā uz šo mērķu sasniegšanu, tas būtu labi. Ko tad, ja izdosies uztaisīt nevis "draudzīgo", bet nedraudzīgo AI? Starpība starp tiem ir niecīga, no mūsu pašreizējā attāluma - tikpat kā nekāda. Ko tad, ja tiks iegūta nevēlama nemirstības forma? (Personīgi es uzskatu, ka tā arī notiks, un apšaubu, vai citādas formas vispār ir iespējamas.) |
|