Sviesta Ciba |

ctulhu (

ctulhu) rakstīja,
@ 2017-06-09 22:25:00

Speciāli priekš Gedymin

Te viņš var izstāstīt, kāpēc viņš uzskata ka transhumānisms ir bīstams.

Konkrēti pa punktiem.

[citi, kas tā domā, arī var izstāstīt, protams]

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)

	gedymin 2017-06-09 22:58 (saite)
	Aizvietot cilvēkus ar robotiem, ieviest totalitārismu uz fantāziju pamata par to kā tas varētu strādāt, aizstāt visas daudzveidīgās cilvēku vērtības ar "progress, attīstība, zināšanas". What could possibly go wrong! (Atbildēt uz šo) (Diskusija)

	gedymin 2017-06-09 23:08 (saite)
	Un nemaz nepieminot idejas, kurām joprojām tici, par mind uploading, fizisko nemirstību, utt., kas pa pusei atgādina vakara pasaciņas, bet pie lielākās daļas realizāciju will destroy the civilization as we know it (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-09 23:11 (saite)
	Lūdzu izstāsti, ko iznīcinās situācija, kad Gedymin vai es vai kāds cits eksistē patvaļīgi ilgi? ``civilization as we know it`` Hm, jā iekšdedzes dzinējs un telegrāfs arī iznīcināja status quo kā mēs to zinājām. Internets arī. Gribi atpakaļ ``civilizāciju kādu mēs to pazinām`` ar pasta pajūgiem un bez antibiotikām? (Atbildēt uz šo) (Iepriekšējais)

	ctulhu 2017-06-09 23:20 (saite)
	Jā un lūdzu izlem beidzot vai MU ir ``vakara pasaciņas`` vai ``drauds cilvēcei``. Es saprotu, ka ļoti gribas sašust abos virzienos, bet viņi, eeee, ir drusku pretrunīgi, nāksies izvēlēties :D (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-09 23:30 (saite)
	Man šķiet, ka, gedymin uzskatos, tas ir reliģiskas ticības jautājums. Which is bullshit but telling. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-09 23:32 (saite)
	Nu jā es tikai mēģinu saprast, vai viņa reliģija ir ka tas nav iespējams vai ka tas ir ļoti bīstami. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-09 23:34 (saite)
	Nē, mana doma ir "viņš to pielīdzina reliģijai", t.i., uzskatiem, kas attiecas uz neeksistējošām un/vai nerealizējamām lietām, bet, tajā pašā laikā, var būt bīstami. Tiesa gan, bez komentāriem no viņa puses es varu deducēt tikai tik tālu. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-09 23:34 (saite)
	ā nu varbūt. Gaidīsim skaidrojumu. (Atbildēt uz šo) (Iepriekšējais)

	gedymin 2017-06-10 17:04 (saite)
	Nē, pārprati, tāda šoreiz nebija doma. Iekavās: reliģiskais aspekts H+ man kā reiz liekas visumā pozitīvs, turpiniet vairāk strādāt šajā virzienā: https://www.theguardian.com/technology/2017/apr/18/god-in-the-machine-my-strange-journey-into-transhumanism (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-10 17:12 (saite)
	Šķiet, ka šajā sakarā man/mums nāksies Tevi sarūgtināt. (Atbildēt uz šo) (Iepriekšējais)

	ctulhu 2017-06-10 17:15 (saite)
	Nē nu ja ķadam toč nav ko darīt, var šitā niekoties, protams labāk ir reliģiski ticēt iespējamām lietām nekā neiespējamām, bet in general nah reliģisku ticēšanu, vnk darām lietas un viss. (Atbildēt uz šo) (Iepriekšējais)

gedymin
2017-06-10 17:05 (saite)

Paskaidrošu ar analoģiju - pirms brāļiem Raitiem un sevišķi vēl pirms gaisa baloniem priekšstats par lidošanu bija tāds mitoloģisks, pasakains. Lidoja Ikars, enģeļi, raganas. Reizēm lidošanu mēģināja realizēt piestiprinot pie rokām no koka un metāla taisītus spārnus. Tad tehnoloģija progresēja, un var teikt, ka vienā brīdī cilvēki iemācījās lidot. Bet lido viņi nepavisam ne tā, kā iedomājās pirms tam. Tāpat jūsu priekšstats par visām šīm "jaukajām" lietām šobrīd ir pasaku līmenī. Paņemam pašreizējo situāciju (cilvēka ķermenis), piestiprinam vienu papildus elementu (spārni), un vualā - lidotājs gatavs.

Bīstama tā atkal ir tāpēc, ka ne es, ne kāds cits izņemot varbūt bariņu psihiski atipisku indivīdu negribētu dzīvot tavā utopijā.

Šis ir viss ir preaching to the choir, vai anti-choir šajā gadījumā. Izskatās, ka tu gribi debatēt un nonākt pie kautkāda kopsaucēja, bet tas nav tas, ko šeit reālistiski var panākt. Mb labāk uzķēra, ka mums ir vērtību disonanse.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

ctulhu
2017-06-10 17:13 (saite)

//Bīstama tā atkal ir tāpēc, ka ne es.../

tā, vispirms davai runā tikai par sevi, varbūt tieši tu esi psihiski atipisks.

Tālāk tas noreducējas uz loģiku: Man negaršo kotletes => kotletes ir bīstamas.

//Mb labāk uzķēra, ka mums ir vērtību disonanse.//

lai par to spriestu ir jāzina tavas vērtības. Savas es zinu, tavas ne. Nosauc, uzskaiti.

(Atbildēt uz šo) (Iepriekšējais)

	mindbound 2017-06-10 17:15 (saite)
	Kādēļ Tu turpini uzstāt savu "tas viss ir pasaku līmenī" tēzi, ja lielākajai daļai no apspriesto lietu jau šobrīd eksistē dažāda pabeigtības līmeņa izstrādnes, pētījumi utt.? (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-10 17:16 (saite)
	aha un vēl es gribētu zināt, kas tad ir ``mana utopija``, kurā viš negrib dzīvot. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-10 17:21 (saite)
	Kad pēdējo reizi skatījos, neviens no mums šeit pārāk nekoncentrējās uz utopiju propozāļiem. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-10 17:23 (saite)
	Nu ja tāpēc jau es saku lai gedymin iepazīstina mani ar manu utopiju (Atbildēt uz šo) (Iepriekšējais)

gnidrologs
2017-06-10 17:56 (saite)

''Kādēļ Tu turpini uzstāt savu "tas viss ir pasaku līmenī" tēzi, ja lielākajai daļai no apspriesto lietu jau šobrīd eksistē dažāda pabeigtības līmeņa izstrādnes, pētījumi utt.?''

Tepat zemākajā pavedienā tu pats apgalvo, neko praktiskā ziņā nevari komentēt. Tikai to, ka AI is cool. Ne tu ne Ctulhu nepaskaidro neko praktiskā līmenī Teorētiski paip drīmi un spredšīti, kas pamato, ka mūsdienu AI i laik tiešām kruts, ir retorika. Tieši tāpēc cilvēkam no malas, man vai g, nākas spekulēt un spekulācijas parasti balstās uz kaut kā jau pieredzēta. Pieredze rāda, ka ārpus demokrātijas spektrs vienmēr gravitē autoritārisma virzienā, nekādu trešo neesam redzējuši.

Par konstruktīvu es uzskatītu, ja piemēram kaut kur eksistētu drāmas teātris, velosipēdus dizainējošs un ražojošs uzņēmums vai psihoterapijas klīnika, kur visu darbu pilnībā administrētu (personīgā, face to face līmenī) jūsu state of the ar AI. Tikai no tādiem praktiskiem eksperimentiem varētu vispār sākt domāt vai datoru drīkstētu laist pie augsta līmeņa vadīšanas, vēl jo vairāk globālā līmenī. Droši vien, ka daudziem nebūtu nekas pretim atdot garlaicīgus administrēšanas darbus nekļūdīgai mašīnai un nodoties kādām izklaidējošākām/radošākām darbībām, bet tagad nav pat rudimentāra zināšana ko h+ ideologi domā ar ''planetāru mašīnintelektu'' un kā tas risinātu vispārcilvēciskas problēmas.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-10 18:01 (saite)
	Domāju, ka līdz kā tāda redzēšanai nebūs jāgaida sevišķi ilgi. Par pārējo – te bija runa ne tikai par AI pārvaldību, bet arī par WBE u.c. standarta tēmām, kas, pēc gedymin domām, ir "pasaku līmenī", par spīti desmitiem konkrētu WIP rezultātu. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	gnidrologs 2017-06-10 18:17 (saite)
	Low-brow manual labor var aizvietot ar low brow robotiem. Vecas ziņas. Nav ne tuvu par to, par ko runā Ctulhu. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-10 18:34 (saite)
	Šoreiz izlasi visu grafiku, nevis tikai pāris pirmās rindas. Drāmas teātru u.c. tamlīdzīgos gadījumos gan drīzāk radīsies variācijas par tēmu, nevis tieša izkonkurēšana, bet ražošanas, dizaina, apkalpošanas, uzskaites u.c. no publikas gaumes mazāk atkarīgās jomās ir sagaidāma tieši pēdējā. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

gnidrologs
2017-06-10 20:02 (saite)

Paldies, es izlasīju gan visu sarakstu. Ja tie būtu linki uz reāliem eksperimentiem, būtu par ko runāt. Tā bija tabula ar kāda futūrista paredzējumiem. Ražošana, uzskate un apkalpojošais serviss ir world apart no vīzijas par datoru-politiķi, kas nosaka kādu diplomātiju piekops Izraēlas-Palestīnas konfliktā, ir vai nav vajadzīgs finansēt vietējos literātus un vai mums nepieciešama feministiska sniega slaucīšana. Pašapkalpošanās benzīntaki un automatizēti konveijeri mums ir jau kopš 20gs pirmās puses.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

mindbound
2017-06-11 01:23 (saite)

Pirmkārt, neviens taču neapgalvo, ka šādas kapacitātes sistēmas tiks uzkonstruētas rīt vai kaut tuvākajā desmitgadē. Runa ir tikai par to, ka valsts vadīšana ne ar ko fundamentāli neatšķiras no uzņēmuma vadīšanas, savukārt tās abas pieder ļoti aktuālai un aktīvi pētītai jomai, proti, parametru optimizācijai.

Otrkārt, esošos risinājumus var uzskatīt par iestrādnēm un "pakāpieniem" advancētāku risinājumu virzienā (ZTP vulgaris).

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	gnidrologs 2017-06-11 01:27 (saite)
	Manā uztverē ir viena fundamentāla atšķirība. Valsts vadīšana ir ideoloģiska/filozofiska un by extension, morāla. Uzņēmums ir tikai peļņas gūšanas aparāts. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-11 01:32 (saite)
	Manā uztverē minētā atšķirība ir galvenokārt ierastu definīciju līmenī. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

gnidrologs
2017-06-11 02:57 (saite)

Vērtību līmenī, kā teica gedymin. Tās mums, dažādiem cilvēkiem, nekad pilnībā nepārklāsies, jo neesam skudras, līdz ar to political struggle forever. Superpowerful AI can only serve as a weapon for one of the sides. Bet nu, par laimi, nekāda strong AI nekad nebūs, tāpēc šī saruna man vairāk interesē ko dažādi cilvēki gribētu panākt, ja viņiem būtu tāds ierocis.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-11 03:02 (saite)
	Kādā veidā Tu nonāc līdz uzskatam par AGI neiespējamību? (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

gnidrologs
2017-06-11 11:34 (saite)

Nekad pie tā neesmu nonācis. Tāds mans uzskats bijis vienmēr un liekas esmu par to jau runājis stipri sen. Tu esi ''reign of quantity'' produkts. Complexity is just simplicity multiplied. Es cilvēka apziņu/sentienci/inteliģenci fundamentālā līmenī uzskatu par kvalitatīvi citu, tāpēc evolūcija ''from lower to higher'' pieplusojot pa cipariņam neredzu. Tas arī ir vērtību jautājums, tāpēc droši vien nav vērts cilāt.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-11 11:39 (saite)
	Protams ir svarīgi kā elementi ir savienoti, ne tikai cik viņu ir, bet a) pie viena savienojumu veida vairāk būs labāk (piemēram vairāk atmiņas) b) ja ir vairāk, var realizēties vairāki dažādi savienojumu veidi ņemot vērā (a) un (b) kas tieši ir ``kvalitatīvi cits``? (Atbildēt uz šo) (Iepriekšējais)

ctulhu
2017-06-10 18:23 (saite)

Es domāju ka nebūs tādas lēcienveida pārejas ``hops, tagad valdībā piedalās mašīnas``, vnk aizvien vairāk rutīnas darba tiek automatizēts.

Es to zinu uz savas ādas:

80 gados savāk tliteratūru par kādu tēmu, pētniecības projektam utt bija nedēļa vai 2 nedēļas biblenē, katalogi referatīvie žurnāli, pasūtījumi, izrakstim meklēšana, meklēšana...

Tagad tas ir dažas stundas

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	gnidrologs 2017-06-10 20:06 (saite)
	Tas jau ir tuvāk zemei, bet arī atpakaļpedāļošana no planetāra mašīnintelekta, kas nomainīs pašreizējo valdību. Beisiklī turpināsies ar vien advancētāku instrumentu izstrāde. Instrumentu, ar kuriem manipulēt matērijas pikučus. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-11 01:28 (saite)
	That's not saying much. Pilnīgi viss, ko cilvēki ir radījuši, ir "arvien advancētāki instrumenti, ar kuriem manipulēt matērijas pikučus", sākot ar rakstību un krama cirvjiem un beidzot ar Internetu un kodolieročiem, atšķiras tikai matērijas pikuču paveidi un iedarbības forma. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	gnidrologs 2017-06-11 11:30 (saite)
	Idejas, kas draivojušas cilvēku ir daudz svarīgākas lietas. Tehnoloģijas ir tikai blakus efekti, kas ietekmē vienas vai otras ideoloģijas veiksmīgāku dominanci pār citām. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-11 11:36 (saite)
	Tur ir atgriezeniskā saite - izdzīvo un turpinās tās ideoloģijas, kuras ir labāk savietojamas ar tehnoloģiju radīšanu. Tas novārās uz terminālo mērķu selekciju. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	gnidrologs 2017-06-11 13:06 (saite)
	Not really. (Atbildēt uz šo) (Iepriekšējais)

	mindbound 2017-06-09 23:32 (saite)
	Pirmkārt, WBE iespējamība nu jau ilgāku laiku nav ticības jautājums. Otrkārt, te vajadzētu paskaidrojumu par to, kā, Tavuprāt, šīs lietas varētu iznīcināt civilizāciju. Pārveidot – pavisam noteikti, bet to pašu var teikt par katru pietiekami lielu sasniegumu. (Atbildēt uz šo) (Iepriekšējais)

ctulhu
2017-06-09 23:09 (saite)

1. Kāpēc aizstāt? Papildināt.
2. Ieviest totalitārismu? emmm, no kurienes tāda ideja? Kāpēc tu domā, ka augmentēti intelekti nevar debatēt, atrast konsensu utt, līdzīgi kā tas notiek tagad?
3. Kas ir ``uz fantāziju pamata``? Tādu lietu kā simulācijas/ modelēšanu aizmirsi?
4. Joprojām, plīz uzskaiti tās vērtības citādi es nezinu par ko tu runā.

(Atbildēt uz šo) (Iepriekšējais)

	mindbound 2017-06-10 00:12 (saite)
	A lot of things could go wrong, piesardzībai un apdomībai tikai nevajadzētu novest pie paranojas un stagnācijas. Tiesa gan, es prognozēju, ka daļa mūsu domstarpību ir tīri vērtību disonanses līmenī, kā sakarā, vismaz šādā tuvinājumā, es īsti neko nevaru iesākt. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-10 00:16 (saite)
	Nu jā lai salīdzinātu vērtības prasās vērtību saraksts studijā, es dažas savas uzrakstīju, gedymin vērtības kaut kā neredzu (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	mindbound 2017-06-10 00:21 (saite)
	Protams, vērtības ir kompleksas un trauslas, bet vismaz es neproponēju neko tādu, kas satur viegli atpazīstamus riskus pa šīm asīm (wireheading, hedonic tiling u.c.), līdz ar to būtu vajadzīgs precizēt, tieši kur tiek saskatīti potenciālie riska faktori un kā tie varētu izpausties. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2017-06-10 00:32 (saite)
	Nu jā, ja viņš iebilst pret hedonisko kolapsu vai `labvēlīgās aukles`` scenāriju, tad OK (Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Navigate: