ctulhu ([info]ctulhu) rakstīja,
@ 2018-06-26 14:55:00
Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Tas pats FAI
Kā zināms mašīnintelekta pētniecībā ir t.s. FAI jeb intelekta draudzīguma problēma, kas nozīmē uzdevumu panākt lai patvaļīgi mainīgs mašīnintelekts tomēr saglabātu zināmus bāzes principus.

Izskatās, ka ar sabiedrību konstruēšanu ir tas pats, ir svarīgi lai patvaļīgi mainīga - sevi pārstrukturējoša sabiedrība saglabā zināmus drošības principus, pazīstamus kā sekulārais humānisms.

Cik es zinu vēl nav skaidrs, kā to nodrošināt, konstruējot AGI

Vai ir zināms kā to nodrošināt, konstruējot un mainot sabiedrības?

(Ierakstīt jaunu komentāru)


[info]kjiimikjis
2018-06-26 15:17 (saite)
Šaubos, ka var apgalvot, ka ir zināms, kā (mērķtiecīgi un ar vēlamā rezultāta sasniegšanu) konstruēt un mainīt sabiedrības vispār, kur nu vēl nodrošināt tādus ilgtermiņā saglabājamus principus, kas tieši nespēlē uz pamata instinktiem.

(Atbildēt uz šo) (Diskusija)


[info]ctulhu
2018-06-26 15:58 (saite)
Nu jā tie parciāli ir jautājumi kurus uzdod visādi gnidrologveidīgie - tā daļa kas šajos jautājumos meiko sensu, viņu risinājums sadalīt cilvēci mūsos un untermenšos aiz virknes iemeslu neder, bet problēma tomēr paliek.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]kjiimikjis
2018-06-26 16:25 (saite)
Dalīšanās "mūsējos" un "tajos tur" ir neizbēgama. Kaut vai pēc paša jautājuma uzstādījuma, sabiedrība dalīsies daļās "tie, kas uzskata, ka sekulārais humānisms ir saglabājama lieta" un "tie, kas to grib atmest", ar veselu čupu gradāciju pa vidu.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 16:28 (saite)
Nu labi, tehniski sabiedrību var dalīt arī tajos kas preferē liet sērskābi ūdenī un tajos kas otrādi. Pēdējos var pazīt pēc emmm sekām. Tas ir es gribēju teikt, ka būt pret empīriski apstiprinātām lietām protams var, bet lietu daba no tā nemainīsies => tie kas ir pret sekulāro humānismu neizbēgami paaugstina apdraudējumu sabiedrībā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]kjiimikjis
2018-06-26 16:52 (saite)
Nu jā, un tur arī ir tā problēma - kā pašam neizkāpjot no SekHum rāmjiem, pārliecināt tā pretiniekus, ka tāds ir vajadzīgs? Ekstrēmā gadījumā situāciju var salīdzināt ar oratora-pacifista nonākšanu boksa ringā. Lai cik labs orators viņš nebūtu, diez vai tas viņu glābs no nokauta.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]gnidrologs
2018-06-26 16:55 (saite)
SekHum skan neslikti. Gandrīz kā IngSoc. Vai, tautas valodā, šekums.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 17:00 (saite)
gnidrolog nesaej mansganā/ haufmilkā, tu vari labāk

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]gnidrologs
2018-06-26 17:41 (saite)
Nu bet tiešām labi.

(Atbildēt uz šo) (Iepriekšējais)


[info]ctulhu
2018-06-26 16:57 (saite)
Nu manā skatījumā tas ir sekulārais humānisms + specdienests kas nodrošina viņa turpināšanos, nu tipa kā satversmes aizsardzības birojs

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]gnidrologs
2018-06-26 17:43 (saite)
Ar kādām metodēm viņš to dara, m?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 17:47 (saite)
ar kādām vajag, pieturoties pie principa neradīt liekass ciešanas nevienam

(Atbildēt uz šo) (Iepriekšējais)


[info]snauts
2018-06-26 15:58 (saite)
Ja mēs negribam, ka mašīna pati novērtē sekulāru humānismu eksperimentāli, pamēģinot nebūt sekulāri humāna, tad vienīgā alternatīva ir indoktrinācija, kas protams laupa mašīnai zināmu inteliģenci, tādā izpratnē, ka liedz tai apšaubīt noteiktus principus.

(Atbildēt uz šo) (Diskusija)


[info]ctulhu
2018-06-26 16:00 (saite)
Mašīna šo apšaubīšanu varētu ieziet simulācijas režīmā, līdzīgi kā mēs to daram.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 16:16 (saite)
Sarežģītu sistēmu simulācijas ir ļoti ierobežotas, mēs cilvēki taču nonākam pie dažādiem uzskatiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 16:21 (saite)
Pastāv uzskats, ka pie dažādiem uzskatiem mēs nonākam smadzeņu darbības neregularitāšu dēļ, ja sistēmā šādu neregularitāšu ir mazāk, tad pie vienas un tās pašas empīrikas un viena un tā paša plāna un neizdarot loģiskas kļūdas spriedumos vajadzētu sanākt vieniem un tiem pašiem uzskatiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 16:43 (saite)
Kāds tad tavuprāt varētu būt visu cilvēku un mašīnu kopīgais plāns? (pieļauju, ka vārdu plāns tu lietoji tādā nozīmē kā mērķis)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 16:46 (saite)
Plāns = mērķis.

Tas būtu attīstīties tā lai katrā laika momentā saglabājas iespēja attīstīties max dažādos virzienos max ilgu laiku, ideālā patvaļīgi ilgi.

Tātad brīvības pakāpju skaita nepārtraukts pieaugums neierobežoti ilgu laiku.

Praksē tas nozīmē nepārtrauktu patvaļīugi ilgu zinātniski tehnisko progresu un tādu sabiedrības izveidojumu kura viņu max labi nodrošina.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 16:53 (saite)
Kā būt ar humānismu, ja mašīnas paliks tik krutas, ka cilvēce sāks traucēt zinātniski tehnoloģiskā progresa tempam?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 16:59 (saite)
cilvēku - mašīnu saplūšana, t.i. human augmentation/ enhanecement. Zūd sarpība starp mums un mašīnām, humānisms vispārinās uz kognitārismu ( vērtība cilvēks => vērtība saprāts)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 17:55 (saite)
Ko darīt ar saprātiem, kas netraucē citiem, bet arī neko labu nedod progresam, noēd tikai atmiņas un skaitļošanas resursus virtuāli masturbējot?
T.i. cilvēce arī tagad ievērojot visus humānisma principus var ieslīgt dziļā hedonismā un pārstāt progresēt, un kā mūsu draudzīgajam AI vajadzētu uzvesties, ja viņa mērķos ietilpu zinātniski tehnoloģiskā progresa virzīšana, jo īpaši ja viņam izdotos izsimulēt, ka "neliela" nehumāna rīcība varētu ievērojami uzlabot progresu?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 18:01 (saite)
/bet arī neko labu nedod progresam, noēd tikai atmiņas un skaitļošanas resursus virtuāli masturbējot?/

atstāt kāpētījumu objektu/ mēģināt ar kko ieinteresēt

/"neliela" nehumāna rīcība varētu ievērojami uzlabot progresu?/

Nestrādā ilgtermiņā, nehumānas rīcības destruktīvie rezultāti uzkrājas, sistēma izjūk - zinām no vēstures, psrs un tml.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 22:30 (saite)
Nu bet tad jau viss ir skaisti, AGI vienkārši izdarīs pareizos secinājumus, jo būt nedraudzīgam ir vienkārši stulbi, problem solved.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 01:49 (saite)
ja izslēdz mērķu dreifu, tad jā problem solved

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 05:30 (saite)
Kas ir mērķu dreifs un kā tas var notikt?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 13:36 (saite)
Nu piemēram ka kādi intelekti augstāk minēto mērķu vietā nolemj ka labāk ir visu iznīcināt, pārvērst visumu saspraudēs un tml

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:13 (saite)
Man liekas dīvaini, ka AI var sapisties un uzstādīt sev par mērķi pārvērst visumu saspraudēs, bet nevar sapisties un nolemt pārvērst visumu saspraudēs zinātniski tehniskā progresa vārdā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:17 (saite)
Otrajā lēmumā ir pretruna - ja pārvēršam visumu saspraudēs, tad ZTP apstājas. nav turpināšanās nosacījuma.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:26 (saite)
Kāds tad tavuprāt būtu nosacījums mērķa maiņai, kas nodrošinātu mērķa dreifa iespēju?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:33 (saite)
cik es zinu tagad AI pētnieki uzskata ka tas var notikt pie nosacījuma ja sistēma ir rekursīva, var sevi pārrakstīt un/ vai konstruūt citus mašīnintelektus.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:55 (saite)
T.i. ļaunums ir softwāre bags principā?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 15:04 (saite)
Protams

(Atbildēt uz šo) (Iepriekšējais)


[info]crescendo
2018-07-01 22:49 (saite)
Neticami, ka neviens neieteica reliģiju kā zināmo nodrošinātāju.
Baidās no Ctulhu no Rlyeh?

(Atbildēt uz šo) (Diskusija)


[info]ctulhu
2018-07-01 23:36 (saite)
Drošinātājs, kas satur melus - nav labs drošinātājs

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]crescendo
2018-07-03 16:45 (saite)
Kamēr vien drošinātājs darbojas kā hard limit attiecīgo melu atklāšanai, viss ir brīnišķīgi.

Jo nu.. izglītība ir sarežģīti.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-07-03 17:44 (saite)
Atslēgvārdi - ``kamēr vien``, nu jā izglītība ir sarežģītāk toties uz pavisam.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]crescendo
2018-07-03 17:46 (saite)
Stīvensona Snow Crash ir lasīts? Tur šis ir smuks B plots.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-07-03 17:47 (saite)
Ir lasīts jā

(Atbildēt uz šo) (Iepriekšējais)

Neesi iežurnalējies. Iežurnalēties?