ctulhu ([info]ctulhu) rakstīja,
@ 2018-06-26 14:55:00
Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Tas pats FAI
Kā zināms mašīnintelekta pētniecībā ir t.s. FAI jeb intelekta draudzīguma problēma, kas nozīmē uzdevumu panākt lai patvaļīgi mainīgs mašīnintelekts tomēr saglabātu zināmus bāzes principus.

Izskatās, ka ar sabiedrību konstruēšanu ir tas pats, ir svarīgi lai patvaļīgi mainīga - sevi pārstrukturējoša sabiedrība saglabā zināmus drošības principus, pazīstamus kā sekulārais humānisms.

Cik es zinu vēl nav skaidrs, kā to nodrošināt, konstruējot AGI

Vai ir zināms kā to nodrošināt, konstruējot un mainot sabiedrības?

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]ctulhu
2018-06-26 16:59 (saite)
cilvēku - mašīnu saplūšana, t.i. human augmentation/ enhanecement. Zūd sarpība starp mums un mašīnām, humānisms vispārinās uz kognitārismu ( vērtība cilvēks => vērtība saprāts)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 17:55 (saite)
Ko darīt ar saprātiem, kas netraucē citiem, bet arī neko labu nedod progresam, noēd tikai atmiņas un skaitļošanas resursus virtuāli masturbējot?
T.i. cilvēce arī tagad ievērojot visus humānisma principus var ieslīgt dziļā hedonismā un pārstāt progresēt, un kā mūsu draudzīgajam AI vajadzētu uzvesties, ja viņa mērķos ietilpu zinātniski tehnoloģiskā progresa virzīšana, jo īpaši ja viņam izdotos izsimulēt, ka "neliela" nehumāna rīcība varētu ievērojami uzlabot progresu?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 18:01 (saite)
/bet arī neko labu nedod progresam, noēd tikai atmiņas un skaitļošanas resursus virtuāli masturbējot?/

atstāt kāpētījumu objektu/ mēģināt ar kko ieinteresēt

/"neliela" nehumāna rīcība varētu ievērojami uzlabot progresu?/

Nestrādā ilgtermiņā, nehumānas rīcības destruktīvie rezultāti uzkrājas, sistēma izjūk - zinām no vēstures, psrs un tml.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 22:30 (saite)
Nu bet tad jau viss ir skaisti, AGI vienkārši izdarīs pareizos secinājumus, jo būt nedraudzīgam ir vienkārši stulbi, problem solved.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 01:49 (saite)
ja izslēdz mērķu dreifu, tad jā problem solved

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 05:30 (saite)
Kas ir mērķu dreifs un kā tas var notikt?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 13:36 (saite)
Nu piemēram ka kādi intelekti augstāk minēto mērķu vietā nolemj ka labāk ir visu iznīcināt, pārvērst visumu saspraudēs un tml

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:13 (saite)
Man liekas dīvaini, ka AI var sapisties un uzstādīt sev par mērķi pārvērst visumu saspraudēs, bet nevar sapisties un nolemt pārvērst visumu saspraudēs zinātniski tehniskā progresa vārdā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:17 (saite)
Otrajā lēmumā ir pretruna - ja pārvēršam visumu saspraudēs, tad ZTP apstājas. nav turpināšanās nosacījuma.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:26 (saite)
Kāds tad tavuprāt būtu nosacījums mērķa maiņai, kas nodrošinātu mērķa dreifa iespēju?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:33 (saite)
cik es zinu tagad AI pētnieki uzskata ka tas var notikt pie nosacījuma ja sistēma ir rekursīva, var sevi pārrakstīt un/ vai konstruūt citus mašīnintelektus.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:55 (saite)
T.i. ļaunums ir softwāre bags principā?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 15:04 (saite)
Protams

(Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?