ctulhu ([info]ctulhu) rakstīja,
@ 2018-06-26 14:55:00
Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Tas pats FAI
Kā zināms mašīnintelekta pētniecībā ir t.s. FAI jeb intelekta draudzīguma problēma, kas nozīmē uzdevumu panākt lai patvaļīgi mainīgs mašīnintelekts tomēr saglabātu zināmus bāzes principus.

Izskatās, ka ar sabiedrību konstruēšanu ir tas pats, ir svarīgi lai patvaļīgi mainīga - sevi pārstrukturējoša sabiedrība saglabā zināmus drošības principus, pazīstamus kā sekulārais humānisms.

Cik es zinu vēl nav skaidrs, kā to nodrošināt, konstruējot AGI

Vai ir zināms kā to nodrošināt, konstruējot un mainot sabiedrības?

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]ctulhu
2018-06-27 13:36 (saite)
Nu piemēram ka kādi intelekti augstāk minēto mērķu vietā nolemj ka labāk ir visu iznīcināt, pārvērst visumu saspraudēs un tml

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:13 (saite)
Man liekas dīvaini, ka AI var sapisties un uzstādīt sev par mērķi pārvērst visumu saspraudēs, bet nevar sapisties un nolemt pārvērst visumu saspraudēs zinātniski tehniskā progresa vārdā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:17 (saite)
Otrajā lēmumā ir pretruna - ja pārvēršam visumu saspraudēs, tad ZTP apstājas. nav turpināšanās nosacījuma.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:26 (saite)
Kāds tad tavuprāt būtu nosacījums mērķa maiņai, kas nodrošinātu mērķa dreifa iespēju?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:33 (saite)
cik es zinu tagad AI pētnieki uzskata ka tas var notikt pie nosacījuma ja sistēma ir rekursīva, var sevi pārrakstīt un/ vai konstruūt citus mašīnintelektus.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:55 (saite)
T.i. ļaunums ir softwāre bags principā?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 15:04 (saite)
Protams

(Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?