ctulhu ([info]ctulhu) rakstīja,
@ 2018-06-26 14:55:00
Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Tas pats FAI
Kā zināms mašīnintelekta pētniecībā ir t.s. FAI jeb intelekta draudzīguma problēma, kas nozīmē uzdevumu panākt lai patvaļīgi mainīgs mašīnintelekts tomēr saglabātu zināmus bāzes principus.

Izskatās, ka ar sabiedrību konstruēšanu ir tas pats, ir svarīgi lai patvaļīgi mainīga - sevi pārstrukturējoša sabiedrība saglabā zināmus drošības principus, pazīstamus kā sekulārais humānisms.

Cik es zinu vēl nav skaidrs, kā to nodrošināt, konstruējot AGI

Vai ir zināms kā to nodrošināt, konstruējot un mainot sabiedrības?

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]snauts
2018-06-26 15:58 (saite)
Ja mēs negribam, ka mašīna pati novērtē sekulāru humānismu eksperimentāli, pamēģinot nebūt sekulāri humāna, tad vienīgā alternatīva ir indoktrinācija, kas protams laupa mašīnai zināmu inteliģenci, tādā izpratnē, ka liedz tai apšaubīt noteiktus principus.

(Atbildēt uz šo) (Diskusija)


[info]ctulhu
2018-06-26 16:00 (saite)
Mašīna šo apšaubīšanu varētu ieziet simulācijas režīmā, līdzīgi kā mēs to daram.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 16:16 (saite)
Sarežģītu sistēmu simulācijas ir ļoti ierobežotas, mēs cilvēki taču nonākam pie dažādiem uzskatiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 16:21 (saite)
Pastāv uzskats, ka pie dažādiem uzskatiem mēs nonākam smadzeņu darbības neregularitāšu dēļ, ja sistēmā šādu neregularitāšu ir mazāk, tad pie vienas un tās pašas empīrikas un viena un tā paša plāna un neizdarot loģiskas kļūdas spriedumos vajadzētu sanākt vieniem un tiem pašiem uzskatiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 16:43 (saite)
Kāds tad tavuprāt varētu būt visu cilvēku un mašīnu kopīgais plāns? (pieļauju, ka vārdu plāns tu lietoji tādā nozīmē kā mērķis)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 16:46 (saite)
Plāns = mērķis.

Tas būtu attīstīties tā lai katrā laika momentā saglabājas iespēja attīstīties max dažādos virzienos max ilgu laiku, ideālā patvaļīgi ilgi.

Tātad brīvības pakāpju skaita nepārtraukts pieaugums neierobežoti ilgu laiku.

Praksē tas nozīmē nepārtrauktu patvaļīugi ilgu zinātniski tehnisko progresu un tādu sabiedrības izveidojumu kura viņu max labi nodrošina.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 16:53 (saite)
Kā būt ar humānismu, ja mašīnas paliks tik krutas, ka cilvēce sāks traucēt zinātniski tehnoloģiskā progresa tempam?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 16:59 (saite)
cilvēku - mašīnu saplūšana, t.i. human augmentation/ enhanecement. Zūd sarpība starp mums un mašīnām, humānisms vispārinās uz kognitārismu ( vērtība cilvēks => vērtība saprāts)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 17:55 (saite)
Ko darīt ar saprātiem, kas netraucē citiem, bet arī neko labu nedod progresam, noēd tikai atmiņas un skaitļošanas resursus virtuāli masturbējot?
T.i. cilvēce arī tagad ievērojot visus humānisma principus var ieslīgt dziļā hedonismā un pārstāt progresēt, un kā mūsu draudzīgajam AI vajadzētu uzvesties, ja viņa mērķos ietilpu zinātniski tehnoloģiskā progresa virzīšana, jo īpaši ja viņam izdotos izsimulēt, ka "neliela" nehumāna rīcība varētu ievērojami uzlabot progresu?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-26 18:01 (saite)
/bet arī neko labu nedod progresam, noēd tikai atmiņas un skaitļošanas resursus virtuāli masturbējot?/

atstāt kāpētījumu objektu/ mēģināt ar kko ieinteresēt

/"neliela" nehumāna rīcība varētu ievērojami uzlabot progresu?/

Nestrādā ilgtermiņā, nehumānas rīcības destruktīvie rezultāti uzkrājas, sistēma izjūk - zinām no vēstures, psrs un tml.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-26 22:30 (saite)
Nu bet tad jau viss ir skaisti, AGI vienkārši izdarīs pareizos secinājumus, jo būt nedraudzīgam ir vienkārši stulbi, problem solved.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 01:49 (saite)
ja izslēdz mērķu dreifu, tad jā problem solved

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 05:30 (saite)
Kas ir mērķu dreifs un kā tas var notikt?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 13:36 (saite)
Nu piemēram ka kādi intelekti augstāk minēto mērķu vietā nolemj ka labāk ir visu iznīcināt, pārvērst visumu saspraudēs un tml

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:13 (saite)
Man liekas dīvaini, ka AI var sapisties un uzstādīt sev par mērķi pārvērst visumu saspraudēs, bet nevar sapisties un nolemt pārvērst visumu saspraudēs zinātniski tehniskā progresa vārdā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:17 (saite)
Otrajā lēmumā ir pretruna - ja pārvēršam visumu saspraudēs, tad ZTP apstājas. nav turpināšanās nosacījuma.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:26 (saite)
Kāds tad tavuprāt būtu nosacījums mērķa maiņai, kas nodrošinātu mērķa dreifa iespēju?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 14:33 (saite)
cik es zinu tagad AI pētnieki uzskata ka tas var notikt pie nosacījuma ja sistēma ir rekursīva, var sevi pārrakstīt un/ vai konstruūt citus mašīnintelektus.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]snauts
2018-06-27 14:55 (saite)
T.i. ļaunums ir softwāre bags principā?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2018-06-27 15:04 (saite)
Protams

(Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?