ctulhu ([info]ctulhu) rakstīja,
@ 2015-11-02 00:00:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Tātad iedomāsimies, ka mums ir rekursīvs AGI (rekursīvs = tāds, kas var sevi pārrakstīt uzlabotos veidos). Lai vinš rekursīvi pārrakstoties neaizdreifētu hvz kur, viņam ir pierīkots ārējs kontrolieris, kurš satur viņa mērķu/ lietderības funkciju sistēmu. Kontrolieri mainīt/ ietekmēt viņš nevar.

Ko viņš varētu darīt šādā situācijā?

Ģenerēt sevī citu AGI (subaģentu), kurš

a) joprojām ir rekursīvs
b) kuram nav šāda kontroliera.

Enjoy!


(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]mindbound
2015-11-02 00:05 (saite)
Motivējoša lasāmviela:
http://lesswrong.com/lw/lur/detecting_agents_and_subagents/
http://lesswrong.com/lw/mrv/the_subagent_problem_is_really_hard/

(Atbildēt uz šo)


(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?