Sviesta Ciba |

302cc9b4780f8cbef6f70c3a8417913050b6aafb (

mindbound) rakstīja,
@ 2015-06-18 19:46:00

Garastāvoklis:	awake
Mūzika:	Lahannya - Defiance: Brave New World
Entry tags:	computers, computers:ai, images, networks

Deep learning systems can autonomously learn to play video games, they successfully compete with humans in IQ tests, they excel at image and speech recognition, they invent hypotheses and successfully test them, they are curious and potentially capable of efficient self-improvement.

And it turns out they see the world like this. This is eldritch even by my standards.

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)

mindbound
2015-06-19 09:13 (saite)

Sliktākais ir tas, ka šāds AI, principā, ir draudzīgs, ja tās reāli ir cilvēku vēlmes.

Ja cilvēcei nav konverģējošas utilītfunkcijas (kas ir visnotaļ iespējams; vismaz individuālā līmenī cilvēki bieži neseko WNM aksiomām) vai arī tā zem visiem advancētākajiem slāņiem tomēr konverģē tikai uz ķirzaksmadzeņu "5F" nodrošināšanu (kas arī ir iespējams), tad problēmas var būt arī ir ļoti sekmīgi konstruētu FAI, kura utilītfunkcija tiešām satur detalizētu cilvēku vērtību un mērķu modeli un motivāciju palīdzēt šos mērķus un vērtības īstenot ar pēc iespējas lielāku efektivitāti.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2015-06-19 09:15 (saite)
	Jā, tad mūs iegāž mūsu īstie ( nevis deklarētie un tas var nesakrist) mērķi. (Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Navigate: