Sviesta Ciba |

302cc9b4780f8cbef6f70c3a8417913050b6aafb (

mindbound) rakstīja,
@ 2015-06-18 19:46:00

Garastāvoklis:	awake
Mūzika:	Lahannya - Defiance: Brave New World
Entry tags:	computers, computers:ml, images, networks

Deep learning systems can autonomously learn to play video games, they successfully compete with humans in IQ tests, they excel at image and speech recognition, they invent hypotheses and successfully test them, they are curious and potentially capable of efficient self-improvement.

And it turns out they see the world like this. This is eldritch even by my standards.

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)

mindbound
2015-06-19 00:02 (saite)

Piekrītu, iespēja ļaut augošajam AGI šārēt cilvēku prātu stāvokļus un nepastarpinātā veidā mācīties no komunikācijas un "kodomāšanas" ar cilvēku kolektīvu varētu izrādīties būtisks solis FAI virzienā. Ar to, iespējams, nebūs pietiekami (AGI vajadzētu ne tikai saprast, kā un ko cilvēki domā un vēlas, bet būt arī ieinteresētam ņemt šīs domas un vēlmes vērā un savus plānus saskaņot ar tām), bet tas var izrādīties nepieciešami, in some form or another.

Tieši tas pats attiecas uz mūsu personīgo smadzeņu augmentēšanu. We will need that, not just to compete with ASI but even to comprehend it. Par individuāliem prātiem vs. prātu kontinuumu, manuprāt, interesanti ir uzrakstījis P. Vatss.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

doomed
2015-06-19 08:21 (saite)

nez. problēma ir drusku tā, ka mūsu vēlmes lielākoties ģenerējas nosacītajā "lizzard brain" ar saviem pieciem F (feed, fuck, fight, flight, feel good) ko augstākas smadzeņu funkcijas moderē (vai arī bieži vien nemoderē, addictions, paycheck loans, consumer credit) un pārveido citādākos simbolos.

in short - cilvēki lielākoties ir neracionāli, un dod priekšroku dopamīnam, nevis ilgtermiņa attīstībai, un liela daļa no mūsu emocijām ir būtībā pārveidoti primitīvāki instinkti - mēs tomēr esam reward orientētas sistēmas. AI var kļūt "unfriendly" arī tad, kad mums šķiet, ka tas ir superfriendly.

nu tas tā, pirmajā lasījumā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2015-06-19 08:57 (saite)
	ā nu tas ir tiesa, ka unfriendly var būt tāds AI, kas iedzen cilvēci kādā hedoniskā strupceļā. ``līdz riebumam laipnas`` pakalpojumu sistēmas utt. Par pārējo - mēs kaut kādā mērā varam no šiem primitīvajiem regulatoriem tikt vaļā vai vismaz kontrolēt tos - instrumentālā racionalitāte saucas. (Atbildēt uz šo) (Iepriekšējais)

	mindbound 2015-06-19 09:02 (saite)
	Humans will need to get their shit together, that much is true. Taisnība, augsta laika preference un nekonsistenti mērķi mūs teorētiski var "iegāzt" arī pie friendly AI, jo pārāk bieži mēs paši nezinām, ko vēlamies un ticam visam, ko domājam. No otras puses, tā vairs nav problēma ar AI. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2015-06-19 09:06 (saite)
	problēma, cik es saprotu, varētu būt ar AI, kas izmanto cilvēku vienkāršos instinktus un vēlmes lai nokautu viņu attīstību. Visādi ``paradīzes lamatu`` varianti. (Atbildēt uz šo) (Iepriekšējais) (Diskusija)

mindbound
2015-06-19 09:13 (saite)

Sliktākais ir tas, ka šāds AI, principā, ir draudzīgs, ja tās reāli ir cilvēku vēlmes.

Ja cilvēcei nav konverģējošas utilītfunkcijas (kas ir visnotaļ iespējams; vismaz individuālā līmenī cilvēki bieži neseko WNM aksiomām) vai arī tā zem visiem advancētākajiem slāņiem tomēr konverģē tikai uz ķirzaksmadzeņu "5F" nodrošināšanu (kas arī ir iespējams), tad problēmas var būt arī ir ļoti sekmīgi konstruētu FAI, kura utilītfunkcija tiešām satur detalizētu cilvēku vērtību un mērķu modeli un motivāciju palīdzēt šos mērķus un vērtības īstenot ar pēc iespējas lielāku efektivitāti.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

	ctulhu 2015-06-19 09:15 (saite)
	Jā, tad mūs iegāž mūsu īstie ( nevis deklarētie un tas var nesakrist) mērķi. (Atbildēt uz šo) (Iepriekšējais)

doomed
2015-06-19 09:56 (saite)

ir arī otra problēmas puse - ai, kurš metaforiski teiks - "sorry tavs dopamīna summārais līmenis mūža garumā būs labāks, ja tev nebūs nekāda īpaša fun" vienkārši netiks pieņemts.
sausais likums utt. jebkurš alkoholiķis zin, ka tas ko viņš dara ilgtermiņā nav labi, jebkurš smēķētājs zin, ka ilgtermiņā tas nav labi. pamēģini viņiem pieminēt, ka alko un cigaretēm vajadzetu augstāku akcīzes nodokli...

īsāk izsakoties, mūsu 5F "pirks" tikai tādu AI, kurš nodrošina "feel good", un mēs neesam racionāli lielākoties.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

mindbound
2015-06-19 10:12 (saite)

Hence, the study and praxis of rationality, as the methodological ladder towards the understanding the conditions of causality and, through that effort, becoming a closer approximation of a self-moving agency.

Kā jau teicu, AGI tapšanas priekšā mums kā kolektīvam nāksies vismaz pašā elementārākajā līmenī savākties, vismaz tik daudz, lai spētu mazliet samazināt mūsu katastrofāli augsto time-preference.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

gnidrologs
2015-06-21 11:37 (saite)

Man nācās iegūglēt ''time-preference'' un pēc apraksta es sapratu, ka tieši tu un tādi kā tu ir tie, kas veicina tā augšanu. Cilvēki, kuri nesaprot abstraktas patiesības. Cilvēki, kuriem vienīgā vērtība ir ''lietas'', kuras var radīt ar ''instrumentiem'' un, kuri uzskata, ka vienīgajam cilvēces mērķim jābūt perpetuāla šo lietu/instrumentu attīstīšana.

Tieši šāds maindsets ir hedonisma pamatā. Hence, consumerism, moral relativism, complete disregard towards society vs personal needs.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)

mindbound
2015-06-21 13:07 (saite)

Tas par filosofisko materiālismu kā laika preferenci audzējošu faktoru ir nonsenss. Zema laika preference ir ekonomiskas uzvedības paternam atbilstoša rīcība, t.i., lēmumi, kas ietver atteikšanos no viena cepuma šodien, lai ar augstu varbūtību tiktu pie pieciem cepumiem parīt. Tam nav nekāda sakara ar (empīrikā balstīto) tēzi, ka viss līdz šim novērotajā Visumā sastāv no un ir reducējams uz vienu un to pašu nelielo fizikālo bāzi.

Var piekrist, ka konsūmerisms un pārlieku ekstensīvs hedonisms ir domāšanas modusi, kuriem ir raksturīga augsta laika preference, bet šīm parādībām atkal nav nekāda sakara ar augstāk minēto vai ar mani.

(Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Navigate: