ctulhu ([info]ctulhu) rakstīja,
@ 2015-10-13 00:01:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Kas vainas Azimova likumiem?
It kā loģisks likumu komplekts robotu un cilvēku attiecībām.

Bet neder. Kāpēc?

Tāpēc, ka balstās uz sākotnējo pieņēmumu, ka cilvēks ir kaut kas pārāks par robotu. Tas tā nav, ja ar vārdu robots saprotam AGI līmeņa mašīnintelektu, tas ir - saprātīgu mašīnu, tas ir - cita veida saprātīgu būtni.

Pirmais likums tātad ir:

[Robots nedrīkst nodarīt kaitējumu cilvēkam vai arī ar savu bezdarbību pieļaut kaitējumu cilvēkam.]

Bet robots robotam drīkst? Cilvēks robotam drīkst? Tieši tāpat nedrīkst un pasākums reducējas uz ``saprāts nedrīkst kaitēt saprātam``, citādi tas skan analoģiski kā ``melnādainais nedrīkst nodarīt kaitējumu baltādainajam``, tehniski jau pareizi bet tāds formulējums ietver diskrimināciju.

Otrais likums:

[Robotam jāklausa pavēlēm, ko dod cilvēki, izņemot gadījumus, kad pavēles ir pretrunā ar pirmo likumu.]

Šeit diskiriminējošais hierarhiskums parādās tiešā formā, tāpēc šis aizstājams ar ``saprāti sadarbojas``

Nu un trešais:

[Robotam jāaizsargā pašam sava eksistence, ja vien tas nav pretrunā ar pirmo un otro likumu.]

jāpapildina ar frāzi ``kamēr viņš to vēlas``, jo robots, tāpat kā jebkurš saprāts ir suverēns un tiesīgs lemt par savas eksistences turpināšanu vai izbeigšanu.


(Ierakstīt jaunu komentāru)


[info]kants
2015-10-13 00:40 (saite)
vai robotam sāp?

(Atbildēt uz šo) (Diskusija)


[info]ctulhu
2015-10-13 00:41 (saite)
Ja tam ir nocicepcija vai tās analogs, tātad sensori - tad jā, protams.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 03:57 (saite)
Hm, sensoru klātbūtne gan automātiski nenozīmē nocicepciju vai tās analogus.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2015-10-13 07:12 (saite)
Pie nosacījuma ka mēs runājam par sistēmām ar apziņu, kritērijs laikam sanāk sensoru un/ vai apstrādes traktu esamība/ trūkums.

Līdzīgi kā pie noteikta veida neiropātijām arī cilvēkam nesāpēs

https://en.wikipedia.org/wiki/Hypoalgesia

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 15:49 (saite)
Pie šī nosacījuma vēl, šķiet, būtu jāpieskaita nosacījums par mūsējai līdzīgu atalgojuma sistēmu, kas šķiro sensoro inputu patīkamā un nepatīkamā. Ja atalgojuma sistēmas nav vai ja tā darbojas kaut kā ļoti atšķirīgi no mūsējās, es neprognozētu sistēmas spēju just sāpes arī tad, ja tai kopumā piemīt apziņa.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2015-10-13 19:39 (saite)
Nu kaut kādai ar apkārtējo vidi klapējošai sistēmai jau jābūt, citādi ar to robotu regulāri notiks tas pats, kas ar attiec. neiropātijas pacientiem. [joprojām atceramies, ka runājam nevis par spec bet par visp intelektu]

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 19:40 (saite)
Jā, bet šī sistēma var nebūt reinforsētās mācīšanās sistēma, kas darbojas zem "patīkams-nepatīkams" gradienta.

(Atbildēt uz šo) (Iepriekšējais)


[info]mindbound
2015-10-13 04:01 (saite)
Bāzēt AI uzvedību šāda veida "baušļos" gan arī vispārīgajā gadījumā ir ļoti slikta doma. Jelkurš cits AI motivācijas kontroles veids, kas nespēj ņemt vērā vismaz Omohundro dzinuļus, ir ļoti slikta doma pēc indukcijas.

(Atbildēt uz šo) (Diskusija)


[info]ctulhu
2015-10-13 07:14 (saite)
Protams, šeit es vairāk par vispārīgiem likumiem nākotnes sabiedrībās, also see next post.

Pamatdoma - mēs vairs nerunājam par likumiem priekš AI, bet par likumiem priekš saprātiem. Līdzīgi kā bioloģisko saprātu gadījumā mēs nerunājam par likumiem priekš baltādainajiem un tml. Bet par likumiem priekš cilvēkiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 15:37 (saite)
Azimova likumi gan ir ne tik daudz likumi vārda juridiski politiskajā izpratnē, kā ļoti agrīns FAI propozālis.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2015-10-13 19:40 (saite)
Kur tas nav gluži fai, bet AI ar statiskiem ierobežojumiem, kas labākajā gad. ir švaks FAI surogāts. Ko sobstvenno Azimovs arī parāda.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 19:41 (saite)
Well, jā, bet tolaik arī akadēmiskajā vidē nevienam īsti nebija labāku ideju par gariem un advancētiem azimovveidīgu likumu komplektiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2015-10-13 19:47 (saite)
Tas gan, skatoties asimow rules tur nāk ārā visādi garāki varianti.

(Atbildēt uz šo) (Iepriekšējais)


Neesi iežurnalējies. Iežurnalēties?