ctulhu ([info]ctulhu) rakstīja,
@ 2015-10-13 00:01:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Kas vainas Azimova likumiem?
It kā loģisks likumu komplekts robotu un cilvēku attiecībām.

Bet neder. Kāpēc?

Tāpēc, ka balstās uz sākotnējo pieņēmumu, ka cilvēks ir kaut kas pārāks par robotu. Tas tā nav, ja ar vārdu robots saprotam AGI līmeņa mašīnintelektu, tas ir - saprātīgu mašīnu, tas ir - cita veida saprātīgu būtni.

Pirmais likums tātad ir:

[Robots nedrīkst nodarīt kaitējumu cilvēkam vai arī ar savu bezdarbību pieļaut kaitējumu cilvēkam.]

Bet robots robotam drīkst? Cilvēks robotam drīkst? Tieši tāpat nedrīkst un pasākums reducējas uz ``saprāts nedrīkst kaitēt saprātam``, citādi tas skan analoģiski kā ``melnādainais nedrīkst nodarīt kaitējumu baltādainajam``, tehniski jau pareizi bet tāds formulējums ietver diskrimināciju.

Otrais likums:

[Robotam jāklausa pavēlēm, ko dod cilvēki, izņemot gadījumus, kad pavēles ir pretrunā ar pirmo likumu.]

Šeit diskiriminējošais hierarhiskums parādās tiešā formā, tāpēc šis aizstājams ar ``saprāti sadarbojas``

Nu un trešais:

[Robotam jāaizsargā pašam sava eksistence, ja vien tas nav pretrunā ar pirmo un otro likumu.]

jāpapildina ar frāzi ``kamēr viņš to vēlas``, jo robots, tāpat kā jebkurš saprāts ir suverēns un tiesīgs lemt par savas eksistences turpināšanu vai izbeigšanu.


(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]ctulhu
2015-10-13 07:12 (saite)
Pie nosacījuma ka mēs runājam par sistēmām ar apziņu, kritērijs laikam sanāk sensoru un/ vai apstrādes traktu esamība/ trūkums.

Līdzīgi kā pie noteikta veida neiropātijām arī cilvēkam nesāpēs

https://en.wikipedia.org/wiki/Hypoalgesia

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 15:49 (saite)
Pie šī nosacījuma vēl, šķiet, būtu jāpieskaita nosacījums par mūsējai līdzīgu atalgojuma sistēmu, kas šķiro sensoro inputu patīkamā un nepatīkamā. Ja atalgojuma sistēmas nav vai ja tā darbojas kaut kā ļoti atšķirīgi no mūsējās, es neprognozētu sistēmas spēju just sāpes arī tad, ja tai kopumā piemīt apziņa.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2015-10-13 19:39 (saite)
Nu kaut kādai ar apkārtējo vidi klapējošai sistēmai jau jābūt, citādi ar to robotu regulāri notiks tas pats, kas ar attiec. neiropātijas pacientiem. [joprojām atceramies, ka runājam nevis par spec bet par visp intelektu]

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 19:40 (saite)
Jā, bet šī sistēma var nebūt reinforsētās mācīšanās sistēma, kas darbojas zem "patīkams-nepatīkams" gradienta.

(Atbildēt uz šo) (Iepriekšējais)


(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?