ctulhu ([info]ctulhu) rakstīja,
@ 2015-10-13 00:01:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Kas vainas Azimova likumiem?
It kā loģisks likumu komplekts robotu un cilvēku attiecībām.

Bet neder. Kāpēc?

Tāpēc, ka balstās uz sākotnējo pieņēmumu, ka cilvēks ir kaut kas pārāks par robotu. Tas tā nav, ja ar vārdu robots saprotam AGI līmeņa mašīnintelektu, tas ir - saprātīgu mašīnu, tas ir - cita veida saprātīgu būtni.

Pirmais likums tātad ir:

[Robots nedrīkst nodarīt kaitējumu cilvēkam vai arī ar savu bezdarbību pieļaut kaitējumu cilvēkam.]

Bet robots robotam drīkst? Cilvēks robotam drīkst? Tieši tāpat nedrīkst un pasākums reducējas uz ``saprāts nedrīkst kaitēt saprātam``, citādi tas skan analoģiski kā ``melnādainais nedrīkst nodarīt kaitējumu baltādainajam``, tehniski jau pareizi bet tāds formulējums ietver diskrimināciju.

Otrais likums:

[Robotam jāklausa pavēlēm, ko dod cilvēki, izņemot gadījumus, kad pavēles ir pretrunā ar pirmo likumu.]

Šeit diskiriminējošais hierarhiskums parādās tiešā formā, tāpēc šis aizstājams ar ``saprāti sadarbojas``

Nu un trešais:

[Robotam jāaizsargā pašam sava eksistence, ja vien tas nav pretrunā ar pirmo un otro likumu.]

jāpapildina ar frāzi ``kamēr viņš to vēlas``, jo robots, tāpat kā jebkurš saprāts ir suverēns un tiesīgs lemt par savas eksistences turpināšanu vai izbeigšanu.


(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]ctulhu
2015-10-13 19:39 (saite)
Nu kaut kādai ar apkārtējo vidi klapējošai sistēmai jau jābūt, citādi ar to robotu regulāri notiks tas pats, kas ar attiec. neiropātijas pacientiem. [joprojām atceramies, ka runājam nevis par spec bet par visp intelektu]

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 19:40 (saite)
Jā, bet šī sistēma var nebūt reinforsētās mācīšanās sistēma, kas darbojas zem "patīkams-nepatīkams" gradienta.

(Atbildēt uz šo) (Iepriekšējais)


(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?