ctulhu ([info]ctulhu) rakstīja,
@ 2015-10-13 00:01:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Kas vainas Azimova likumiem?
It kā loģisks likumu komplekts robotu un cilvēku attiecībām.

Bet neder. Kāpēc?

Tāpēc, ka balstās uz sākotnējo pieņēmumu, ka cilvēks ir kaut kas pārāks par robotu. Tas tā nav, ja ar vārdu robots saprotam AGI līmeņa mašīnintelektu, tas ir - saprātīgu mašīnu, tas ir - cita veida saprātīgu būtni.

Pirmais likums tātad ir:

[Robots nedrīkst nodarīt kaitējumu cilvēkam vai arī ar savu bezdarbību pieļaut kaitējumu cilvēkam.]

Bet robots robotam drīkst? Cilvēks robotam drīkst? Tieši tāpat nedrīkst un pasākums reducējas uz ``saprāts nedrīkst kaitēt saprātam``, citādi tas skan analoģiski kā ``melnādainais nedrīkst nodarīt kaitējumu baltādainajam``, tehniski jau pareizi bet tāds formulējums ietver diskrimināciju.

Otrais likums:

[Robotam jāklausa pavēlēm, ko dod cilvēki, izņemot gadījumus, kad pavēles ir pretrunā ar pirmo likumu.]

Šeit diskiriminējošais hierarhiskums parādās tiešā formā, tāpēc šis aizstājams ar ``saprāti sadarbojas``

Nu un trešais:

[Robotam jāaizsargā pašam sava eksistence, ja vien tas nav pretrunā ar pirmo un otro likumu.]

jāpapildina ar frāzi ``kamēr viņš to vēlas``, jo robots, tāpat kā jebkurš saprāts ir suverēns un tiesīgs lemt par savas eksistences turpināšanu vai izbeigšanu.


(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]mindbound
2015-10-13 04:01 (saite)
Bāzēt AI uzvedību šāda veida "baušļos" gan arī vispārīgajā gadījumā ir ļoti slikta doma. Jelkurš cits AI motivācijas kontroles veids, kas nespēj ņemt vērā vismaz Omohundro dzinuļus, ir ļoti slikta doma pēc indukcijas.

(Atbildēt uz šo) (Diskusija)


[info]ctulhu
2015-10-13 07:14 (saite)
Protams, šeit es vairāk par vispārīgiem likumiem nākotnes sabiedrībās, also see next post.

Pamatdoma - mēs vairs nerunājam par likumiem priekš AI, bet par likumiem priekš saprātiem. Līdzīgi kā bioloģisko saprātu gadījumā mēs nerunājam par likumiem priekš baltādainajiem un tml. Bet par likumiem priekš cilvēkiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 15:37 (saite)
Azimova likumi gan ir ne tik daudz likumi vārda juridiski politiskajā izpratnē, kā ļoti agrīns FAI propozālis.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2015-10-13 19:40 (saite)
Kur tas nav gluži fai, bet AI ar statiskiem ierobežojumiem, kas labākajā gad. ir švaks FAI surogāts. Ko sobstvenno Azimovs arī parāda.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]mindbound
2015-10-13 19:41 (saite)
Well, jā, bet tolaik arī akadēmiskajā vidē nevienam īsti nebija labāku ideju par gariem un advancētiem azimovveidīgu likumu komplektiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2015-10-13 19:47 (saite)
Tas gan, skatoties asimow rules tur nāk ārā visādi garāki varianti.

(Atbildēt uz šo) (Iepriekšējais)


(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?