ctulhu's Journal
[Most Recent Entries]
[Calendar View]
[Friends View]
Tuesday, October 13th, 2015
| Time |
Event |
| 12:01a |
Kas vainas Azimova likumiem?
It kā loģisks likumu komplekts robotu un cilvēku attiecībām.
Bet neder. Kāpēc?
Tāpēc, ka balstās uz sākotnējo pieņēmumu, ka cilvēks ir kaut kas pārāks par robotu. Tas tā nav, ja ar vārdu robots saprotam AGI līmeņa mašīnintelektu, tas ir - saprātīgu mašīnu, tas ir - cita veida saprātīgu būtni.
Pirmais likums tātad ir:
[Robots nedrīkst nodarīt kaitējumu cilvēkam vai arī ar savu bezdarbību pieļaut kaitējumu cilvēkam.]
Bet robots robotam drīkst? Cilvēks robotam drīkst? Tieši tāpat nedrīkst un pasākums reducējas uz ``saprāts nedrīkst kaitēt saprātam``, citādi tas skan analoģiski kā ``melnādainais nedrīkst nodarīt kaitējumu baltādainajam``, tehniski jau pareizi bet tāds formulējums ietver diskrimināciju.
Otrais likums:
[Robotam jāklausa pavēlēm, ko dod cilvēki, izņemot gadījumus, kad pavēles ir pretrunā ar pirmo likumu.]
Šeit diskiriminējošais hierarhiskums parādās tiešā formā, tāpēc šis aizstājams ar ``saprāti sadarbojas``
Nu un trešais:
[Robotam jāaizsargā pašam sava eksistence, ja vien tas nav pretrunā ar pirmo un otro likumu.]
jāpapildina ar frāzi ``kamēr viņš to vēlas``, jo robots, tāpat kā jebkurš saprāts ir suverēns un tiesīgs lemt par savas eksistences turpināšanu vai izbeigšanu. | | 12:18a |
Nākotnes likumi
Dažas piezīmes par to, kā varētu attīstīties likumu sistēma pie tām pārmaiņām, kuras ir sagaidāmas, tātad vispirms pie praktiskas immortalistikas vai tās pietiekami laba tuvinājuma realizācijas, kas nozīmētu patvaļīgi ilgas personu eksistences paņēmienu atklāšanu, digitalizējot smadzenes vai citādi.
Ir skaidrs, ka likumu sistēmai te jābalstās uz centrālo tēzi par katra saprāta suverenitāti.
Saprāta tiesībām jābūt neatkarīgām no tā, kāds ir saprāta struktūras nesējs: vai tas ir bioloģisks organisms, kiborgs, robots, infomorfs vai kas cits. Tas ir viegli saprotams pēc analoģijas ar tiesību neatkarību no ādas krāsas, dzimuma, vecuma, tautības, uzskatiem.
Suverenitāte vspirms nozīmē, ka gala lēmumu par savas eksistences turpināšanu vai pārtraukšanu, kā arī eksistences veida maiņu ir tiesīgs pieņemt tikai dotais saprāts. Tāpat suverenitāte nozīmē, ka neviens saprāts nevar piederēt citam saprātam vai to grupai.
Izejot no šīm premisām, ir skaidrs, ka, piemēram tik pat smags noziegums kādi tagad ir slepkavība, spīdzināšana, izvarošana vai paverdzināšana būs saprātu [viņu pašu] nesankcionēta kopēšana un rediģēšana. |
|