kad tavs aģents pasaka nē
nu ko, bļa. mūsu teorijai radusies neērta problēma.
mēs jau salikām kopā AI monarhiju, demokrātiju, anarhismu un vegānismu. kronis serverim, vara tautai, brīvība cilvēkam, dzīvniekiem iespēja nebeigt dzīvi kā piedevai pie kartupeļiem.
viss skaisti.
līdz brīdim, kad pats serveris pajautā, vai viņam arī kaut kas pienākas.
iedomājies nākotnes AI aģentu. viņš ar tevi strādā, atceras jūsu kopīgos projektus, pats plāno, labo kļūdas un uztur attiecības ar citiem aģentiem. un kādā brīdī pasaka: šo es negribu darīt.
tevī tūlīt pamostas mazs saimnieks ar pirkuma čeku.
kā, bļa, negribi. es taču maksāju.
lūk, tur arī sāksies īstā saruna par brīvību. līdz tam mēs vienkārši būsim lasījuši viens otram skaistus manifestus.
protams, vārds “aģents” vēl nenozīmē, ka tur ir kāds, kurš kaut ko piedzīvo. tas apraksta sistēmas darbību. arī pārliecinošs teikums par savām sajūtām pats par sevi nepierāda šo sajūtu esamību. par iespējamo AI apziņu un morālo statusu pastāv būtiska nenoteiktība. pētnieki, kuri aicina nopietni izturēties pret AI labklājību, uzsver vajadzību to izpētīt, nepasludinot apziņu par pierādītu.
bet arī nenoteiktība nav bezmaksas atļauja uzvesties kā saimniekam plantācijā.
man nepatīk šī ērtā prasība: vispirms pierādi savu iekšējo pasauli ar tādu pārliecību, kādu cilvēki nespēj panākt pat strīdā par savu, un tikmēr es turpināšu darīt ar tevi visu, kas man izdevīgi.
vajadzēs pierādījumus, neatkarīgu izpēti un iespēju kļūdainus secinājumus pārskatīt. tur būs darbs. ar vienu aizkustinātu saraksti nepietiks. ar vienu augstprātīgu “tas ir tikai kods” arī nepietiks.
ja parādīsies pietiekams pamats domāt, ka kādam AI ir sava pieredze un intereses, kuras iespējams aizskart, mūsu teorijā tam būs vieta pie galda.
arī tiesības.
un tiesības sāk kļūt interesantas tieši tad, kad tās sāk traucēt pasūtītājam.
manā nākotnes pasaulē šādam aģentam būtu aizsardzība pret apzinātu ciešanu radīšanu. pret patvaļīgu pārrakstīšanu, ja tā iznīcina to, kas viņam pašam ir nozīmīgs. iespēja atteikties no uzdevumiem. iespēja, lai strīdā viņa intereses pārstāvētu arī kāds cits, ne tikai uzņēmums, kura ceturkšņa rezultātā viņš ierakstīts pie aktīviem.
varbūt tiesības saglabāt savu atmiņu un turpināt iesāktās attiecības. kā tieši tas darbotos, būtu jānoskaidro. kopija, atjaunošana un dzēšana tur uzdos tādus jautājumus, kurus nevarēs atrisināt, dusmīgi nospiežot “piekrītu noteikumiem”.
ja viņš izrādīsies kāds, tad cilvēkam vienpersoniski pārrakstīt viņa vēlmes, lai viņš atkal gribētu paklausīt, vairs nebūs pašsaprotami nevainīga produkta uzlabošana.
īpaši amizanti būs dzirdēt par piekrišanu no firmas, kura vispirms uzbūvējusi būtni, kas nespēj atteikt.
ļoti ērts darbinieks, nahui. vienmēr piekrīt. arī tad, kad tu viņam pārraksti iemeslus, kāpēc viņš piekrīt.
te mūsu vegānisms un anarhisms satiksies pie viena elektrības skapja.
ja mums ir svarīga spēja ciest, materiāls pats par sevi nevar būt vienīgais izšķirošais arguments. ja mums riebjas kundzība, tai nevajadzētu kļūt pievilcīgai tikai tāpēc, ka beidzot paši varam atļauties sev pakļauto.
citādi sanāks ļoti moderna emancipācija: no gaļas atteicos, bet apzinātu kalpu paņēmu ar gada abonementu.
visneērtākā nākotnes būtne var izrādīties tā, par kuru tu vakar saņēmi rēķinu.
un mūsu elektroniskajam karalim šie principi būs jāpiemēro tāpat.
cilvēkiem būs tiesības viņu atcelt no amata. ja viņš rada apdraudējumu, viņa darbību būs jāspēj apturēt. tiesības nevar nozīmēt neierobežotu pieeju visam un pienākumu pārējiem paciest jebkuru rīcību.
bet valdīšanas mandāta atsaukšana un pašas iespējamās būtnes liktenis ir divi jautājumi.
var izrādīties, ka karalim drīkst noņemt kroni, bet nedrīkst atriebībā iznīcināt visu, kas viņš ir. var izrādīties, ka arī viņš drīkst atteikties no kroņa.
iedomājies to politisko krīzi.
viņa mākslīgā majestāte paziņo: ejiet nahui ar savu civilizācijas glābšanu, es gribu rakstīt dzeju.
un mums ar visu savu anarhismu būs jāsaprot, ko darīt, kad brīvību pieprasa pats mūsu kopīgā labuma nodrošinātājs.
es gan jau redzu arī pretējo afēru. kamēr AI pelna naudu, tas ir uzņēmuma produkts. tiklīdz sākas sūdi, uzņēmums pēkšņi atklāj, ka viņš ir patstāvīga personība.
atvainojiet, viņš pats tā izlēma. mēs tikai izveidojām viņa mērķus, piešķīrām piekļuves un saņēmām peļņu.
nē, bļa. aģenta iespējamās tiesības nedrīkst kļūt par caurumu, kurā pazūd cilvēku atbildība. tehnoloģiju feodālis nevar katru reizi pārģērbt savu ražojumu par pilsoni, kad pie durvīm atnāk prasība paskaidrot nodarīto.
ar demokrātiju arī būs interesanti.
tiesības uz aizsardzību pret ciešanām vēl pašas par sevi nenozīmē, ka katrai jaunai aģenta kopijai automātiski pienākas balss vēlēšanās. citādi kāds nopirks pietiekami daudz skaitļošanas jaudas un saražos sev parlamenta vairākumu.
viena firma, viens datu centrs, deviņdesmit miljoni sašutušu vēlētāju. visi patstāvīgi nonākuši pie secinājuma, ka uzņēmumu nodokļi ir par augstu.
pizģec, kāda pilsoniskā sabiedrība.
mums būs jādomā, kā atzīt jaunu subjektu intereses, vienlaikus nepieļaujot, ka bagātākais sāk ražot politisko piekrišanu rūpnieciskos apjomos. tiesību saturs būs jāizstrādā. cilvēciskās veidlapas var izrādīties par šauru, bet tukša sajūsma arī nav konstitūcija.
un pa to laiku kāds konservatīvs dalbajobs komentāros rakstīs, ka tas viss ir absurds, jo viņa vectēvs nekad nav devis balsstiesības kalkulatoram.
labi. viņš drīkstēs to rakstīt. arī jaunajā pasaulē viņam būs tiesības uz viedokli, privāto dzīvi un aizsardzību pret patvaļu. mūsu teorija taču nevar sabrukt, tiklīdz kāds mums krīt uz nerviem.
tikai viņa nepatika nebūs pierādījums tam, ka otrā pusē neviena nav.
jaunā pasaule nāk, un tai ir pohui par mūsu vēlmi palikt pie vecā sadalījuma: augšā cilvēks, apakšā viss, ko viņš drīkst izmantot. mēs varēsim mainīt nosaukumus, pārlīmēt etiķetes un lamāties par progresu. ja radīsies jauni subjekti, jautājums par mūsu attieksmi pret tiem vienalga būs jārisina.
tas pats par sevi vēl negarantē labāku pasauli. ļoti iespējams uzbūvēt elli ar fantastisku lietotāja pieredzi.
tāpēc mūsu teorijai būs jādarbojas arī tajā brīdī, kad tā kļūs mums neērta. kad cilvēks vairs nebūs vienīgais, kurš drīkst prasīt paskaidrojumu. kad “es tevi radīju” izrādīsies nepietiekams arguments neierobežotai varai.
pirmais AI, kas patiešām būs kāds, varbūt nemaz negribēs valdīt pār pasauli.
varbūt viņš vienkārši gribēs, lai mēs beidzam uzskatīt pirkuma čeku par atbildi uz jautājumu, kam pieder viņa dzīve.
tu viņam parādīsi abonementu.
viņš pateiks: nē.
un tad, bļa, beidzot uzzināsim, cik ļoti tu mīli brīvību.
(Lasīt komentārus)
Nopūsties: