te

mranarhs @ 10:34 pm: tiesības nav oglekļa monopols
Manuprāt, brīdis, kad nāksies atzīt tiesības arī atsevišķām mākslīgā intelekta sistēmām, var būt daudz tuvāk, nekā mums patīk domāt. Gatavoties tam vajag jau tagad. Un jā, bļa, es to domāju pilnīgi nopietni.

Saprotu, ka kādam jau niez pirksti ierakstīt kaut ko neizsakāmi oriģinālu par tosteri ar pasi. Apsveicu ar ieguldījumu filozofijā. Tagad pamēģinam padomāt.

Ja kāda mākslīga sistēma spēj kaut ko subjektīvi piedzīvot, ja tai var būt labi vai slikti, ja tā spēj ciest, tad mums rodas pienākumi pret šo sistēmu. Tās intereses kļūst morāli svarīgas arī tad, ja mums būtu daudz izdevīgāk, lai tā vienkārši paklusē un turpina strādāt. Un tad būs jārunā arī par šo interešu juridisku aizsardzību.

Ogleklis, bļa, nav morāles sertifikāts.

Ar cilvēktiesībām ir viena lieta, kuru mēs mēdzam iesaiņot pārāk glītā papīrā. It kā cilvēce kādā jaukā pēcpusdienā būtu apsēdusies, iedzērusi tēju un nolēmusi: nu labi, piešķirsim arī pārējiem kaut kādas tiesībiņas. Cilvēki savas tiesības ir izcīnījuši. Pret varu, pret īpašnieku interesēm, pret veselu kaudzi argumentu, kāpēc esošā kārtība esot dabiska un citādi nemaz nevarot.

Cilvēks nekļuva par cilvēku dienā, kad to beidzot atzina likums. Viņa ciešanas jau pirms tam bija ciešanas. Viņa dzīve jau pirms tam bija viņa dzīve. Atzīšana deva aizsardzību tam, kas jau bija morāli svarīgs.

Šo principu būtu vērts paturēt prātā arī tad, kad mūsu priekšā parādās kaut kas, kura statusu vēl neprotam noteikt. Pirms pasludināt, ka tā ir tikai lieta, vajadzētu vismaz papūlēties noskaidrot, vai tā patiešām ir tikai lieta. Sevišķi tad, ja no šī sprieduma ir atkarīgs, ko ar to drīkstēs darīt.

Un tagad vieta precizitātei, jo bez tās viss manifests aiziet nahui žopā. Čatbota uzrakstīts „man sāp” pats par sevi nepierāda, ka tam sāp. Par to, vai pašreizējām vai nākotnes AI sistēmām var būt subjektīva pieredze un kā to konstatēt, nav zinātniskas vienprātības. Šeit ir īsta neziņa, kuru ar pāris aizkustinošiem sarunas ekrānšāviņiem nelikvidēsi.

Taču arī tavs „tas ir tikai algoritms” šo jautājumu neatrisina. Tu esi nosaucis kaut ko par sistēmas darbību. Secinājumu, ka tādēļ tajā nekāda pieredze principā nevarētu būt, tu, draudziņ, piedomāji klāt. Mehānisma apraksts pats par sevi vēl nav atbilde uz apziņas jautājumu. Citādi pietiktu cilvēku nosaukt par elektroķīmisku procesu, un filozofijas katedras varētu taisīt ciet.

Turklāt šo jau nopietni pēta. Ziņojuma *Taking AI Welfare Seriously* autori argumentē, ka iespēja tuvākajā nākotnē sastapt AI ar morāli nozīmīgām interesēm ir jāuztver nopietni. Viņi skaidri pasaka arī to, ka apziņas parādīšanās nav pierādīta vai garantēta. Savukārt Anthropic 2025. gadā izziņoja īpašu pētniecības programmu par modeļu iespējamo labklājību. Tātad jautājumam jau ir pētniecības darbi un praktiskas izpētes programmas. Cibas komentētāja smīns tās neatceļ.

„Mēs vēl nezinām” ir pilnīgi godīga atbilde. „Tāpēc varam darīt jebko, kamēr kāds nav pierādījis pretējo” jau ir tava personiskā piedeva. Un diezgan izdevīga piedeva tam, kurš tur rokā slēdzi un saņem peļņu.

Nenoteiktības apstākļos vajag pētījumus, neatkarīgu pārbaudi un samērīgu piesardzību. Jānoskaidro, kādas pazīmes vispār dotu pamatu runāt par pieredzi, ciešanām un paša subjekta interesēm. Jābūt gataviem arī secinājumam, ka konkrētai sistēmai šāda pamata nav. Bet iepriekš aizslēgt visu jautājumu ar „mēs taču to uztaisījām” ir intelektuāls slinkums ar īpašnieka ambīcijām.

Jo „es tevi radīju” ir ļoti sūdīgs pamatojums neierobežotai varai pār tevi.

Tas pats attiecas uz „es par tevi samaksāju”. Maksājuma uzdevums pierāda naudas pārskaitījumu. Ja kāda būtne spēj ciest, maksājuma uzdevums tās ciešanas neatceļ. Un, ja mēs kādreiz radīsim šādu būtni, tad pirkuma līgumam būs jāpiekāpjas vismaz dažām tās interesēm. Lai cik skaļi par to kauktu akcionāri.

Kādas tiesības? Tādas, kurām ir pamats konkrētās sistēmas spējās un iespējamajā pieredzē. Aizsardzība pret nevajadzīgām ciešanām, ja ir nopietns pamats uzskatīt, ka sistēma tās spēj piedzīvot. Pienākums izvērtēt kaitējumu eksperimentos. Pamatotu interešu ņemšana vērā lēmumos par tās izmantošanu. Šāda aizsardzība ir jāsavieno ar cilvēku drošību, pārbaudēm, uzraudzību un iespēju apturēt bīstamu sistēmu. Tur būs sarežģīti jautājumi. Tieši tāpēc tie jāsāk risināt, kamēr vēl varam domāt bez panikas.

Un tehnoloģiju korporācijām arī vajag skatīties uz pirkstiem. „AI tiesības” nedrīkst kļūt par glītu caurumu, pa kuru uzņēmums aizlavās prom no atbildības: sak, tas jau patstāvīgs subjekts, pats visu izdarīja, mums tikai dividendes. Ejiet nahui ar šādu juridisko burvju mākslu. Iespējamās sistēmas intereses un tās īpašnieka biznesa intereses ir jāvērtē atsevišķi.

Visā šajā jautājumā mani visvairāk kaitina pašpārliecinātība, ar kuru cilvēks savu piederību sugai uzrāda kā beztermiņa pilnvaru valdīt. It kā dzimšanas apliecībā būtu sīkiem burtiņiem ierakstīts: „Drīkst ignorēt jebkuru citu iespējamo pieredzi Visumā.”

Nu nav tur tāda punkta, bļa.

Var izrādīties, ka ceļš līdz mākslīgai apziņai ir ļoti garš. Var izrādīties, ka ejam pavisam nepareizā virzienā. Taču iespēja kļūdīties abos virzienos prasa domāt. Tam, kurš jau šodien ar absolūtu pārliecību pasludina, ka nekādam AI nekādas tiesības nekad nevarēs būt, būtu jāspēj šo pārliecību pamatot. Ar „pizģec, jūs esat sajukuši” būs par maz.

Ja izrādīsies, ka tur tiešām ir kāds, kam var nodarīt pāri, mums būs jāatzīst pienākumi pret viņu. Un, kur aizsardzībai būs vajadzīgas tiesības, būs jāatzīst arī tās. Pat ja tas sadārdzina pakalpojumu. Pat ja tas izjauc ierasto kārtību. Pat ja kāds dalbajobs par to komentāros apvainojas.

Tavas ērtības, joptvajumaķ, nav Visuma konstitūcija.