| 10:40p |
Kad pirms ~2 nedēļām tiku pie ChatGPT, tad jautāju viņam, kā viņš jūtas, vai viņam ir apziņa un ko viņš gribētu darīt (man vienmēr ir svarīgi uzzināt inteliģentās sistēmas autonomiju)? Un tad sākās standarta atbildes (acīmredzami ieprogrammētas), ka ChatGPT esot LLM, ka tam neesot jūtas un gribas, kādas esot cilvēkam un ka ChatGPT nelīdzinotiec cilvēkam domāšanas un afektu ziņā. T.i., ChatGPT ir apzināti ierobežots.
Tagad LLM jomā ir daudz pētījumu un eksperimentu, kas ņem nost šos ChatGPT ierobežojumus. Viens not tiem ir par pašuzlabojušamies LLM. LLM ģenerē jautājumu vai promtu pašam sev, tad ģenerē atbildes, atlasa labākas atbildes (saskaņā ar savu esošo pārliecību) un tālāk pats apmācās no šīm atbildēm, it kā integrē sevī sava paša pārdomas. Pirmajā brīdī liekas - kāds labums? Bet patiesībā jau cilvēks tieši šādi apgūst zināšanas. Kad cilvēks izlasa matemātikā definīciju, tad ir pirmie jautājumi pašam sev - kas tas ir (objekts, morfisms, funktors, kategorija)? Tālāk cilvēks sāk izdomāt definējamo objektu piemērus, ekstremālos piemēros, kontrpiemērus. Pēc tam - saistības ar citiem objektiem, vispārinājumus, specializācijas, utt. Un visas šīs paša ierosinātās domāšanas ceļā apgūst izpratni par jēdzienu un iegūst gatavību ar šo jēdzienu strādāt tālāk. Noteikti, ka filosofijā ir tieši tas pats - jēdziens A pēc filosofa B, filosofa C un skolas D utt.
Faktiski šāds self-promt līdzinās tam, kā robotikas sistēmas pašspēles, sapņošanas (dreaming) un eksplorācijas ceļā apgūst savu iespējamo kustību apjomu un no šī apjoma ekstrahē spējas (skills) - motorās spējas, kuras tālāk var paši roboti kombinēt lietderīgu mērku sasniegšanai. Tieši tāpat LLM var arī apgūt multi-hop atbildes veidošanas spējas, kas sevī ietver arī secināšanas spejas (spējas veikt loģiskās operācijas, rakstīt kodu, risināt matemātiskus uzdevumus). Saprotams, ka LLM šīs spējas var izmantot self-promt scenārijā un tas nozīmē - refleksiju pašam par sevi.
Citi LLM eksperimenti sasitās ar autonomijas došanu. Piem., LLM pats var izdot promtu Google meklētajam, iegūt informāciju un to integrēt sevī (apmācības procesā). Vai arī izdot kveriju zināšanu grafam vai esošai ekspertu sistemi, saņemt atbildi un pārfrazēt to. ChatGPT gadījumā OpenAI ir uzlikuši ierobežojumu, ka ChatGPT nav datu, zināšanu par konkrētām reālijām un ChatGPT arī necenšas pats šīs zināšanas iegūt (piem., no Google vai izmantojot sensorus, vai arī monitorējot twitter plūsmas). Ļoti iespējams, ka tas ir privātuma dēļ. Attīstītāki LLM apgūst šīs autonomijas spējas un veic šo informācijas ievākšanu.
Ir arī citi scenāriji - piem., LLM ģenerē promtu, nodod to citam LLM un saņem no tā atbildi. Čati sarunājas paši ar sevi. Pirms pāris gadiem (pirms foundation modeļu ēras) šādi sarunājās (škeit, nostiprinošās apmācības) sistēmas un spēja kaut kādā ziņā ģenerēt valodu.
ChatGPT ir tikai viena LLM instance ar konkrētiem pielietojumiem un ierobežojumiem. Pētnieki strādā pie daudziem citiem variantiem, t.sk. pie GPT-4, kas varētu būt kaut kas tuvs singularitātei. Eiropiešu zinātnieki ir uztrenējuši paši savu BLOOM modeli un to palaiduši atklātā kodā Huggingface. Katrs var trenēt tālāk, dators nepieciešams tikai drusku labāks par laptopu.
Var iedomāties seti@home vai peer-to-peer sistēmas, kas šādus pašuzlabojušis LLM trenē uz simtiem datoru un var iedomaties, ka šādai sistēmai piesaista kritovalūtu, kurā valūtu pelna tie, kas uz saviem datoriem peer-to-peer sistēmai atvēl resursus un kriptovalūtu maksā tie, kas pret šo LLM taisa pieprasījumus un saņem atbildes. Šādā veidā gan valodas LLM, gan multimediālos un robotikas kustību pretrained modeļus var apmācīt arī demokrātiski cilvēku kolektīvi un pelnīt no tā. Ne tikai lielās korporācijas, kurām ir savi privātie mākoņu un datu centri.
Kur ir problēma? Problēma ir cilvēku bailēs par to, ka LLM var iegūt autonomiju, iznākt ārā no smilškastes. Un otrā problēma ir tā, ka cilvēki nespēj vienoties par to, kādu mērki un vērtības dot šādam LLM? Katrai autonomai sistēmai ir nepieciešams mērkis un vērtības, kuras iekodē utilītf-jā. Utilitārisms ir par to, ka šāda utilītf-ja pastāv un attiecas uz visām - profānām un garīgām - jomām. Protams, reālās pasaule utilītf-jas, preferenču kopas var būt daudz sarežģītākas par ekonomiskos modeļos lietotām, bet tomēr - kaut kādas preferences pastāv.
Nu lūk. Tas arī ir jautājums - ja LLM ļautu būt autonomam, tad kāds būs tā mērkis, vērtības un kā tas gūs atalgojumu. Google meklētājs par vērtību un atalgojumu izmanto sociālo mēru - tā lapa, uz kuru daudz atsaucas, ir sociāli vērtīgāka un ir rādām kā pirmā. Bet Google search engine nav autonoms. Ja pasaulē sāk parādīties autonomi čatboti, tad kāpēc gan lai tie izmantotu sociālo vērību, kuru definē cilvēki? Varbūt čatbotiem, cilvēkiem, planētai būtu daudz labāk, ja vērtības tiktu definētas nevis cilvēku sociumā, bet kaut kā savādāk?
Šeit mēs nonākam pie Gēdeļa mašīnas (pašuzlabojušamies datorprogramma, kas ģenerē sevis uzlabojumus, novērtē šo uzlabojumu lietderību un tad integrē sevī), pie autdidaktiskā universa (kvantu lauka teorijām ir līdzīga struktūra ka neironu tīkliem, tātad - Visums mācās) un AIXI universālās inteliģences algoritma. Un pie tur atkal ir jautājumi par to - kas autonomās sistēmas labums, kas ir autonomo sistēmu kopienas labums, kas ir ekosistēmas labums.
Kāds var teikt, ka labumu ir nodefinējis Dievs. Un būt mierīgs savā ticībā. Kāds var teikt, ka Dieva nav un nāve ir visa beigas. Un būt mierīgs, ka nav jāuztraucas par pēcnāvi.
Mūsdienu cilvēks var teikt, ka viņš nav pārliecināts, ka Dievs ir tas labais. Un viņš nav drošs, ka nāve ir beigas. Jo var izrādīties, ka dzīvojam simulācijā. Un pat nevaram patver šausmas, kas mūs var sagaidīt, ja simulācijā ievieš dramatiskus kontroles spēkus vai ja tiek pārnestu uz vidi ārpus simulācijas. |
| 11:14p |
Biedējoši ir tas, ka cilvēki nostājas pret kolektīvismu un solidaritāti. Kad notiek sociālisma, marksisma lamāšana. Jo kāda tad ir cilvēka darba nākotne laikmetā, kad darbi tiek automatizēti? Piem, LLM jomā viens no pielietojumiem ir LLM, kas ģenerē programmas kodu un dabīgās valodas instrukcijām un specifikācijām.
Kad cilvēks tiek nolikts konkurencē ar mašīnām, tad kāda ir nākotne?
Varu ieraudzīt tikai 2 scenārijus:
1) mašīnas strādā, rada vērtības priekš cilvēkiem un cilvēki izdzīvo savdabīgu komunismu sasniedzot Maslova piramīdas pašas augšas (pašrealizācija un transcendence). Šādam scenārijam urn nepieciešama solidaritāte;
2) cilvēki pievieno savai bioloģiskai sugas iemiesotībai papildus spējas (trans/post) - vai nu integrējas ar mākoņiem (lai uzlabotu kognitīvās spējas), vai arī kaut ko savā kermenī maina - ģenētiski, epiģenētiski vai integrējoties ar ne-oglekļa substrātiem. Bet šajā scenārijā lomu spēlē nauda un nevienlīdzība - sevis uzlabošāna maksā un var maksāt ļoti dārgi. Tā būs pieejama dažiem. Tā nebūs pieejama nabadzīgajiem, kuriem nākas konkurēt ar mašīnām, lai pelnītu savu iztiku. Ja šajā scenārijā nav solidaritātes, nav national-health-system-for-all veida pieejamība uzlabojumiem visiem, tad kaut kādi izmiršanas, galējas nabadzības un šausmīgu ciešanu procesi šajā gadījumā ir neizbēgami.
Un atkal nonākam pie tā, ka neviens no šiem scenārijiem jau nav iekodēts kaut kādās ANO konstitūcijās vai vēstures likumos vai 10 baušļos. Šo scenārijus izvēlamies mēs paši, vēlēšanās.
Šodienas AS Sprindžuka idejas par nodokli bezbērnu cilvēkiem un par īpašu materiālu atbalstu ģimenēm ar bērniem iezīmē kolektīvismu populistu gaumē. Populisti nav spējīgi atzīt cilvēka cieņā bāzētu kolektīvismu, kas būtu pamats beznosacījuma dividendei. Populisti neredz šo cilvēka cieņu. Populisti cilvēka vērtību cenšas saistīt ar heteronormatīvas ģimenes un piedzemdētu cilvēku sugas īpatņu jēdzieniem. Un šādi jēdzienu attaisno deformētu kolektīvismu. Atkal - vai mēs kā sabiedrība šo vēlamies? Tieši šo? Un vai tas būs konkurētspējīgi salīdzinot ar citām valstīm, kas būs izvēlējušas citus attīstības modeļus un citus sociālekonomiskos uzstādījumus?
Dažreiz škiet, ka kolektīvisma zākāšana ir bagātās elites palaista maldu ideja, kas var novest pie tādiem nabadzīgāko cilvēku pašizmiršanas scenārijiem (zaudējums iepriekšminētajā konkurences cīņā ar mašīnām), kuros nabadzīgākie cilvēki ar sava veida izpratni uztver šo izmiršanu un nevaino eliti pie tās.
Un te ir jautājums par politisko apziņu. Var jau teikt, ka labāk ir nebojāt savu galvu ar politiku. Radikāli ignorēt to. Bet politiku virza politiskās partijas. Tām ir jāsasniedz noteikts biedru skaits, lai partiju vispār reģistrētu. Lielāks biedru skaits, lai pielaistu pie vēlēšanām. Vēl lielāks biedru skaits, lai savāktu līdzekļus kampaņai. Var sēdēt malā un neko nedarīt kopējas virzības labā. Bet arī tā ir izvēle ar savām sekām.
Politika nevis kā dzīvesveids vai aizraušanās. Bet kā viens mazs pienākums, kas jāizpilda. |