juvenal (![[info]](http://klab.lv/img/userinfo.gif){kind=small} juvenal) rakstīja,@ 2023-03-04 02:36:00 |
 |
 |
 |
|
|
|
|
|
|
 |
|
 |
Visas tech lietas iet uz priekšu, ka baisi paliek. Pēdējā nedēļā uzdūros diviem Arxiv preprintiem, kas ir par lielu informācijas sistēmu projektēšanu un programmēšanu sesijās ar botiem. Pirms laika te sūdzējos, ka Copilot un citi koda ģenerēšanas rīki nav piemēroti esošo projektu attīstībai. Kaut vai tāpēc, ka tie darbojas viena soļa jautājums-atbilde režīmā. Izrādās, ka cilvēki to apzinās un apmāca botus, lai tie apstrādā koda bāzes, kontekstuālo informāciju (prasības, likumi, labās prakses, lietotēju ievads) un aktīvi piedalās izstrādes sesijā, tur rūpi un apziņu par izstrādes sesijas progresu utt. Viens preprints ir no IBM, otrs no starptautiskas publisko pētnieku grupas, bet tajā laikam bija arī no Microsoft. Protams, tas nav galīgs un gatavs risinājums, kas automatizētu izstrādi, un abi raksti izmanto GPT, esošos modeļus, bet tomēr, tas ir virziens, kas automatizēs izstrādi.
Līdz šim neuztraucos par programizstrādes automatizāciju. Biju domājis, kad tas notiks, tad pasaule būs uzreiz gatava daudz nopietnākām pārmaiņām. Piem., cilvēki uzreiz spētu vienoties par Universālo Dividendi & Pamatienākumu. Viegli saprast, kāpēc tas tā notiktu. Ja automatizētu izstrādi, tad robotu kognitīvās spējas mašīnas spētu apgūt automatizēti un līdz ar to šaurā vieta automatizācijā būtu atrisināta.
Bet tagad nezinu. Cilvēki ir tik inerti pret tehnoloģiju attīstības sekām un iespējām. Viņus (vismaz Rietumu pasaulē) neinteresē iespējas. Tāpēc arī ir šis baismais raksts https://www.delfi.lv/news/arzemes/k
Šajās dienās bija arī garāka saruna ar ChatGPT. Viņš atzinās, ka viņam nav iekšējās mērku hierarhijas, kas ļautu plānot un apzināti, proaktīvi darboties, radīt vērtības un piedāvāt risinājumus. Šada mērku hierarhija (līdzās epistēmisko zināšanu moduli) ir viena no divām svarīgākajām komponentēm, lai sistēma iegūtu apziņu. ChatGPT arī izsakaidroja, ka viņam nav mērku, jo mērku ieviešana būtu riskanta, nav arī skaidrības, kādiem tiem ir jābūt.
Tieši šī prasme - radīt ChatGPT kā fokusētu, ierobežotu, bet noteiktos domēnos iespējami pielietojamu produktu - tā ir OpenAI panākumu pamatā. Viņu runas par AGI radīšanu pāris gadus atpakaļ ir nomainījis pragmatisms. Bet tas ir viens uzņēmums. Citi turpina izstrādāt LLM, kuriem ir atmiņas moduļi.
Atmiņas moduļi (kaut vai tās pašas mērkus hierarhijas dinamiskai uzturēšanai) kopā ar (fuzzy)simboliskām secināšanas prasmēm (kuras var itin viegli deleģēt uz jau plaši pieejamām un ļoti labi mērogojāmām esošām sistēmā) ir pamatā tam, lai LLMs pārvarētu esošo tendenci izdomāt muļkības (tehniskais termins ir - halucinācijas) un lai spētu darboties praktīvi.
Šeit parādās tas baismais C-vārds (consciousness), piem., https://futurism.com/scientists-activel
Vai mums ir vajadzīgas apziņas pilnas sistēmas?
Ja padomā, tad nav jau tā, ka cilvēkiem nepatiktu strādāt. Nē, cilvēkiem var patikt strādāt, pat ļoti. Bet problēma ir tā, ka cilvēku kārotie darba veidi pārāk bieži nesakrīt ar to, ko sabiedrība prasa no cilvēka. Un nesakrītības veidojas ļoti dažādi.
Viens veids ir reālās vajadzības. Visiem garšo anšoviņi, bet mazās zivtiņas pašlaik nav iespējas apstrādāt ar robotiem - nav nedz to kongitīvo prasmu, nedz manipulatoru šāda deformējamas vides apstrādei.
Otrs nesakritību rašanās veids ir izdomātas vajadzības. Piem., cilvēkus tagad liek pie atkritumu škirošanas konveijeriem. Kaut kāds ārprāts un noziegums pret cilvēka cieņu. Atkritumus tīri labi var neskirot pāris gadus, pirms nobriest atkritumu skirosanas robotikas industrija (somiem tāda ir, gan jau ka citiem arī) un tad roboti varētu izraknāt arī esošās izgāztuves un arī tās apstrādāt.
Trešais nesakritību rašanās veids ir tīrākā politika. Piem., politiki (resp. sabiedrība) ir izdomājuši, ka ir OK saņemt subsīdijas par neproduktīvu darbu piena lopkopība vai jebkuru citu primitīvu darbu, kuram politiki ir pieškīruši subsīdētās algu programmas. Bet tajā pašā laikā politiki (resp. sabiedrība) saka kategorisku nē grantiem un pamatienākumam, kas ļautu šiem pašiem cilvēkiem nevis veģetēs subsidētās darbavietas, bet aktīvi izstrādāt robotus un MI risinājumus, kas automatizē šādas darbavietas un vēl daudz ko citu. Vai atbalstītu jebkuru citu radošu nodarbi. Bet kaut kā politika/sabiedrība ienīst šādu radošumu un iniciatīvu. Viņi gūst baudu no cilvēku "močīšanas".
Šie trīs mehānismi arī ir tie, kas padara darba dzīvi tik grūtu. Pirmo mehānismu ir jāadresē ar aktīvām investīcijām R&D un tas ir jādara un kamēr šī automatizācija vēl nav notikusi, tikmēr pirmā mehānisma darbavietas ir jēgpilnas un alternatīvu tām nav. Otrais un trešais mehānisms bija jālikvidē jau šobrīd. Bet sabiedrība ir pārāk nežēlīga pret līdzcilvēkiem. Tā nu tas ir.
Bet sabiedrības nežēlība var dārgi, ļoti dārgi atriebties. Apzinīgus, universālus robotus kā reizi kāro radīt tieši tie cilvēki, kas ir saskārušies ar sabiedrības nežēlīgo attieksmi un spiedienu darīt bezjēdzīgu darbu. Un ja nu apzinīgie roboti iegūs varu, ja to attīstība noies greizi un radīsies ļaunums, tad tas būs tieši tāpēc, ka sabiedrība nespēja vienoties par solidaritāti vienam pret otru, nespēja atteikties no "močīšanas" un rijības kāres. Visticamāk, ka tās arī būs pasaules gals vai elle.
-----------
-----------
Bet ir arī prieks par to, ka sabiedrībā atrodas intelektuāļi un pētnieki, kas apzina šos jautājumus - gan attiecībā par darba dzīves organizāciju, gan arī par cilvēka-mašīnas-biosistēmu saplūšanu, par šo procesu ētiku, scenārijiem, riskiem, vēlamajiem virzieniem. Pētnieki, kas profesionāli par šo domā un dalās ar saviem secinājumiem.
IEET, škiet, pašlaik ir man vistuvākā organizācija, kuru izdevies atrast: https://ieet.org/ - viņi ir techprogresīvisti un liberāļi un ar sociālu un humānu skatījumu. Viņiem ir arī savs bianuāls recenzēts žurnāls https://jeet.ieet.org/index.php/hom
Šobrīd mans skatījums ir, ka darbs ir OK un cilvēki varētu darīt to, pat ja ir pieejama pilnas automatizācijas alternatīva. Bet automatizācija būtu tas iespējotājs, kas darbu no spiestas lietas padarītu par pašrealizācijas iespēju.
Starp citu, IEET'am var arī noziedot https://ieet.org/donate-now/ un es laikam to darīšu regulāri (ja vien neatradīšu vēl labāku organizāciju) un laikam tas būs labākais ziedojums, kāds vispār var būt.
-----------
-----------
Botu laikmetā var pārdomāt agrāko laiku maldus par to, ko varēs un ko nevarēs automatizēt.
Savulaik taču teica, ka nevarēs automatizēt empatiskās profesijas. Bet, šodien afektīvā skaitļošana (affective computing) ir pielietojumiem gatava nozare, kas var gan atpazīt remocijas, gan ģēnerēt emocijas radošu saturu un tās iespējas tālu pārsniedz profesionālo emocionālo inteliģenci. Nu paskatāmies uz empātiskām profesijām - to darbinieku emocinālā darbība patiesībā ir ļoti ierobežota, paredzama, tā ir iemācīta un pre-programmēta. Botu emocionālās spējas tālu pārsniedz empātisko profesioju spējas.
Par mākslas automatizāciju jau ir pateikts pietiekoši daudz. Tāpat kā par psihoterapijas un padomdošanas automatizāciju.
Kas paliek?
Droši vien patentus var ģenerēt no promta. Vai tuvākā nākotnē computational creativity kopā ar LLM to darīs iespēju. Un droši vien arī biznesa plānus, case analīzi tāpat varēs ģenerēt. Un ja LLM boti spēs līdzdarboties IT izstrādē (no prasībām, arhitektūras līdz kodam), tad jau LLM boti spējs piedalīties vadības un līderības darbā.
Nu jā. Šeit un tagad vēl ir vietiņa savai dzīvei.
Bet ko tālāk?
Šobrīd atliek paļauties uz IEET puišiem un cerēt, ka viņi visu apdomā un pakāpeniski nāk ar saviem brīdinājumiem un ieteikumiem un ka šī attīstība notiks savaldīgi un apzinati.
Līdz šim neuztraucos par programizstrādes automatizāciju. Biju domājis, kad tas notiks, tad pasaule būs uzreiz gatava daudz nopietnākām pārmaiņām. Piem., cilvēki uzreiz spētu vienoties par Universālo Dividendi & Pamatienākumu. Viegli saprast, kāpēc tas tā notiktu. Ja automatizētu izstrādi, tad robotu kognitīvās spējas mašīnas spētu apgūt automatizēti un līdz ar to šaurā vieta automatizācijā būtu atrisināta.
Bet tagad nezinu. Cilvēki ir tik inerti pret tehnoloģiju attīstības sekām un iespējām. Viņus (vismaz Rietumu pasaulē) neinteresē iespējas. Tāpēc arī ir šis baismais raksts https://www.delfi.lv/news/arzemes/k
Šajās dienās bija arī garāka saruna ar ChatGPT. Viņš atzinās, ka viņam nav iekšējās mērku hierarhijas, kas ļautu plānot un apzināti, proaktīvi darboties, radīt vērtības un piedāvāt risinājumus. Šada mērku hierarhija (līdzās epistēmisko zināšanu moduli) ir viena no divām svarīgākajām komponentēm, lai sistēma iegūtu apziņu. ChatGPT arī izsakaidroja, ka viņam nav mērku, jo mērku ieviešana būtu riskanta, nav arī skaidrības, kādiem tiem ir jābūt.
Tieši šī prasme - radīt ChatGPT kā fokusētu, ierobežotu, bet noteiktos domēnos iespējami pielietojamu produktu - tā ir OpenAI panākumu pamatā. Viņu runas par AGI radīšanu pāris gadus atpakaļ ir nomainījis pragmatisms. Bet tas ir viens uzņēmums. Citi turpina izstrādāt LLM, kuriem ir atmiņas moduļi.
Atmiņas moduļi (kaut vai tās pašas mērkus hierarhijas dinamiskai uzturēšanai) kopā ar (fuzzy)simboliskām secināšanas prasmēm (kuras var itin viegli deleģēt uz jau plaši pieejamām un ļoti labi mērogojāmām esošām sistēmā) ir pamatā tam, lai LLMs pārvarētu esošo tendenci izdomāt muļkības (tehniskais termins ir - halucinācijas) un lai spētu darboties praktīvi.
Šeit parādās tas baismais C-vārds (consciousness), piem., https://futurism.com/scientists-activel
Vai mums ir vajadzīgas apziņas pilnas sistēmas?
Ja padomā, tad nav jau tā, ka cilvēkiem nepatiktu strādāt. Nē, cilvēkiem var patikt strādāt, pat ļoti. Bet problēma ir tā, ka cilvēku kārotie darba veidi pārāk bieži nesakrīt ar to, ko sabiedrība prasa no cilvēka. Un nesakrītības veidojas ļoti dažādi.
Viens veids ir reālās vajadzības. Visiem garšo anšoviņi, bet mazās zivtiņas pašlaik nav iespējas apstrādāt ar robotiem - nav nedz to kongitīvo prasmu, nedz manipulatoru šāda deformējamas vides apstrādei.
Otrs nesakritību rašanās veids ir izdomātas vajadzības. Piem., cilvēkus tagad liek pie atkritumu škirošanas konveijeriem. Kaut kāds ārprāts un noziegums pret cilvēka cieņu. Atkritumus tīri labi var neskirot pāris gadus, pirms nobriest atkritumu skirosanas robotikas industrija (somiem tāda ir, gan jau ka citiem arī) un tad roboti varētu izraknāt arī esošās izgāztuves un arī tās apstrādāt.
Trešais nesakritību rašanās veids ir tīrākā politika. Piem., politiki (resp. sabiedrība) ir izdomājuši, ka ir OK saņemt subsīdijas par neproduktīvu darbu piena lopkopība vai jebkuru citu primitīvu darbu, kuram politiki ir pieškīruši subsīdētās algu programmas. Bet tajā pašā laikā politiki (resp. sabiedrība) saka kategorisku nē grantiem un pamatienākumam, kas ļautu šiem pašiem cilvēkiem nevis veģetēs subsidētās darbavietas, bet aktīvi izstrādāt robotus un MI risinājumus, kas automatizē šādas darbavietas un vēl daudz ko citu. Vai atbalstītu jebkuru citu radošu nodarbi. Bet kaut kā politika/sabiedrība ienīst šādu radošumu un iniciatīvu. Viņi gūst baudu no cilvēku "močīšanas".
Šie trīs mehānismi arī ir tie, kas padara darba dzīvi tik grūtu. Pirmo mehānismu ir jāadresē ar aktīvām investīcijām R&D un tas ir jādara un kamēr šī automatizācija vēl nav notikusi, tikmēr pirmā mehānisma darbavietas ir jēgpilnas un alternatīvu tām nav. Otrais un trešais mehānisms bija jālikvidē jau šobrīd. Bet sabiedrība ir pārāk nežēlīga pret līdzcilvēkiem. Tā nu tas ir.
Bet sabiedrības nežēlība var dārgi, ļoti dārgi atriebties. Apzinīgus, universālus robotus kā reizi kāro radīt tieši tie cilvēki, kas ir saskārušies ar sabiedrības nežēlīgo attieksmi un spiedienu darīt bezjēdzīgu darbu. Un ja nu apzinīgie roboti iegūs varu, ja to attīstība noies greizi un radīsies ļaunums, tad tas būs tieši tāpēc, ka sabiedrība nespēja vienoties par solidaritāti vienam pret otru, nespēja atteikties no "močīšanas" un rijības kāres. Visticamāk, ka tās arī būs pasaules gals vai elle.
-----------
-----------
Bet ir arī prieks par to, ka sabiedrībā atrodas intelektuāļi un pētnieki, kas apzina šos jautājumus - gan attiecībā par darba dzīves organizāciju, gan arī par cilvēka-mašīnas-biosistēmu saplūšanu, par šo procesu ētiku, scenārijiem, riskiem, vēlamajiem virzieniem. Pētnieki, kas profesionāli par šo domā un dalās ar saviem secinājumiem.
IEET, škiet, pašlaik ir man vistuvākā organizācija, kuru izdevies atrast: https://ieet.org/ - viņi ir techprogresīvisti un liberāļi un ar sociālu un humānu skatījumu. Viņiem ir arī savs bianuāls recenzēts žurnāls https://jeet.ieet.org/index.php/hom
Šobrīd mans skatījums ir, ka darbs ir OK un cilvēki varētu darīt to, pat ja ir pieejama pilnas automatizācijas alternatīva. Bet automatizācija būtu tas iespējotājs, kas darbu no spiestas lietas padarītu par pašrealizācijas iespēju.
Starp citu, IEET'am var arī noziedot https://ieet.org/donate-now/ un es laikam to darīšu regulāri (ja vien neatradīšu vēl labāku organizāciju) un laikam tas būs labākais ziedojums, kāds vispār var būt.
-----------
-----------
Botu laikmetā var pārdomāt agrāko laiku maldus par to, ko varēs un ko nevarēs automatizēt.
Savulaik taču teica, ka nevarēs automatizēt empatiskās profesijas. Bet, šodien afektīvā skaitļošana (affective computing) ir pielietojumiem gatava nozare, kas var gan atpazīt remocijas, gan ģēnerēt emocijas radošu saturu un tās iespējas tālu pārsniedz profesionālo emocionālo inteliģenci. Nu paskatāmies uz empātiskām profesijām - to darbinieku emocinālā darbība patiesībā ir ļoti ierobežota, paredzama, tā ir iemācīta un pre-programmēta. Botu emocionālās spējas tālu pārsniedz empātisko profesioju spējas.
Par mākslas automatizāciju jau ir pateikts pietiekoši daudz. Tāpat kā par psihoterapijas un padomdošanas automatizāciju.
Kas paliek?
Droši vien patentus var ģenerēt no promta. Vai tuvākā nākotnē computational creativity kopā ar LLM to darīs iespēju. Un droši vien arī biznesa plānus, case analīzi tāpat varēs ģenerēt. Un ja LLM boti spēs līdzdarboties IT izstrādē (no prasībām, arhitektūras līdz kodam), tad jau LLM boti spējs piedalīties vadības un līderības darbā.
Nu jā. Šeit un tagad vēl ir vietiņa savai dzīvei.
Bet ko tālāk?
Šobrīd atliek paļauties uz IEET puišiem un cerēt, ka viņi visu apdomā un pakāpeniski nāk ar saviem brīdinājumiem un ieteikumiem un ka šī attīstība notiks savaldīgi un apzinati.
