juvenal ([info]juvenal) rakstīja,
@ 2024-01-06 21:08:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Šis nedēļas The Economist par Baidenu un 2024. vēlēšanām. Tas esot paradokss, ka demokrāti runājot par demokrātijas sargāšanu iepretim Trampam, bet pašu demokrātu vadība bez jelkādām priekšvēlēšanām un nopietnām diskusijām pieškīra nomināciju Baidenam. Kurš ne vien ir gados, kad vajadzētu atpūsties un nevis uzņemties planētas grūtāko darbu, bet kurš ir arī nepopulārakais prezidents šajā vēlēšanu cikla momentā vēsturē. Runas par gerontokrātiju. Bet galīgi nav runas, kas tad demokrātiem būtu jādara pārmaiņu laikā? Tādu runu un plānu nav. Tad jau labāk, lai ir pārmaiņu prezidents!

Šonedēļ arī komentārs un intervijas pārstāsts ar Zeļenski. Noskaņa drūma. Rietumi neapzinoties, ka Ukrainas nosargāšana un uzvara esot pašu drošības interesēs. Nu jā, bet, manuprāt, Rietumi jau daudz ko neapzinās - sākot no morālas rīcības klimata pārmaiņu, nabadzības un ekspluatācijas lietās. Un beidzot ar MI iespējām to visu labot un izlīdzināt. Varbūt intelektuāļiem, kas cenšas aktualizēt Ukrainas un drošības jautājumus, vajadzētu domāt plašāk - skatīt to visu miera, solidaritātes, pārticības, zvērisku biznesu ierobežošanas gaismā? Pagātnes izlīdzināšanas un nākotnes pārmaiņu gaismā? Varbūt karš tikai izgaismo saspringumu un pretrunas un vienpusēja uzvara nav risinājums šīm pretrunām (lai cik arī laba pati uzvara liktos)?

---

Numurā arī garš raksts par valstu un uzņēmumu sacensību MI, seviški jau LLM un skaitļošanas resursu jomā. ASV investē privātie, bet citviet valdības pamatīgi investējot - ne tikai Ķīna, bet arī Indija, Saudi, Francija, Lielbritānija, Vācija. Bet mani pārsteidz šo centienu un investīciju tukšība.

Pirmkārt - gandrīz visas valdību/publiskās investīcijas ir tieši skaitļošanas jaudu jomā, čipu fabriku subsīdijām un pašu čipu iepirkumiem. Bet ļoti niecīga daļa aiziet pašiem MI metodoloģijas pētījumiem, lai gan šeit ir vismaz trīs būtiskas tēmas, kas ir jāatrisina teorētiski:

1) datu taupīga modeļu apmācība - lai varētu izmantot arī vērtīgos un maz pieejamos datus, lai cilvēku pārraudzība (ja to tomēr lieto) būtu maksimāli efektīva;
2) uzticamība: nepietiek no LLM saņemt atbildi. Biznesu pielietojumiem ir svarīgi, lai LLM atbilde būtu uzticama;
3) proaktīva un autonoma secināšana un zināšanu radīšana, zinātnes automatizācija. Biznesa un publiskos pielietojumos ir nepieciešams, lai LLM spētu ne tikai atgriezt vai kombinēt datus un zināšanas, bet arī lai LLM paši spētu radīt jaunas idejas, jaunus algoritmus, jaunas atziņas. Lai spētu atrisināt problēmas un pamatot risinājumu. T.sk. jaunas problēmas. Lai LLM spētu atbildēt ne tikai kombinējot saņemtās zināšanas, bet arī veicot daudzsoļu autonomas un radošanas domāšanas (deduktīvas, induktīvas, abduktīvas) procesus.

Tas viss prasītu teorijas attīstību. Protams, tas arī notiek. Bet, ja valdības investē desmitiem miljardu čipos un vien niecīgas summas atvēl teorijas izrāvieniem, tad īsti pareizi tas nav.

Otrkārt - The Economist gari apraksta kādas tik pieejas un dati katrā nacionālā valstī tiek lietoti savu LLM attīstībai, bet The Economist galīgi nemin, kādi tad būtu šo LLM pielietojumi? Jau minēju, ka pašreizejie LLM ir vāji pielietojami biznesos, ja nav atbilžu uzticamība un nav autonomas jaunrades un rīcības. Bet svarīgs ir arī saturiskais tvērums? Kāda būs jēga no Indijas pavalstu valodās apmācītiem LLM, ja šajās valodās nav pielietojama satura un tulkošana nav tik spēcīga. Kāda būs jēga no Lielbritānijas modeļa, kas apmācīts uz veselības sistēmas datiem, ja šis modelis nebūs uzticams un nebūs spējīgs inovēt?

Un vai tiešām valodu modeļi, kas apmācīti uz nacionāliem un valdības datiem ir ar lielāku pielietojuma potenciālu, nekā specializētie modeļi inženierijā, zinātnes nozarēs, profesionālā darba automatizācijā. Bet valdības finansējums, vismaz pēc raksta ziņam, tos neskar. Un kā ar multimodāliem modeļiem, kas nepieciešami robotikā? Arī tie netika minēti.

2023. gads ir bijis liels MI sasniegumu konsolidācijas gads, taču gada otrā puse liecina par stagnāciju. Modeļi kļūst mazāki, laižami pat uz laptopiem, pieejami visiem. Tas ir labi un praktiski. Taču pielietojumi pēdējā pusgada laikā nav auguši tā, kā tiem vajadzēja augt. Uzņēmumi ir nobiedēti no EA un valdību regulācijas centieniem, no publiskām bažām. Trūkst vīzijas un vilkmes pārmaiņām un izrāvieniem. Bet valdību finansējums ir bez skata uz pielietojumiem. Dabiski, politiki baidās no apzinātas un plānveidīgas automatizācijas. Diemžēl.


(Ierakstīt jaunu komentāru)


[info]extranjero
2024-01-07 01:05 (saite)
Man prieks, ka tu sāc apzināties, ka MI ir sūds un nav nekāda revolūcija. Varu tikai apbrīnot tavu optimismu, ka, metot pakaļ vairāk naudas, ir iespējamas kvalitatīvas izmaiņas. Tāds cerības cilvēkiem bija ar vēža terapijām, kuru izpētē ir ieguldīti milzīgi līdzekļi, bet nekas kardināli citāds nav atrasts.

Man jau šķiet, ka šīs cerības nāk no fantāzijām, ka ja vien cilvēkiem nebūtu jāstrādā, jo visu darītu roboti, tad viņi rakstītu dzeju un romānus, nodarbotos ar zinātni un sportu, kopīgi dejotu miera dejas un mīlētu viens otru.

Reāli visdrīzāk vairums nodzertos, nonarkotos, slaistītos vai karotu viens ar otru. Es neesmu kristietis, bet šķiet, ka Bībeles autoriem bija vairāk izpratnes par cilvēku psiholoģiju, kad viņi rakstīja, ka mums būs savu maize ēst ar sviedriem vaigā. Darbi mainās, bet principam ir jāpaliek tam pašam – katram ir jāuzņemas kaut kāda atbildība, arī tad, ja vairums darbu darīs inteliģenti roboti. Tāpēc es vienmēr esmu atbalstījis mērenu reliģisku domāšanu. Tas dod cilvēkiem ticību mērķim un palīdz pieņemt dzīves grūtības, no kurām mūsdienās visvairāk ir mentālās problēmas.

(Atbildēt uz šo)


[info]extranjero
2024-01-07 01:17 (saite)
Vēl man šodien patika šis Fredija raksts: https://freddiedeboer.substack.com/p/the-ai-doomer-scenario-relies-on

Viņam ir pilnīga taisnība, ka MI skepticisms ir neizmantota niša, kurā literāti var izvērsties un kļūt par labiem pareģotājiem. Tas būs daudz produktīvāk nekā mans pareģojums, ka vakcīnu mandāti ir pilnīgs sūds. Tas bija ārkārtīgi precīzs, bet fanātiski antivakseri visu izbojāja.

(Atbildēt uz šo) (Diskusija)


[info]begemots
2024-01-07 11:51 (saite)
paywall aiz pirmā punkta

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]extranjero
2024-01-07 12:02 (saite)
Jā, es tālāk arī netiku. Doma ir par to, ka MI skepticisms ir neaizpildīta niša.

Viņš brīdina, lai komentārus nepārvērstu par mēslu kaudzi. Ir saprotams, ka daudziem šis ir karsts temats. Tieši tāpat kā vakcīnu mandātu kritika piesaista fanātiskus antivakserus.

(Atbildēt uz šo) (Iepriekšējais)


[info]juvenal
2024-01-07 01:27 (saite)
Iznāk, ka viss manis rakstītais ir priekš kakiem :( un esmu pārprasts!

Tas, ka ar MI pašlaik nav labi, tas nozīmē tikai to, ka man ir vairāk darba, lai to salabotu. Un līdz ar to - nopelnītu.

Tas, ka valstu finansējums ir nefokusēts un greizs nozīmē to, ka vēlētajiem ir jāprasa saviem politikiem, lai to izlabo.

Nu tā tas bija domāts...

(Atbildēt uz šo) (Diskusija)


[info]extranjero
2024-01-07 08:56 (saite)
Neesi pārprasts. :) Arī vēža pētnieki labi nopelnīja, apgūstot apmēram triljonu dolāru.

Vai kaut kas būtu mainījies, ja Latvija tam būtu pielikusi savu miljardu?

(Atbildēt uz šo) (Iepriekšējais)


Neesi iežurnalējies. Iežurnalēties?