juvenal's Journal
 
[Most Recent Entries] [Calendar View] [Friends View]

Saturday, January 6th, 2024

    Time Event
    9:08p
    Šis nedēļas The Economist par Baidenu un 2024. vēlēšanām. Tas esot paradokss, ka demokrāti runājot par demokrātijas sargāšanu iepretim Trampam, bet pašu demokrātu vadība bez jelkādām priekšvēlēšanām un nopietnām diskusijām pieškīra nomināciju Baidenam. Kurš ne vien ir gados, kad vajadzētu atpūsties un nevis uzņemties planētas grūtāko darbu, bet kurš ir arī nepopulārakais prezidents šajā vēlēšanu cikla momentā vēsturē. Runas par gerontokrātiju. Bet galīgi nav runas, kas tad demokrātiem būtu jādara pārmaiņu laikā? Tādu runu un plānu nav. Tad jau labāk, lai ir pārmaiņu prezidents!

    Šonedēļ arī komentārs un intervijas pārstāsts ar Zeļenski. Noskaņa drūma. Rietumi neapzinoties, ka Ukrainas nosargāšana un uzvara esot pašu drošības interesēs. Nu jā, bet, manuprāt, Rietumi jau daudz ko neapzinās - sākot no morālas rīcības klimata pārmaiņu, nabadzības un ekspluatācijas lietās. Un beidzot ar MI iespējām to visu labot un izlīdzināt. Varbūt intelektuāļiem, kas cenšas aktualizēt Ukrainas un drošības jautājumus, vajadzētu domāt plašāk - skatīt to visu miera, solidaritātes, pārticības, zvērisku biznesu ierobežošanas gaismā? Pagātnes izlīdzināšanas un nākotnes pārmaiņu gaismā? Varbūt karš tikai izgaismo saspringumu un pretrunas un vienpusēja uzvara nav risinājums šīm pretrunām (lai cik arī laba pati uzvara liktos)?

    ---

    Numurā arī garš raksts par valstu un uzņēmumu sacensību MI, seviški jau LLM un skaitļošanas resursu jomā. ASV investē privātie, bet citviet valdības pamatīgi investējot - ne tikai Ķīna, bet arī Indija, Saudi, Francija, Lielbritānija, Vācija. Bet mani pārsteidz šo centienu un investīciju tukšība.

    Pirmkārt - gandrīz visas valdību/publiskās investīcijas ir tieši skaitļošanas jaudu jomā, čipu fabriku subsīdijām un pašu čipu iepirkumiem. Bet ļoti niecīga daļa aiziet pašiem MI metodoloģijas pētījumiem, lai gan šeit ir vismaz trīs būtiskas tēmas, kas ir jāatrisina teorētiski:

    1) datu taupīga modeļu apmācība - lai varētu izmantot arī vērtīgos un maz pieejamos datus, lai cilvēku pārraudzība (ja to tomēr lieto) būtu maksimāli efektīva;
    2) uzticamība: nepietiek no LLM saņemt atbildi. Biznesu pielietojumiem ir svarīgi, lai LLM atbilde būtu uzticama;
    3) proaktīva un autonoma secināšana un zināšanu radīšana, zinātnes automatizācija. Biznesa un publiskos pielietojumos ir nepieciešams, lai LLM spētu ne tikai atgriezt vai kombinēt datus un zināšanas, bet arī lai LLM paši spētu radīt jaunas idejas, jaunus algoritmus, jaunas atziņas. Lai spētu atrisināt problēmas un pamatot risinājumu. T.sk. jaunas problēmas. Lai LLM spētu atbildēt ne tikai kombinējot saņemtās zināšanas, bet arī veicot daudzsoļu autonomas un radošanas domāšanas (deduktīvas, induktīvas, abduktīvas) procesus.

    Tas viss prasītu teorijas attīstību. Protams, tas arī notiek. Bet, ja valdības investē desmitiem miljardu čipos un vien niecīgas summas atvēl teorijas izrāvieniem, tad īsti pareizi tas nav.

    Otrkārt - The Economist gari apraksta kādas tik pieejas un dati katrā nacionālā valstī tiek lietoti savu LLM attīstībai, bet The Economist galīgi nemin, kādi tad būtu šo LLM pielietojumi? Jau minēju, ka pašreizejie LLM ir vāji pielietojami biznesos, ja nav atbilžu uzticamība un nav autonomas jaunrades un rīcības. Bet svarīgs ir arī saturiskais tvērums? Kāda būs jēga no Indijas pavalstu valodās apmācītiem LLM, ja šajās valodās nav pielietojama satura un tulkošana nav tik spēcīga. Kāda būs jēga no Lielbritānijas modeļa, kas apmācīts uz veselības sistēmas datiem, ja šis modelis nebūs uzticams un nebūs spējīgs inovēt?

    Un vai tiešām valodu modeļi, kas apmācīti uz nacionāliem un valdības datiem ir ar lielāku pielietojuma potenciālu, nekā specializētie modeļi inženierijā, zinātnes nozarēs, profesionālā darba automatizācijā. Bet valdības finansējums, vismaz pēc raksta ziņam, tos neskar. Un kā ar multimodāliem modeļiem, kas nepieciešami robotikā? Arī tie netika minēti.

    2023. gads ir bijis liels MI sasniegumu konsolidācijas gads, taču gada otrā puse liecina par stagnāciju. Modeļi kļūst mazāki, laižami pat uz laptopiem, pieejami visiem. Tas ir labi un praktiski. Taču pielietojumi pēdējā pusgada laikā nav auguši tā, kā tiem vajadzēja augt. Uzņēmumi ir nobiedēti no EA un valdību regulācijas centieniem, no publiskām bažām. Trūkst vīzijas un vilkmes pārmaiņām un izrāvieniem. Bet valdību finansējums ir bez skata uz pielietojumiem. Dabiski, politiki baidās no apzinātas un plānveidīgas automatizācijas. Diemžēl.

    << Previous Day 2024/01/06
    [Calendar]
    Next Day >>

About Sviesta Ciba