juvenal ([info]juvenal) rakstīja,
@ 2023-05-04 19:34:00

Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Trīs jaunas atziņas par MI un topošo regulējumu. Ievadam var minēt, ka Latvijā ir pamanījuši, ka OpenAI, Goolge, Antrophic utml. CEO šodien viesojas Baltajā namā, tikšanās laikam būs ar VP, nevis pašu POTUS. Bet ASV Politico raksta https://www.politico.com/news/2023/05/04/congresss-scramble-build-ai-agenda-00095135 ka Kongresā burtiski vārās no neziņas un jaunām MI iniciatīvām.

Zīmīgi, ka visas rakstā minētās iniciatīvas ir par atklātību un drošību, bet nav absolūti nevienas iniciatīvas par to, kā MI procesu paātrināt un ievirzīt tā, lai tas risinātu vai nu planētas globālās problēmas, vai sasniegtu ANO 17 ilgtspējīgas attīstības mērkus, palielinātu ražošanu un ASV ienākumus tā, lai atrisinātu ASV parādu krīzi vai budžeta griestu krīzi vai inflacijas krīzi. Vai kaut vai naudas trūkumu ASV programmām, kas vērstas uz veselības pieejamību, izglītību, nabadzības izsaukšanu. Šādā veidā, lai cik tas arī jocīgi nebūtu, neskatās nedz ASV Kongress, nedz žurnālisti, nedz intelektuāļi.


Trīs atziņas:

- Ir simboliskais (loģiskais) un subsimboliskais (neironu tīkli, melnā kaste) MI. Subsimboliskais MI ir lielisks satura ģenerēšanā, mērogojamībā, apmācībā no reālās pasaules datiem, bet tieši simboliskais MI ir noderīgs, lai subsimboliskā MI ģenerēto saturu verificētu wrt normām, pirms šo saturu vispār rāda lietotājiem, padod izpildei uz robotiem, utml. Tieši subsimboliskā MI transformācija par simbolisko MI ir izskaidrojamā un konrolējamā MI grāls.

Bet problēma ir tā, ka starp abām šīm kultūrām ir milzīga plaisa. Industrija nodarbojas gandrīz tikai ar subsimbolisko (jo tas ir lētāks un labi mērogojas un var izteikt bez simtiem un tūkstošiem PhD nodarbināšanas, kas līdz šim (līdz matemātikas automatizācijai) būtu bijis vajadzīgs simboliskā MI gadījumā) un katrā no šīm kultūrām ir pilnīgi atseviški curriculum, kompetences, pieejas, domāšanas veidi.

Google'i pametušais un satraukumu radījušais Hinton pieder pie subsimboliskās kopienas, visu mūžu ir piederējis un tas rada bažas, vai viņam ir priekšstats par to, kas notiek simboliskā MI nometnē un kā tās sasniegumus var izmantot MI atklātībā un drošībā.


- Pamēģinām iztēloties 1) pasauli ar MI iespējotu produktivitāti; 2) pasauli bez MI iespējotas produktivitātes. Pirmajā pasaulē notiek izaugsme. Var būt jautājumi, kā izaugsmes rezultātu pārdalīt, bet izaugsme ir. Otrajā pasaulē cilvēki ir sasnieguši savu bioloģiskos spēju griestus (kurus nosaka viszemākā AGI līmenis, sākot ar kuru visa ne-bioloģiskā attīstība ir aizliegta). Tātad otrā pasaule valda zero-sum spēle. Lai kāds cilvēks kļūtu bagātāks, viņam ir jāpārsniedz bioloģisko spēju griesti (izņēmuma gadījumos tas aizvien notiek) vai arī ir jāekspluatē citi cilvēki cenšoties paņemt lielāko daļu no ekspluatācijas augšliem sev un paņemt to nost no citiem. Nu otrā pasaule liekas ļoti bezjēdzīga. Bet tieši par šādu vīziju pašreizējās intelektuālās diskusijas cenšas vienoties.

Grūti sagrozīt prātu tā, lai izprastu un akceptētu šo kolektīvo neprātu.


- Ilgu laiku cerēju, ka Ķīnas konkurence būs tā, kas spiedīs Rietumus ļaut vaļu MĪ attīstībai. Taču pašā Ķīnā jau tiek ieviesti MI regulējumi un arī nav dzirdamas runas par to, ka tirgus-sociālistiskā Ķīnā sāktu skatīties uz kļūšanu par K-valsti (atbilstoši partijas nosaukumam un valsts dibinātāju iecerēm). Līdz ar to ir grūti iedomāties, ka Ķīna centīsies konkurēt ar Rietumiem MI jomā. Jāņem arī vēra, ka Ķīna necenšas savus MI produktus tirgos Rietumos un arī Rietumi savējos necenšas izvietot Ķīnā. Ķīnas MI ierobežojumi pārsvara attiecas uz noteiktām satura tēmām, varbūt, ka būs atļauja attīstīt MI matemātikas un inženierijas, pielietojamās industrijas vajadzībām un līdz ar to MI kā produktivitātes faktora loma tomēr noteiks konkurenci.


(Ierakstīt jaunu komentāru)

Neesi iežurnalējies. Iežurnalēties?