Human is the awkward liminal phase between animal and machine

171024 0818

Izskatās, ka lieljaudas ML netiešā veidā atrisinās arī SMR un kodolenerģijas otrā cēliena kā tāda jautājumu.

https://www.wmar2news.com/local/three-mile-island-nuclear-power-plant-could-be-restored-in-new-constellation-energy-agreement
https://www.cnbc.com/2024/10/16/amazon-goes-nuclear-investing-more-than-500-million-to-develop-small-module-reactors.html
https://blog.google/outreach-initiatives/sustainability/google-kairos-power-nuclear-energy-agreement/

31024 0949

A human brain imaged at synaptic resolution would yield a zettabyte of data (1e21 bytes). Our ultimate goal is to enable zettascale connectomics.

https://zetta.ai/

26624 0159

Bioinženierija uz AI bāzes ir klāt.

1. https://doi.org/10.1126/science.adl2528
2. https://doi.org/10.1038/s41586-023-05696-3
3. https://doi.org/10.1101/2024.04.22.590591
4. https://doi.org/10.1126/science.abn2100
5. https://www.profluent.bio/blog/editing-the-human-genome-with-ai
6. https://www.evolutionaryscale.ai/blog/esm3-release
7. https://www.nature.com/articles/d41586-024-02214-x

17124 1005

Paralēli oglekļa idiotismam enerģētikā (kas varbūt lēni sāk mainīties uz labo pusi, bet pagaidām ar uzsvaru uz “varbūt” un “lēni”), EU neatpaliek silīcija idiotismā pa ML līniju (kas, protams, ir daļēji saistīts ar pirmo). Pagaidām var likt zināmas cerības uz neratificēšanu, revidētu ratificēšanu vai, sliktākajā gadījumā, uz Briselei tipisku relatīvi lēnu ieviešanu, līdz kurai var pagūt izstrādāt contingency plānus darbu turpināšanai ārpus EU un abiem pārējiem lielajiem saldējošā efekta varas blokiem (US un PRC).

https://www.euaiact.com/

https://www.rungalileo.io/blog/ready-for-regulation-preparing-for-the-eu-ai-act

7923 2319

Gradient descent can do it.

24122 1555

Jautājums primāri ir domāts šeit atlikušajiem foldotājiem, bet aicināti izteikties ir visi, kuri saprot, par ko ir runa.

Par AlphaFold esmu jau rakstījis, bet šī tehnoloģija šobrīd ir tikpat iespaidīga, cik pirms gada un, visticamāk, tās potenciāls ne tuvu nav izsmelts vai pat pilnībā ieskicēts. Tās jauda un potenciāls pēdējā laikā ir licis mazliet aizdomāties par Folding@home iniciatīvas nākotni un perspektīvām. Personīgi uzskatu, ka tai joprojām ir pielietojums, bet, tajā pašā laikā, nav izslēgts, ka redzam šāda veida eksplicītas distributētās skaitļošanas projektu atvirzīšanos fonā, to vietā stājoties skaitļošanai uz masīvu neirālo tīklu bāzes, gan mākonī, gan, apritē ieejot dažādu veidu AI paātrinātāju aparatūrai, arī “uz malas”.

Poll #21519 Folding@home in the Time of AlphaFold
Open to: All, results viewable to: All

Vai AlphaFold realizācija padara Folding@home iniciatīvu bezjēdzīgu?

Permanento pacientu balsis droši neņemt vērā.

2921 1704

Tā, kā biedrs Lamināts ir nolēmis manus komentārus pie viņa ierakstiem nerādīt, atļaušos izteikt savu entuziasmu pie sevis (nu jau divus ierakstus pēc kārtas, bet tas ir tas līmenis). Sintētiskās bioloģijas un gēnu inženierijas jomā šobrīd notiek masīvs progress ar iespaidīgiem taustāmiem rezultātiem un vēl iespaidīgākām prognozēm.

It’s going to allow us to not just edit genomes but also, and importantly, to write a new code for life — we will have write-level permissions.

https://www.weforum.org/agenda/2021/04/global-technology-governance-summit-gtgs-future/

21121 1333

Man ļoti patīk viedie līgumi, gan teorijā, gan praksē. Tie ir mazi digitālās pasaules dabas likumi. Reiz palaisti, tie ir mūžīgi (atrodas blokķēdē), darbojas bez cilvēku starpniecības vai iejaukšanās un ir neizbēgami. Likumiem, jebkuriem likumiem, vajadzētu būt tieši tādiem — ne obligāti skarbiem, bet neizbēgamiem un nepārsūdzamiem, kā termodinamika vai gravitācija. Viedos līgumus tagad vairs arī nav grūti sastādīt un lietot, pateicoties rīku un dokumentācijas apjomam.

Tā nebija himna mehanizētajam kapitālismam (kaut arī kādēļ gan ne, cilvēki pēdējā laikā dzied himnas daudz dīvainākiem un mazāk rezultatīviem elkiem), tas bija ievads idejai. Ideja ir šāda: izveidot automatizētu rīku komplektu, kas:

1. periodiski pārstaigā vietējos blogus, forumus un komentāru lentas;
2. atrod tur sastopamo kovidiotu atstātās gaudas un giljotīnu taisīšanas instrukcijas COVID-19 epidēmijas sakarā;
3. no brīvprātīgo samesta fonda par katru šādu ierakstu ziedo zināmu naudas summu kādam no COVID-19 apkarošanas vai atslodzes pasākumiem;
4. publiski apskatāmā mājas lapā izvieto pārskaitījumu datus, ekrānšāvienus ierakstiem, uz kuru pamata ir ticis pārskaitīts, kā arī pateicības ierakstu autoriem.

Tautai savus varoņus ir jāzina, bet stulbums un stulbuma katalizēta katastrofas novēršanas traucēšana nav varonība. Šādi katrs pamanītais kovidiotisma akts dos nelielu, bet taustāmu labumu, pie tam caurspīdīgā, pilnīgi legālā un pašu kovidiotu makus neapdraudošā veidā. Pateicoties automatizācijai un blokķēdei, šis veidojums kļūs par vietējās datu ekosistēmas dabas likumu: proti, tik ilgi, kamēr kovidioti turpinās uzdarboties un tik ilgi, kamēr būs entuziasti, kam atradīsies pa liekai kapeikai, šie ziedojumi turpināsies, bez iekārtas autoru dalības un iejaukšanās, nepārsūdzami un neizbēgami.

Idejas koda un atbalsta bāze jau ir sākusi tapt, ar cilvēkiem tiek runāts, turpinājums sekos.

41220 1427 : A new kind of science

Mākslīgā intelekta sistēmu sasniegumi šahā un go spēlē un pat tekstu sastādīšanā ir burtiski rotaļāšanās, salīdzinot ar AlphaFold.

Seno un līdz šim (par spīti visām Folding@home un citu iniciatīvu cienījamajām pūlēm) neatrisināto proteīnu locīšanas jeb strukturālo motīvu problēmu var uzskatīt par atrisinātu. Šāda sasnieguma nozīmi un tālejošās sekas var bez pārspīlējumiem salīdzināt ar tranzistora izgudrošanu, tas ir viens no zinātnes vēstures un zinātniski tehnoloģiskā progresa pagrieziena punktiem.

https://deepmind.com/blog/article/alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biology
https://www.sciencemag.org/news/2020/11/game-has-changed-ai-triumphs-solving-protein-structures
https://www.nature.com/articles/d41586-020-03348-4
https://www.economist.com/science-and-technology/2020/11/30/how-do-proteins-fold

29720 2351

Kārtējā epizode “reizēm kvantitāte pati par sevi ir kvalitāte” un “ja to var pavisam dumji modeļi, tad ko varēs daudz gudrāki?” seriālos. Iepriekšminētais GPT-3 neirālais tīkls, izejot tikai no četrām pirmajām rindiņām, viena vietvārda tulkojuma un norādes “iztulkot nevis burtiski, bet tā, kā mākslinieks to bija domājis”, veic lingvistiski un mākslinieciski akurātu ķīniešu dzejas angļu tulkojumu ar anotācijās pievienotām relevantām kultūrvēsturiskām atsaucēm un valodas lietojuma nianšu paskaidrojumiem.

Atrasts te, iesaku izlasīt visu komentāru.

4620 0523

Eju cauri pieejamajiem rezultātiem no un informācijai par GPT-3. Ārkārtīgi iespaidīgi un liekoši aizdomāties. Arvien vairāk šķiet, ka šo iestrāžu gaismā varētu tikt iedvesta jauna elpa vecās skolas konekcionistu (Šmidhūbera, Moraveka u.c.) argumentiem.

25719 0402

Neuralink pārliecinoši rāda priekšzīmi [1][2] tam, kā jābūvē smadzeņu-datoru interfeisus. Publikācija apraksta tikai agrīnu koncepta demonstratoru ar virkni skaidri iezīmētu tālāku uzlabojumu, bet jau tas vien ir daudz iespaidīgāks par visiem iepriekšējiem lielo projektu gala rezultātiem, kopā ņemtiem (pie tam ar tikai nepilnu 3 gadu ilgu R&D fāzi).

We have built arrays of small and flexible electrode “threads”, with as many as 3,072 electrodes per array distributed across 96 threads. We have also built a neurosurgical robot capable of inserting six threads (192 electrodes) per minute. Each thread can be individually inserted into the brain with micron precision for avoidance of surface vasculature and targeting specific brain regions. The electrode array is packaged into a small implantable device that contains custom chips for low-power on-board amplification and digitization.

[1] https://www.biorxiv.org/content/10.1101/703801v1
[2] https://www.youtube.com/watch?v=r-vbh3t7WVI

27619 1953

Using precisely specified symbols and geometric shapes as a tool for and the extension of the individual will to bind and command an autonomous semi-intelligent entity that, in other circumstances, would be fully capable of inflicting grievous injury and harm. All right, I’m convinced, this is actual ritual magic in the traditional sense of the word.

311018 1754

The concern about uFAI as an existential threat is relevant but we shouldn’t think it implies it would take no less than uFAI to obsolete us. There is already almost nothing we are able to do unequivocally better than bespoke narrow AI systems available today. Happy Halloween.

18718 0133

Intelligence is the ability to make models (which is equivalent up to some appropriate morphism to the ability to successfully achieve goals in environments). General intelligence means that a sufficiently large computational substrate can be fitted to an arbitrary computable function, within the limits of that substrate. Humans might be in that category, for small values of substrate, but it would likely be quite hard to test that.

21518 0315

It kā sīkums (literatūras un metožu apskati nav paši lielākie un nopietnākie papīri pienesuma ziņā), bet tik un tā, patīkami.

( Update )

Man, protams, nebūtu iebildumu pret “great importance to the scientific community” daļu, pat, ja šoreiz tas šķiet nedaudz pārspīlēti. Tas ir darbs, kas mērāms pēdējā mēneša kafijā un beigtajos neironos, bet tik un tā, ne gluži nākotnes mācību grāmatu materiāls.

26118 1257

Laiks, kad detalizēts video materiāls bija stipra evidence par tur redzamo notikumu, ir gandrīz beidzies. Man šoreiz nav nekā piebilstama, izņemot varbūt to, ka šī un līdzīgas tehnoloģijas skaidri iezīmē jaunas ēras sākumu, kur ar kritisku domāšanu un informācijas izvērtēšanu vairs nepietiks tam, lai atšķirtu faktus no fabricējumiem. Acīmredzot, turpmāk vienīgais pretlīdzeklis šādu tehnoloģiju kaitīgiem pielietojumiem būs citas tehnoloģijas (ar piebildi, ka “citas” pieaugošā skaitā gadījumu gandrīz neizbēgami nozīmē “tās pašas”). AI will eat all things, including ones previously considered inedible.

11118 0954

Runājot par jomām, kurās algoritmi pārspēj cilvēkus, nākamo paaudžu melu detektoru rezultātus, iespējams, varēs ņemt vērā tādā un lielākā mērā, kā to savulaik bija iecerējuši sevi neattaisnojušo poligrāfa tipa detektoru autori. Jau šobrīd pavisam agrīns prototips [1] pārspēj ne tikai ierindas novērotājus, bet arī ekspertus [2] un autori prognozē, ka aptuveni nākamo piecu gadu laikā varētu tikt sasniegts līmenis, kur šis vai līdzīgi dziļās mašīnapmācības risinājumi spēj attiecīgās funkcijas pildīt praktiski nekļūdīgi [3].

[1] https://doubaibai.github.io/DARE/
[2] https://arxiv.org/abs/1712.04415
[3] https://futurism.com/new-ai-detects-deception-bring-end-lying-know-it/

10118 0223

Holy Gnon Abomenon, one of the most complete examples of howling insanity I have seen in a long time must be the assumption that AI will not be created because its predecessors and potential precursors have not been created in our own very specific image.

291217 0021

Viela pārdomām – dziļā mašīnmācīšanās ir ekvivalenta fāzu pārejām ar renormalizācijas grupu. Priecē, ka papīrs ir tikai 8 lpp. garš, kas nozīmē, ka pagūšu to izlasīt un sākt apdomāt vēl pirms gulēt iešanas. Pagaidām man nav skaidrs, cik un vai šim secinājumam ir nozīme attiecībā uz vienu vai otru lauciņu. Nav izslēgts, ka tā, kā renormalizācija ir funktors starp kategorijām, tad smadzenes vienkārši visu laiku nāk klajā ar vienām un tām pašām kompozicionālajām struktūrām, būvējot savas kartes un modeļus.