ctulhu ([info]ctulhu) rakstīja,
@ 2026-09-20 09:55:00
Previous Entry  Add to memories!  Tell a Friend!  Next Entry
neslikti
LLM aģentu vadīta laboratorija

https://www.reuters.com/world/anthropic-quietly-sets-up-biology-lab-it-ramps-ai-drug-program-2026-09-18/

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]ctulhu
2026-09-21 16:08 (saite)
Oj nu labi, PMR, C13NMR, LC-MS, ja kristāli tad Xray, receptoru testi , šūnu testi, audzēja modeļu testi, peļu testi un tad jau es pats izlemšu vai tās ir zāles vai inde. Tālāk pirmās fāzes kīnisikie testi un tikko parādās nepieļaujamas blaknes tā stop.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 16:21 (saite)
nu un tagad iztēlojies, ka tas, kas tev iedeva tās "zāles", ir nevis entitāte, kam var būt nevis mērķis "izgatavot zāles" vai "izgatavot indi",
bet gan tev vispār nezināms un neiedomājams mērķis, t.i., zāļu efekts var būt jebkāds, ietverot iedarbību uz kognitīvo aparātu (gan uztveri, gan atmiņu, gan domāšanu), reproduktīvo sistēmu vai jebko citu, un turklāt nav teikts, ka šis mērķis ir īstermiņa, un nav teikts, ka tas aprobežojas ar cilvēku (tikpat labi tas var specifiskā veidā ietekmēt kuņģa mikrofloru, piemēram),

kā arī iztēlojies, ka, lai šīs zāles izgudrotu, entitātei ir bijis kaut kas ekvivalents, teiksim, 50 cilvēka mūža gadiem, t.i., šīs zāles nāk ne tikai no "citas planētas", bet arī no "nākotnes"

un vēlreiz, tas, ko šīs zāles "dara", nav ierobežots ar taviem cilvēciskajiem apsvērumiem par to, ko būtu "jēga" uztaisīt

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 16:34 (saite)
Labi, principā paskatoties uz molekulu var izdarīt virkni pieņēmumu kā tā iedarbosies, ne 100% tāpēc jāpārbauda. Lai uztaisītu kaut ko kas iedarbojas ļoti viltīgi un ilgtermiņā, teiksim regulējot epiģenētiku vai tml tam aģentam būtu jāveic daudz papildu izpētes un pat ja šis cenšas ko slēpt tad tāda apjoma papildu izpēte būtu pamanāma. Nu teiksim šis pieprasītu virkni reaģentu un par šiem pieprasījumiem cilvēkiem varētu rasties jautājumi utt.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 16:51 (saite)
nu hvz, kas MI skaitās "daudz papildu izpētes" un kas ne, turklāt, atkal, viņam jau nav obligāti mērķis "uztaisīt kaut ko šitādu, kas garantēti darbojas tieši šādi"

un attiecīgi, ja
1) nav zināms, ko tas produkts vispār dara
2) nav zināms, ko tas darīs ilgtermiņā
3) nevar izdarīt pat pieņēmumus par to, kāda veida iedarbība tā ir

cik ilgs laiks paies testiem un palaišanai apritē? (pie reizes mini arī normālu zāļu ciklu no izstrādes līdz tirgum, man ir aptuvena nojauta, bet ne zināšanas)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 16:56 (saite)
Klasiski no idejas līdz komerciālam preparātam 10-15 gadi.

(1) (3) pieņēmumu lauku stipri sašaurina tas ko es minēju augstāk, paskatoties uz molekulu var pateikt ar ko tā reaģēs.
(2) Gadās ka to sākotnēji nezinam arī par klasiski konstruētām zālēm.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:25 (saite)
tātad, ja klasiski ir 10-15 gadi, tad šeit vajadzētu bik bik ilgāk, ne? uz tā fona bliezt augšā laboratoriju TAGAD, kad apmēram mēneša laikā ir kļuvis skaidrs, ka vajadzētu moš apdomāties un piebremzēt, nešķiet tāda prioritāte

jo īpaši ja prioritāte varētu būt "sarunāt ar Ķīnu, ka šie arī piebremzē"

ja es būtu no Ķīnas un redzētu, ka štati man lūdz piebremzēt un vienlaikus taisa MI biolabu, diez vai es nospriestu, ka piedāvājums kopīgi piebremzēt ir, ē, godprātīgs

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:28 (saite)
/tātad, ja klasiski ir 10-15 gadi, tad šeit vajadzētu bik bik ilgāk, ne?/

Ātrāka izstrāde + ilgākas pārbaudes, tā kā izstrāde būtiski ātrāka augstāk minēto iemeslu dēļ tad arī ar ilgākām pārbaudēm summāri varētu būt plusā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:33 (saite)
un again, salīdzinām 10-15 gadus ar to, ka šobrīd ir runa par dažiem mēnešiem, pirms kāds gudrelis izdomā uztaisīt rekursīvo

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:41 (saite)
Nu daži mēnēši pašas izstrādes jo viens kompis ar LLM vesela uņa vai inastitūta kolektīva vietā bet tad daži gadi pārbaužu.

Un te ir vēl viena lieta: Lai kura novecošānās novēršanas metode izrādītos ejoša tur vienalga vajadzēs strādāt ar daaaaudz datiem mērkaķa ātrumā tā ka sorry nekur mēs neliksimies.

T.i. tas nav tikai par vēžiem, tas ir par problēmas radikālu atrisinājumu.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:46 (saite)
tava ideja, ka MI piedāvātajiem risinājumiem, turklāt radikāliem, turklāt tādiem, līdz kādiem cilvēks toč tuvākajā laikā neaizdomāsies, varētu vajadzēt mazāk laika pārbaudēm, ir tiešā pretrunā ar tavu domu, ka tur vajag kontroli.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:52 (saite)
Nē nē es domāju ka ja X ir izstrādes laiks un Y pārbaudes laiks tad X samazinās un Y palielinās bet X samazinās būtiski vairāk līdz ar to summa X+Y arī ir mazāka.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:57 (saite)
un tāpēc es saku, 10-15 gadi kā minimums "un pēc tam varbūt būs labs rezultāts" situācijā, kurā eksistenciālais risks ir mērāms mēnešos

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 18:05 (saite)
Tagad paši klīniskie pētījumi ir 2 līdz 3 max 5 gadi, pārējais izstrāde, ja mēs izstrādi samazinam līdz mēnešiem un klīniskās fāzes laiku palielinam līdz 6-7 gadiem tad mēs vienalga tiekam cauri ātrāk. Vēl jāpiezīmē ka ja tā ir vnk monomēra molekula nevis konstruēts vīruss vai šūna vai kaut vai vismaz proteīns tad tajā nevar būt iekodēts nekas slēpts, tā reaģē noteiktā veidā ko nosaka tās struktūra.

(Atbildēt uz šo) (Iepriekšējais)


[info]ctulhu
2026-09-21 16:37 (saite)
Also ir viena cita lieta kas mani dara uzmanīgu un tā ir drusku netiešāka. Mēs zinam ka LLM ģenerētus tekstus nevar lietot jaunu LLM trenēšanai, viņi tad kolapsē. Miljons $ jautājums ir vai LLM ģenerētus tekstus u.c. saturu var lietot cilvēku trenēšanai. Kas būs tad kad infosfēra par 99.9% sastāvēs no MI ģenerēta satura? Un tā var notikt tāpēc ka MI tekstus ģenerē daudz ātrāk nekā cilvēks. OK es saprotu ka cilvēki un LLM trenējas dažādos veidos bet ķeza ir tajā ka mēs nezinam tieši kāpēc šis augastāk minētais kolapss notiek.

(Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?