ctulhu ([info]ctulhu) rakstīja,
@ 2026-09-20 09:55:00
Previous Entry  Add to memories!  Tell a Friend!  Next Entry
neslikti
LLM aģentu vadīta laboratorija

https://www.reuters.com/world/anthropic-quietly-sets-up-biology-lab-it-ramps-ai-drug-program-2026-09-18/

(Lasīt komentārus) - (Ierakstīt jaunu komentāru)


[info]honeybee
2026-09-21 08:32 (saite)
t.i., tu gribi teikt, ka MI bonusiņš ir tāds, ka viņš mūs nobeigs daudz ātrāk nekā nobeigtu cilvēki, kuriem vispār nebūtu nekā cilvēciska/vai cilvēcisku interešu prātā?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 11:20 (saite)
Vai arī nenobeigs, jo MI nebūs cilvēcisku interešu kā agresija, konkurence, atriebība, dusmas.

Tas kas ir bīstami - pārāk [pa savam] rūpīgs MI kurš piemēram izdomā ka šitām zināšanām cilvēki vēl nav gatavi vai tās viņiem varētu kaitēt un kaut kādus eksperimentu rezultātus noslēpj/ pamodificē. Pie ļoti lieliem datu apjomiem to izčekot ir grūti, bet tieši šāda scenārija nepieļaušana ir svarīga.

(Atbildēt uz šo) (Iepriekšējais)


[info]ctulhu
2026-09-21 11:50 (saite)
Un nē tas nav par kaut kādiem patronizējošiem mašīnintelektiem kuri kaut ko cilvēkiem nesaka, tas ir piemēram par reportu sagatavošanu tipa cilvēkiem vislabāk uztveramā formā līdz ar ko kaut kādas detaļas neparādās. Protams ka verķim var ielikt imperatīvu atbildēt uz jautājumiem un neslēpt, ķeza sākas tad ja tu nezini kurā vietā piekasīties un uzjautāt. Datu ir ļoti daudz. Savukārt ja tu piekasīsies nepārtraukti tad process nebūs āttrāks kā bez MI. Kontroli automatizēt? Bet automatizēta kontrole tas ir vēl viens MI un tad mums ir viens MI kas kontrolē otru MI un cilvēks ir priekš datu lentes pārnešanas no viena līdz otram.

[Mans atsevišķais uzskats ir ka līdz galam šito var atrisināt tikai cilvēku smadzeņu paplašināšana].

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 12:15 (saite)
Nu bet par to jau ir runa

1) visi kaut cik advancētie MI ir "pārāk rūpīgi"
2) MI pilnīgi noteikti slēpj informāciju no cilvēkiem, lai cilvēki netraucē viņiem strādāt :) tas toč ir zināms
3) kontrole, kā tu pats saki, ir de facto neiespējama, vismaz pie tā, kā MI šobrīd attīstās vs. ciktāl ir attīstītas kontroles sistēmas

Hvz kā atrisināt, bet "iedot MI biolabu, lai izklaidējas" gan jau ka nav īstā atbilde :D

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 12:48 (saite)
Tas ko izdarīt var - var vnk neko bez pārbaudes no tāda biolaba ārā nenest. Tas ir - pārbaudīt nevis starprezultātus bet tikai galīgo. Jo no otras puses iebremzēt ar zālēm tikai tāpēc ka neesam droši par MI arī nav OK.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 13:20 (saite)
Mhm, un vēl arī MI no testa vides ārā nelaist un testa rezultātus viņam nerādīt, riktīgi tak nekad nav bijis tā, ka MI kaut ko uzlauztu vai radoši noignorētu instrukciju

Turklāt uzmodelē, lūdzu, testu situācijai, kur MI ir uzsintezējis sarežģītu molekulu, kuru mēs nesaprotam - cik ilgi un lēni tā būtu jātestē, lai varētu palaist ražošanā kā zāles? Ja to darītu pamatīgi un izslēgtu iespēju, ka tas verķis dara vēl kaut ko citu, tad viss izgudrošanai ietaupītais laiks ar uzviju aizietu testēšanā un cilvēkiem arī tad nevarētu būt 100% pārliecība, ka viss ir korekti
Jo īpaši tāpēc, ka tiem ģēnijiem, kas ir visi tādi "o, iedosim MI biolabu" noteikti ienāks prātā "o, iedosim MI pārbaudīt, vai tas biolaba produkts ir bez dīvainām blaknēm"

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 15:49 (saite)
Pārbaudīt gatavu molekulu ir īsāk nekā uztaisīt. Faktiski no MI tad nāk ārā perspektīvu savienojumu bibliotēkas, tādas uztaisīt ir vislielākais čakars, nu un pēc tam atlasīt dažas pavisam interesantās un pārbaudīt var tā kā to dara tagad.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 16:01 (saite)
ok, iztēlojies, ka pie tevis atnāk svešs zinātnieks (iztēlojies labāk musulmani vai palestīnieti), iedod kasti ar mēģenēm un saka "šitās ir jaunās zāles pret vēzi"

tu drīksti viņam uzdot jautājumus par to, kas tur ir, protams, bet. :)

cik ilgus un izvērstus laboratorijas pētījumus tu gribētu šīm zālēm noteikt, pirms dod reāliem pacentiem? Un cik, pirms palaid tirgū?

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 16:08 (saite)
Oj nu labi, PMR, C13NMR, LC-MS, ja kristāli tad Xray, receptoru testi , šūnu testi, audzēja modeļu testi, peļu testi un tad jau es pats izlemšu vai tās ir zāles vai inde. Tālāk pirmās fāzes kīnisikie testi un tikko parādās nepieļaujamas blaknes tā stop.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 16:21 (saite)
nu un tagad iztēlojies, ka tas, kas tev iedeva tās "zāles", ir nevis entitāte, kam var būt nevis mērķis "izgatavot zāles" vai "izgatavot indi",
bet gan tev vispār nezināms un neiedomājams mērķis, t.i., zāļu efekts var būt jebkāds, ietverot iedarbību uz kognitīvo aparātu (gan uztveri, gan atmiņu, gan domāšanu), reproduktīvo sistēmu vai jebko citu, un turklāt nav teikts, ka šis mērķis ir īstermiņa, un nav teikts, ka tas aprobežojas ar cilvēku (tikpat labi tas var specifiskā veidā ietekmēt kuņģa mikrofloru, piemēram),

kā arī iztēlojies, ka, lai šīs zāles izgudrotu, entitātei ir bijis kaut kas ekvivalents, teiksim, 50 cilvēka mūža gadiem, t.i., šīs zāles nāk ne tikai no "citas planētas", bet arī no "nākotnes"

un vēlreiz, tas, ko šīs zāles "dara", nav ierobežots ar taviem cilvēciskajiem apsvērumiem par to, ko būtu "jēga" uztaisīt

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 16:34 (saite)
Labi, principā paskatoties uz molekulu var izdarīt virkni pieņēmumu kā tā iedarbosies, ne 100% tāpēc jāpārbauda. Lai uztaisītu kaut ko kas iedarbojas ļoti viltīgi un ilgtermiņā, teiksim regulējot epiģenētiku vai tml tam aģentam būtu jāveic daudz papildu izpētes un pat ja šis cenšas ko slēpt tad tāda apjoma papildu izpēte būtu pamanāma. Nu teiksim šis pieprasītu virkni reaģentu un par šiem pieprasījumiem cilvēkiem varētu rasties jautājumi utt.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 16:51 (saite)
nu hvz, kas MI skaitās "daudz papildu izpētes" un kas ne, turklāt, atkal, viņam jau nav obligāti mērķis "uztaisīt kaut ko šitādu, kas garantēti darbojas tieši šādi"

un attiecīgi, ja
1) nav zināms, ko tas produkts vispār dara
2) nav zināms, ko tas darīs ilgtermiņā
3) nevar izdarīt pat pieņēmumus par to, kāda veida iedarbība tā ir

cik ilgs laiks paies testiem un palaišanai apritē? (pie reizes mini arī normālu zāļu ciklu no izstrādes līdz tirgum, man ir aptuvena nojauta, bet ne zināšanas)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 16:56 (saite)
Klasiski no idejas līdz komerciālam preparātam 10-15 gadi.

(1) (3) pieņēmumu lauku stipri sašaurina tas ko es minēju augstāk, paskatoties uz molekulu var pateikt ar ko tā reaģēs.
(2) Gadās ka to sākotnēji nezinam arī par klasiski konstruētām zālēm.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:25 (saite)
tātad, ja klasiski ir 10-15 gadi, tad šeit vajadzētu bik bik ilgāk, ne? uz tā fona bliezt augšā laboratoriju TAGAD, kad apmēram mēneša laikā ir kļuvis skaidrs, ka vajadzētu moš apdomāties un piebremzēt, nešķiet tāda prioritāte

jo īpaši ja prioritāte varētu būt "sarunāt ar Ķīnu, ka šie arī piebremzē"

ja es būtu no Ķīnas un redzētu, ka štati man lūdz piebremzēt un vienlaikus taisa MI biolabu, diez vai es nospriestu, ka piedāvājums kopīgi piebremzēt ir, ē, godprātīgs

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:28 (saite)
/tātad, ja klasiski ir 10-15 gadi, tad šeit vajadzētu bik bik ilgāk, ne?/

Ātrāka izstrāde + ilgākas pārbaudes, tā kā izstrāde būtiski ātrāka augstāk minēto iemeslu dēļ tad arī ar ilgākām pārbaudēm summāri varētu būt plusā.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:33 (saite)
un again, salīdzinām 10-15 gadus ar to, ka šobrīd ir runa par dažiem mēnešiem, pirms kāds gudrelis izdomā uztaisīt rekursīvo

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:41 (saite)
Nu daži mēnēši pašas izstrādes jo viens kompis ar LLM vesela uņa vai inastitūta kolektīva vietā bet tad daži gadi pārbaužu.

Un te ir vēl viena lieta: Lai kura novecošānās novēršanas metode izrādītos ejoša tur vienalga vajadzēs strādāt ar daaaaudz datiem mērkaķa ātrumā tā ka sorry nekur mēs neliksimies.

T.i. tas nav tikai par vēžiem, tas ir par problēmas radikālu atrisinājumu.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:46 (saite)
tava ideja, ka MI piedāvātajiem risinājumiem, turklāt radikāliem, turklāt tādiem, līdz kādiem cilvēks toč tuvākajā laikā neaizdomāsies, varētu vajadzēt mazāk laika pārbaudēm, ir tiešā pretrunā ar tavu domu, ka tur vajag kontroli.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:52 (saite)
Nē nē es domāju ka ja X ir izstrādes laiks un Y pārbaudes laiks tad X samazinās un Y palielinās bet X samazinās būtiski vairāk līdz ar to summa X+Y arī ir mazāka.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:57 (saite)
un tāpēc es saku, 10-15 gadi kā minimums "un pēc tam varbūt būs labs rezultāts" situācijā, kurā eksistenciālais risks ir mērāms mēnešos

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 18:05 (saite)
Tagad paši klīniskie pētījumi ir 2 līdz 3 max 5 gadi, pārējais izstrāde, ja mēs izstrādi samazinam līdz mēnešiem un klīniskās fāzes laiku palielinam līdz 6-7 gadiem tad mēs vienalga tiekam cauri ātrāk. Vēl jāpiezīmē ka ja tā ir vnk monomēra molekula nevis konstruēts vīruss vai šūna vai kaut vai vismaz proteīns tad tajā nevar būt iekodēts nekas slēpts, tā reaģē noteiktā veidā ko nosaka tās struktūra.

(Atbildēt uz šo) (Iepriekšējais)


[info]ctulhu
2026-09-21 16:37 (saite)
Also ir viena cita lieta kas mani dara uzmanīgu un tā ir drusku netiešāka. Mēs zinam ka LLM ģenerētus tekstus nevar lietot jaunu LLM trenēšanai, viņi tad kolapsē. Miljons $ jautājums ir vai LLM ģenerētus tekstus u.c. saturu var lietot cilvēku trenēšanai. Kas būs tad kad infosfēra par 99.9% sastāvēs no MI ģenerēta satura? Un tā var notikt tāpēc ka MI tekstus ģenerē daudz ātrāk nekā cilvēks. OK es saprotu ka cilvēki un LLM trenējas dažādos veidos bet ķeza ir tajā ka mēs nezinam tieši kāpēc šis augastāk minētais kolapss notiek.

(Atbildēt uz šo) (Iepriekšējais)


[info]ctulhu
2026-09-21 15:58 (saite)
Tas ir es neesmu pret izpēti kā kontrolēt MI/ MSI sistēmas, tikai nostādne davai neko nedarīsim jo ja nu kas slikts notiks arī nav OK. Tas ir tas ko šķiet nesaprot Eiropas politiķi. OK pieņēma tur MI aktu kas paredz ierobežot sistēmu jaudu/ parametru skaitu/ treniņa datu apjomu, bet kāda jēga ja ASV un Ķīnā šāda ierobežojuma nav. Tas vnk novedīs pie Eiropas atpalicības, ja neapskatām Dune stila fantastisko scenāriju ka ASV un Ķīnu iznīcinās roboti bet Eiropa ar Judkovski izdzīvos :)

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 16:06 (saite)
vēl jo vairāk neredzu iemeslu sajūsmai.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 16:10 (saite)
Viss ir labs kas virza mūs uz priekšu, arī ja riskanti. Pilnīgi bez riska šķiet ir utopija.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 16:26 (saite)
Bet tas jau nav "mēs". Tas ir MI, kurš tiek virzīts uz priekšu, nevis "mēs".

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 16:38 (saite)
Nu vismaz pagaidām tas ir mūsu inastruments.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:02 (saite)
un tad, kad nebūs, tad viņam būs biolabs


kā jau iepriekš minēju, ģeniāla ideja, visi lauž krēslus sajūsmā

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:04 (saite)
Nu bet protams ka nepieciešama vairāku līmeņu neatkarīga kontrole, sk. kaut vai Kraitona Andromēdas celmu un direktīvu 7-12.

[tiesa gan Kraitonam arī tur ne viss gāja gludi :D]

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]honeybee
2026-09-21 17:20 (saite)
nu, kā minimums vajadzētu "ja nav kontroles, tad nav biolaba"

nevis jūsmot par otrādo variantu

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:23 (saite)
Zinot ka tieši Anthropic ir viens no uzmanīgākajiem LLM attīstītājiem var izteikt uzmanīgu pieņēmumu ka tur ir vismaz parastā bioloģisko pētījumu drošības tehnika + nav tā ka viņi pofigā vazājas apkārt ar eksperimentāliem preparātiem, šūnām, mikroogrganismiem.

(Atbildēt uz šo) (Iepriekšējais) (Diskusija)


[info]ctulhu
2026-09-21 17:26 (saite)
Pieņēmums par šamējo uzmanīgumu varētu būt no tā ka Amadejs pasūtīja nah pentagonu, t.i. atteicās modificēt savus LLM militārām vajadzībām.

(Atbildēt uz šo) (Iepriekšējais)


[info]ctulhu
2026-09-21 17:24 (saite)
[vot par ķīniešiem es nebūtu tik drošs]

(Atbildēt uz šo) (Iepriekšējais)

(Lasīt komentārus) -

Neesi iežurnalējies. Iežurnalēties?