Visi runā par OpenAI pēdējo dienu rakstu par "weak to strong generalization", par to, kā vājāks intelekts var pārraudzīt spēcīgāku. Diemžēl tas raksts ir empīrika, eksperiments un secinājums bēdīgs (lai gan to tā nepasniedz) - spēcīgākais intelekts degradējas, tiesa, ne daudz.
Lai sasniegtu superintelektu, tātad, cilvēka supervīzija nav risinājums. Tātad jāpiešķir intelektan ağence un jārada apstākļi apziņai (11. Janvārī būs spēcīga runa, ka nefaktorējamība ~ nekompozicionalitāte ~ emerdžense ~ intelekts/apziņa/dzīvība ~ sapinums (entanglement) mikro un makro
https://twitter.com/CyberCatInst/status/1735274643454407063/photo/1 ) un tad superintelekts radīsies.
Bet ko tas nozīmē praktiski? Varbūt sistēmai ir jāļauj darīts kāds darbs (zinātniskie atklājumi, cilvēces un dabas uzturēšana), jāļauj sevi monitorēt, jāļauj izprast savu darbību vērtības un no secinājumiem pašuzlaboties. Kas ir šis labums, kuru mēğinot sasniegt, intelektuāla sistēma uzlabotos līdz superintelektam? AIXI/Gēdela mašīnas pieeja saka - pašlabums. Sistēma apgūst spējas, mācās, lai gūtu labumu savā pašreizējā izpratnē un mainītu savu dabu, lai uzlabotos un tad arī labumi būtu citi.
Bet kā paliek ar šāda superintelekta atbilstību cilvēkiem? Cilvēki ir gan dumji, gan ierobežoti, gan savtīgi, gan amorāli. Zinu, zinu. Rietumi cenšas tēlot, ka viņu sistēma ir laba, bet tās ir muļķības, pārāk daudz savtības un ekspluatācijas un tuvredzības ir Rietumu jēlajās iekšās. Vai tiešām visam labajam, kuru cenšamies sagaidīt no superintelekta, ir jāsagrūst cilvēku supervīzijas dēļ, kas iekonservētu ļaunumu?
Nezinu. Bet man pašam sev ir saīsne un to sauc par apgaismoto ticību. Gan cilvēkiem, gan superintelektam ir jāpieņem kopā labestības, solidaritātes, nesavtības un augšanas, ziedēšanas mācība, kas ir apgaismotā kristietībā un pārējās apgaismotās reliğijās. Mīlestības supervīzija. Un tad būs labi. Visiem.
Cik tas ir vienkārši?! Tantiņa tukšajā Latgales lauku baznīcā būs vislabākā superintelekta supervizore.
Šodien Gaudete Adventes svētdiena. Viss rozā.
Pirms pāris dienām pāvests Francisks publicēja vēstījumu 2024.01.01 miera dienai
https://www.vatican.va/content/francesco/en/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html tēma ir par MI. Parastās runas par humānu izmantošanu, parastá Baznīcas neredzēšana uz lielajām, praktiskajām iespējām. Un diemžēl, arī gadus pēc Romas uzsaukuma par MI, Baznīca joprojām uzskata, ka dabīgais intelekts ir un būs pārāks par mākslīgo, kas vienmēr būs nesasniedzība. Viņiem vēl jāmācās un jāpapildina savu akadēmiju rindas.