juvenal (![[info]](http://klab.lv/img/userinfo.gif){kind=small} juvenal) rakstīja,@ 2023-05-06 16:05:00 |
 |
 |
 |
|
|
|
|
|
|
 |
|
 |
Šis ir brīdis, kas Latvijā woke kultūra ir atradusi tēmu, par ko tai nav galīgi nekādas sajēgas un tāpēc ir iegājusi aprobežotības un nezināšanas burbulī (eho-kamera vai sazin ktas tas ir).
Esmu sastapies, ka tādas personības kā Iveta Kažoka un Effective Altruism Latvija pastāvīgi reproducē populārus klipus, memes, frāzes par MI drošību un pārcilvēciska MI draudiem. Nekad, nekad viņi nav pat mēģinājuši paskatīties AIX un MI drošības literatūru vai padomāt par kādām metodēm, kā tad MI pārvaldīt vai kāds varētu būtu ētisko normu kopums, kuram MI vajadzētu pakļauties.
Cits skatījums ir no ASV Baltā nama puses:
WH ziņojums par Harris tikšanos ar Alphabet, OpenAI, Anthropic un Microsoft CEOs https://www.whitehouse.gov/briefing-roo
Tikšanās atreferējums, kurā ir arī paziņojums par MI papildus finansējuma pieškiršanu, 7 jauniem MI institūtiem un praktiskiem soļiem MI sistēmu testēšanai un jau gatavām platformām https://www.whitehouse.gov/ostp/news-up
ASV MI iniciatīva un WH offiss https://www.ai.gov/
Šie WH, GOV resursi ir labi tāpēc, ka tajos ir minētas jau esošās un gadiem izstrādātās ASV iniciatīvas MI drošībai un vadāmībai. Šobrīd nekas nesākas no jauna trauksmes režīmā, šobrīd ASV vadība turpina to, kas darīts jau gadiem. Un t.sk. DARPA jau vairākus gadus bija savi AGI projekti, tos gan saucas par 3rd generation AI.
Viss notiek, praktiski soļi, naudas pieškīrumi, sarunas. Politico ASV izdevumam nupat bija raksts arī par Kongresa iniciatīvām.
Ir tik jocīgi, ka pašmāju ļaudis nevis cenšas apgūt metodes, ieraudzīt biznesa iespējas MI audita biznesā un tās realizēt. Bet tā vietā šie ļaudis rezonē paši uz savām iedomām un aprobežotību. Kas gan lai izškir, cik daudz šajā visā ir emocijas un cik daudz ir savtīgas intereses atrast jaunu tēmu savai domnīcai vai labdarības organizācija, kas karsētu sabiedrību un ienestu ziedojumu naudu.
Efektīvais altruisms ir ļoti nejezīga kustība. Ta ir bagāto rajonu privātmājnieku sirdsapziņas nomierināšanas kustība. MI ir veids, kā paātrināti atrast lielo problēmu risinājumus, kā atrast risinājumus nabadzībai utml., bet tā vietā, lai meklētu racionālu MI kontroli un meklētu MI pielietojumus, t.sk. visakūtākos pielietojumus nabadzības novēršanai, tā vietā ir šis tracis. Laikam jau nedaudz pamatoti ir, jo tieši upper middle class ir tā, kuras darbus šoreiz MI apdraud visvairāk, ja paliekam esošās ekonomiskās sistēmas ietvaros.
Vai būs neiespējami sadzīvot ar intelektu, kas ir pārāks par cilvēku? Atbildot uz šo jautājumu nav jāsāk fantazēt. Ir jāpaskatās uz šodienu. Pirkārt - pat superintelekts turpinās domāt tajās valodās, kas ir mūsdienu matemātikas pamatā (atkarīgo tipu lambda rēkini vai 2-līmeņu kubiskie lambda rēkini) un par kuram nekādu izteiksmīgāku līdzekļu nav principā (Čomska valodu hierarhija). Uzskatāmāk to var redzēt speciālgadījumā ar Wolfram ruliadēm.
Nu labi, MI atklāj kādu ļoti sarežģītu matemātisku konceptu, kura attēlojums ruliāde vidē liekas briesmīgs. Bet to var precīzi izteikt ar formulām. Vai ir vajadzīga personīgā pieredz un emocionālā reakcija?
Varbūt. Bet to, ka cilvēkiem ir dažāda afektīvās pieredzes kultūra un prasmes, to jau mēs redzam tagad un esam redzējuši gadu simtos. Vienam priekš savas dzīves pietiek ar šlāgeri, ceļojošo ākstu izrādēm un popu vai roku. Citam ir vajadzīgas Palestrīna, Bahs un Šnitke. Vēl kādam ir vajadzīgs avangards un elektronika. Un pirmmie nesaprot pēdējos, bet vai tāpēc nedzīvojam vienā sabiedrībā? Vai tāpēc galinām viens otru nost? Pārcilvēcisks MI būs jauni apvāršņi.
Esmu sastapies, ka tādas personības kā Iveta Kažoka un Effective Altruism Latvija pastāvīgi reproducē populārus klipus, memes, frāzes par MI drošību un pārcilvēciska MI draudiem. Nekad, nekad viņi nav pat mēģinājuši paskatīties AIX un MI drošības literatūru vai padomāt par kādām metodēm, kā tad MI pārvaldīt vai kāds varētu būtu ētisko normu kopums, kuram MI vajadzētu pakļauties.
Cits skatījums ir no ASV Baltā nama puses:
WH ziņojums par Harris tikšanos ar Alphabet, OpenAI, Anthropic un Microsoft CEOs https://www.whitehouse.gov/briefing-roo
Tikšanās atreferējums, kurā ir arī paziņojums par MI papildus finansējuma pieškiršanu, 7 jauniem MI institūtiem un praktiskiem soļiem MI sistēmu testēšanai un jau gatavām platformām https://www.whitehouse.gov/ostp/news-up
ASV MI iniciatīva un WH offiss https://www.ai.gov/
Šie WH, GOV resursi ir labi tāpēc, ka tajos ir minētas jau esošās un gadiem izstrādātās ASV iniciatīvas MI drošībai un vadāmībai. Šobrīd nekas nesākas no jauna trauksmes režīmā, šobrīd ASV vadība turpina to, kas darīts jau gadiem. Un t.sk. DARPA jau vairākus gadus bija savi AGI projekti, tos gan saucas par 3rd generation AI.
Viss notiek, praktiski soļi, naudas pieškīrumi, sarunas. Politico ASV izdevumam nupat bija raksts arī par Kongresa iniciatīvām.
Ir tik jocīgi, ka pašmāju ļaudis nevis cenšas apgūt metodes, ieraudzīt biznesa iespējas MI audita biznesā un tās realizēt. Bet tā vietā šie ļaudis rezonē paši uz savām iedomām un aprobežotību. Kas gan lai izškir, cik daudz šajā visā ir emocijas un cik daudz ir savtīgas intereses atrast jaunu tēmu savai domnīcai vai labdarības organizācija, kas karsētu sabiedrību un ienestu ziedojumu naudu.
Efektīvais altruisms ir ļoti nejezīga kustība. Ta ir bagāto rajonu privātmājnieku sirdsapziņas nomierināšanas kustība. MI ir veids, kā paātrināti atrast lielo problēmu risinājumus, kā atrast risinājumus nabadzībai utml., bet tā vietā, lai meklētu racionālu MI kontroli un meklētu MI pielietojumus, t.sk. visakūtākos pielietojumus nabadzības novēršanai, tā vietā ir šis tracis. Laikam jau nedaudz pamatoti ir, jo tieši upper middle class ir tā, kuras darbus šoreiz MI apdraud visvairāk, ja paliekam esošās ekonomiskās sistēmas ietvaros.
Vai būs neiespējami sadzīvot ar intelektu, kas ir pārāks par cilvēku? Atbildot uz šo jautājumu nav jāsāk fantazēt. Ir jāpaskatās uz šodienu. Pirkārt - pat superintelekts turpinās domāt tajās valodās, kas ir mūsdienu matemātikas pamatā (atkarīgo tipu lambda rēkini vai 2-līmeņu kubiskie lambda rēkini) un par kuram nekādu izteiksmīgāku līdzekļu nav principā (Čomska valodu hierarhija). Uzskatāmāk to var redzēt speciālgadījumā ar Wolfram ruliadēm.
Nu labi, MI atklāj kādu ļoti sarežģītu matemātisku konceptu, kura attēlojums ruliāde vidē liekas briesmīgs. Bet to var precīzi izteikt ar formulām. Vai ir vajadzīga personīgā pieredz un emocionālā reakcija?
Varbūt. Bet to, ka cilvēkiem ir dažāda afektīvās pieredzes kultūra un prasmes, to jau mēs redzam tagad un esam redzējuši gadu simtos. Vienam priekš savas dzīves pietiek ar šlāgeri, ceļojošo ākstu izrādēm un popu vai roku. Citam ir vajadzīgas Palestrīna, Bahs un Šnitke. Vēl kādam ir vajadzīgs avangards un elektronika. Un pirmmie nesaprot pēdējos, bet vai tāpēc nedzīvojam vienā sabiedrībā? Vai tāpēc galinām viens otru nost? Pārcilvēcisks MI būs jauni apvāršņi.
