| |
[15. Maijs 2016|14:51] |
Piezīmes no LF singularitātes eventa
Slaidi: https://drive.google.com/file/d/0BwK0OPe_m9QNNE43ZlNFYTdIQzQ/view
* daudz profesoru un cilvēku gados, mazāk jauniešu, nekā biju sagaidījis
* singularitāte ir divu veidu: AI un IA (intelligence augmentation). Vienkāršojot, pirmā ir slikta, otrā laba. Debate masu mēdijos sanāk dranķīga daļēji tieši tāpēc, ka AI jauc ar IA.
* AI eksperti šobrīd neuzskata AI rašanās iespējamību par "bulšitu". Eksperti ar 50% pārliecību tic AI rašanās varbūtībai līdz 2050. gadam un ar 80% pārliecību līdz 2100. gadam.
* piemēri uz filmām: ir draņķīgas fantāziju filmas (Terminators, Star Wars), ir labas tādas, kuras ilustrē vismaz vienu reālu ideju (HAL no Space Odyssey, Transcendence, Ex machina, Gattaca).
* killer robots attīstību vajadzētu aizliegt. Lasīšana par killer drone swarms rada murgus naktīs. Tas viss gan man liekas ortogonāli singularitātei.
* situācija ir līdzīga riskiem ar kodolieročiem un gēnu inženieriju. https://en.wikipedia.org/wiki/Asilomar_Conference_on_Recombinant_DNA parāda, ka regulāciju vislabāk veikt, kamēr to iespējams darīt akadēmisko zinātnieku vidū, neiesaistot industriālos zinātniekus un uzņēmējus (šķiet, ar AI jau sen par vēlu).
* komunikācija ar mēdijiem ir draņķīga. Mēdijiem interesē runāt par mēmēm, nevis hipotēzēm. Vai tur ir vainīga objektīva žurnālistu neizpratne par tēmu, vai arī žurnālistu vajadzība uzrakstīto pasniegt tā, lai to būtu vieglāk "pārdot"? (Atsauca atmiņā SSC improvizāciju par tēmu)
* pat ja mēdijos raksta paši zinātnieki, viņi bieži vien raksta bulšitu.
* ir daudz piemēru AI attīstībai pēdējo 3 gadu laikā. (Bet IA attīstības piemēri netika nosaukti.)
Filma "Avatāra" (kura vispār paneļdiskusijā netika pieminēta) varētu būt labs piemērs dažiem IA aspektiem - gan iespēja saslēgties bio-interfeisi ar lielāko daļu dzīvās dabu, gan tā situācija, kurā pat īsti nomirt nav iespējams, jo pēc nāves daļa no tevis tiek augšupielādēta kolektīvajā bezapziņā.
IA progresa max ātrums noteikti ir daudz lēnāks nekā AI progresa max ātrums, jo IA ierobežo sociālo un bioloģiskie izmaiņu ātrums (likumdošana un dzimstība). Tomēr man liekas, IA ir līdzīgi lielas iespējas novest pie pasaules, kurā cilvēku vērtības būs iznīcinātas vai degradētas līdz mums neapzināmam līmenim.
Man ir arguments pret singularitāti no algoritmu sarežģītības teorijas, par kuru gribētu saņemt viedokli kādā tehniskākā diskusijā.
(1) Daudzas reālās pasaules problēmas ir algoritmiski sarežģītas.
(2) Algoritmiski sarežģītas problēmas nav iespējams efektīvi atrisināt uz lieliem ievaddatiem objektīvu fizikas likumu dēļ.
(3) Algoritmiski sarežģītām problēmām iespēja apskatīt miljards vai triljons reižu vairāk risinājumu variantu nozīmē iespēju atrisināt tikai uz dažas reizes lielākiem ievaddatiem (logaritms no miljarda vai triljona).
(4) Iespēja atrisināt problēmu tikai uz dažas reizes lielākiem ievaddatiem nenozīmē iespēju atrisināt problēmu kvalitatīvi labāk.
(5) Superdators ar AI nevar būt kvalitatīvi labāks par cilvēku (vai cilvēka + datora kombināciju) daudzu reālās pasaules problēmu atrisināšanā.
Kopumā diskusija ir nevis par to, vai singularitāte iestāsies (iespējams), bet par to, ko tā nozīmē un potenciālajām sekām. Var kā es uzskatīt singularitāti par mazticamu, bet svarīgu. |
|
|
| Comments: |
Par šo es labprāt ar Tevi kādā brīdī padebatētu, t.sk. tehniskākā līmenī – te ir vairāki punkti, kuriem es nepiekrītu un vairāki, kuriem tehniski piekrītu, bet vērtēju, šķiet, stipri citādi. Let me know if this interests you.
Kaut kad online? Varbūt pēc pāris nedēļām, jo tagad strādāju zināmā deadline režīmā. Vai arī vasarā (jūlijā) klātienā.
Man der gan viens, gan otrs. Pamet uz manu pusi ziņu, ja/kad esi pieejams online; ja nesanāk, tad katrā ziņā jūlijā būšu uz vietas LV.
| |
![[info]](http://klab.lv/img/userinfo.gif){kind=small}