| |
[5. Aug 2018|10:09] |
https://www.theguardian.com/commentisfree/2018/aug/05/magical-thinking-about-machine-learning-will-not-bring-artificial-intelligence-any-closer
Kad šādus rakstus raksta "professor of the public understanding of technology", kaut kas nav labi.
Piemēram, autors izvirza tēzi, ka "par AI sajūsminās vai uztraucas cilvēki, kas no tā neko nesaprot, bet eksperti ir mierīgi". Ironiski ir tas, ka jau NĀKOŠAJĀ PARAGRĀFĀ viņš piemin AI eksperta Andrew Ng citātu, ka "AI is the new electricity". Kopumā tēze nav ne jauna, ne patiesa (future of life institute, SSC). Patiesībā AI ekspertu aptaujā izrādījās, ka viņi ar piešķir daudz lielākas varbūtības "extremely good" un "extremely bad" iznākumiem nekā cilvēki bez dziļākām zināšanām par tēmu.
Cik var izlobīt, autora galvenā pamatotā tēze ir "ML ir slikta, jo mēs to nepietiekoši saprotam". Tik tālu es tai varētu ļoti piekrist. Nelaime ir tā, ka tas pateikts tā, ka gandrīz izklausās pēc "ML nestrādā, jo mēs to nepietiekoši saprotam". Kas ir skaidra aplamība jebkuram, kurš kaut nedaudz seko pasaulē notiekošajam. Tālāk viņš runā par "AI realitāti", kuru ML nesasniegs. Who cares? Viņa "AI realitāte" droši vien ir tikai iedomu produkts, kurš radies pateicoties neskaitāmām grāmatām un filmām ar gudriem robotiem un superdatoriem, nevis kaut kas zinātniski pamatots.
Neesot speciālistam tēmā, tālākais ir spekulācijas. Bet man liekas, ka Ali Rahimi (autora minētais cilvēks no NIPS) uztraucas par dažām tehniskām detaļām dziļajos neironu tīklos, nevis par ML vispār. Galu galā, pie ML ir moderni pieskaitīt metodes, kas statistikai bija labi zināmas jau pirms 100 gadiem. Lineārā regresija, anyone? Tā ka arī tas leņķis "mēs nepietiekoši saprotam ML" (tādā veidā, kā tas pasniegts rakstā) ir bulšits. Lielākā daļa ML rīku no zinātnes viedokļa ir saprasti ļoti labi.
Ja kāds bieži lasa viedokļrakstus par AI internetā, tad zina, ka šādos ierakstos šajā brīdī parasti seko "bet patiesībā mums būtu jāuztraucas par...".
Tad nu man liekas, ka mums patiesībā būtu jāuztraucas par cēlonības saprašanu ML pieņemtajos lēmumos un ieteikumos. ML mēģina risināt to pašu problēmu, ko zinātne - saskatīt sakarības datos. Lielākā daļa cilvēku jau zina, ka zinātne ir grūta. Korelācija nenozīmē kauzalitāti. Ir iespējamas daudzas statistiskās un interpretācijas kļūdas. Tad nu vajadzētu padomāt arī par to, ka ML nevar pilnībā mehāniski atrisināt visas šīs grūtības. Lēmums, pieņemts balstoties uz datiem, visticamāk ņems vērā tikai. Pie tam par zinātniski labi saprasto ML rīku pieņemtos lēmumus ir ļoti grūti interpretēt, sevišķi pie lieliem datu apjomiem. Piemēram, pat par relatīvi "saprotamiem" uzskatītie random forests praksē prasa šādus ELI5 rīkus: http://eli5.readthedocs.io/.
Pieņemsim, ka ML sistēma tiek izmantota politisku lēmumu pieņemšanai. Varbūt ierēdņi uztraucas, piemēram, ka kāda specifiska minoritāte valstī tiek diskriminēta un fiziski apdraudēta. Viņi jautā ML sistēmai "kāds ir labākais veids, kā šo minoritāti pasargāt no fiziskas vardarbības"? ML sistēma veic number crunching, ievēro, ka ieliekot cilvēkus augstas drošības cietumos tie kļūst mazāk apdraudēti, un paziņo: "vajag visu šo minoritāti apcietināt".
99% šādu ML sistēmu pieņemtie lēmumi nebūs ar tik acīmredzamām problēmām. Turpinot to pašu piemēru ar diskriminēto minoritāti - ML sistēma var pamanīt, ka ar problēmas nebūs, ja tā minoritāte valstī nedzīvos. Taču tādus ieteikumos kā "vajag viņus visus nogalināt vai izsūtīt" ierēdņi var viegli izkontrolēt un izfiltrēt. Tāpēc ML var būt viltīgāka. Pieņemsim, ka tā pati ML sistēma nosaka medicīniskās diagnozes un izraksta zāles (jo spēj to labāk nekā cilvēki). Cita starpā tā var it kā neuzkrītoši izrakstīt minoritātes pacientiem zāles, kas ietekmē reproduktīvo sistēmu. Ja minoritātei tāpēc dzimst par 50% mazāk bērnu nekā vajadzīgs populācijas uzturēšanai, dažu paaudžu laikā tās skaits samazināsies līdz nebūtiskam līmenim un problēma no ML viedokļa būs atrisināta. |
|
|
![[info]](http://klab.lv/img/userinfo.gif){kind=small}