Man nav bažu par to, ka AI varētu sasniegt cilvēka līmeni un kļūt par draudu cilvēkiem. Vismaz vēl manas dzīves laikā noteikti ne. Vēl jo vairāk tāpēc, ka par AI mūsdienās sauc praktiski jebkurus datoralgoritmus vai dumjas IT sistēmas.

Es daudz vairāk bažījos par to, ka dažādi idioti var noticēt mārketingam un ieviest nepārbaudītas AI sistēmas kritiskos vai globālos procesos. Tas gan varētu novest pie sabiedrības bojāejas, piemēram, ja banku sistēmu iznīcinātu negaidīta sistēmas kļūme. Vai arī šīs “gudrās” sistēmas lēmumpieņēmējiem pavēstīs, kad tev ir jāārstējas vai jāpārtrauc lietot zāles, vai kad tev jāsēž cietumā un kad tevi vajag izlaist no cietuma utt.

Šāda fiasko sekas labi parādās nesenajās Boeing 737 MAX avārijās. Īsumā, esošā 737 sērija tika uzlabota ar citādu dzinēja novietojumu, kas mainīja lidmašīnas aerodinamiskās īpašības. Lai nebūtu jāveic papildu pilotu apmācība, tika nolemts šīs izmaiņas kompensēt ar programmatūru. Un kas gan šeit varētu noiet greizi? IT ir uzticamāks nekā cilvēks, kur vajadzīga ātra un precīza darbība, vai ne? Varbūt vajag vēl kādu drošības sensoru? Nu diezvai. Ja kādam ļoti gribas, tad par papildu maksu Boeings varēja pārdot iespēju, salīdzināt rādījumus ar otru sensoru.

Taču neatkarīgi inženieri jau iepriekš saskatīja šos riskus, un ASV aviācijas drošības regulators FAA jau bija uzsācis izmeklēšanu. Diemžēl programma īsti nestrādāja kā iecerēts, un pēc tam kad jau bija nokritušas divas lidmašīnas, cilvēki citās valstīs sāka satraukties un aizliedza lidojumus ar šīm lidmašīnām. Un pat tad Boeing lēmumpieņēmēji nebija pārliecināti un solīja, ka viss ir kārtībā, līdz FAA padevās citu valstu spiedienam un arī aizliedza šo lidmašīnu izmantošanu ASV, kamēr bīstamā sistēma netiks izlabota.

Saprotams, ka naudas dēļ pat velns danco, un tomēr nav saprotams, kāpēc Boeing neatzina šos riskus pat tad, kad tie jau bija izpaudušies realitātē un radījuši milzu zaudējumus. Iespējams, ka cilvēkiem ir dabiska ticība maģijai, un šī ticība nav apstrīdama. Agrāk varēja ticēt dažādām pārdabiskām parādībām – gariem vai dievībām. Bet kad tas racionālisma laikmetā tika atņemts, to pamazām aizstāj uzticēšanās AI nekļūdīgumam.