Nākotnes sabiedrību apdraud AI riski
Es jau zināju par šiem gadījumiem, kad kases sistēmas programmatūras kļūdu dēļ daži pasta nodaļas darbinieki tika nepatiesi notiesāti it kā par naudas piesavināšanos. Pārsteidzošs ir tas, ka šādu gadījumu bija simtiem un daudzi pat reāli sēdēja cietumā.

Es joprojām neuzskatu to par AI radītiem riskiem, bet riskiem, kurus sev rada paši cilvēki. Kā tas var būt, ka tiesās simtiem cilvēku apgalvo, ka nav naudu ņēmuši, un tur ir jābūt programmatūras kļūdai, bet neviens tiesnesis tam netic un neliek kārtīgi izmeklēt šīs datorsistēmas darbību?

Es arī nedomāju, ka var šajā vainot uzņēmuma vadītājus, jo diez vai viņiem bija kāda nepatika pret šiem simtiem darbinieku. Vēl jo vairāk, viņiem tagad ir jāmaksā lielas kompensācijas, kas rada tikai vēl lielākus zaudējumus. Viņi vienkārši ticēja, ka datorsistēmas nekļūdās, bet darbinieki melo.

Kas gan notiks nākotnē, kad AI pieņems lēmumus, kuru pareizību mēs pat principā nevarēsim pārbaudīt?