Vai AI drošības jautājumi kaut kā principiāli atšķiras no, piemēram, iekšdedzes motora drošības jautājumiem?

(Reply to this) (Thread)

Potenciāli jā. Piem., AI var būt savas dziņas, kas var nesakrist ar mūsu mērķiem, bet kuru īstenošana prasa to pašu lēbensraumu un resursus, ko lietojam mēs.

Konkrētu veidu AI sistēmām daļa no šīm dziņām ir pierādīta, līdz ar to ir zināms pamats domāt, ka arī pilnā Omohundro hipotēze varētu nebūt gluži izzīsta no pirksta.

(Reply to this) (Parent) (Thread)

Tas vnk nozīmē, ka AI nevar likt par 'operētājsistēmu' ne iekš kā, kas var apdraudēt cilvēku. Piemēram vilcienu dispecēšana utml. Tikai kā palīgs hard coded dispečerprogrammu dizainā.

(Reply to this) (Parent) (Thread)

Tajā skaitā, protams, vismaz līdz brīdim, kad ir tikusi izstrādāta, skrupulozi pārbaudīta un ieviesta AI "draudzīguma" (šeit tas ir tehniskā žargona jēdziens, kas īsumā nozīmē aptuveni "tādu AI, kas ar savu rīcību mums nekaitē ne aktīvi, ne pasīvi") metodoloģija, kas ir viena no šīs jomas karstajām tēmām jau ne pirmo gadu.

(Reply to this) (Parent)

AI ir vienkārši bubulis. Tāds nav uztaisīts un nav arī zināms, kad un vai vispār tiks uztaisīts. Ja tev likās, ka panikas cēlāji par klimata izmaiņām ir nedaudz apsēsti ar bailēm par nākotni, tad AI panikotāji ir tādi kvadrātā. Mājiens jau ir skaidrs, kāpēc viņi tā dara – dodiet mums naudu un mēs zināsim, ko ar to darīt. Ar bitkoinu tā lieta ir izgāzusies, tāpēc jāmēģina citi skamīgi veidi.

(Reply to this) (Parent)