making sense - [ieraksti | vēsture | ko es lasu | par mani]
gedymin

[   par mani   ]
[   arhīvs   ]

[30. Jul 2020|11:01]
Previous Entry Add to Memories Tell A Friend Next Entry
Mani apbrīnojamas liekas uzskats, ka AI un cilvēki tāpat vien draudzīgi dzīvos kopā uz vienas planētas. Kā tad, mēs ienīstam cilvēkus, ar kuriem mums patiesībā viss ir 99% kopīgs, tāpēc, ka vieni balsoja par Trampu, citi grib ieviest komunismu, bet citi reizēm brauc ar velo pa ielas vidu. Bet ar AI, kurš iespējamo prātu kopā atrodas kaut kur ļoti tālu no cilvēku prātu klastera, mēs sapratīsimies lieliski.
saiteatstāt nospiedumu

Comments:
[User Picture]
From:[info]az
Date:30. Jūlijs 2020 - 13:06
(Link)
un kā tev šķiet, kā būtu? mēs un ai.
[User Picture]
From:[info]gedymin
Date:30. Jūlijs 2020 - 22:09
(Link)
Ja gribam labāk saprast problēmu, mums iesākumā jāaizmirst par to, ko esam redzējuši TV un kino.

Visumā ir tā, ka es/mēs nevaram pateikt, kā būs, tāpēc par pārak daudz prātot nav īsti jēdzīgi. Vajag tā vietā apzināties, ka var būt arī slikti un ļoti slikti iznākumi, un ka ir lauks jau sākt risināt problēmas ar AI drošību. Vai drīzāk jau nestāvēt ceļā un dot finansējumu cilvēkiem, kuri to var darīt.
[User Picture]
From:[info]mindbound
Date:30. Jūlijs 2020 - 22:20
(Link)
Pievienojos šim.
[User Picture]
From:[info]ctulhu
Date:30. Jūlijs 2020 - 23:40
(Link)
Meiko sensu
[User Picture]
From:[info]gnidrologs
Date:30. Jūlijs 2020 - 22:41
(Link)
Vai AI drošības jautājumi kaut kā principiāli atšķiras no, piemēram, iekšdedzes motora drošības jautājumiem?
[User Picture]
From:[info]mindbound
Date:30. Jūlijs 2020 - 22:54
(Link)
Potenciāli jā. Piem., AI var būt savas dziņas, kas var nesakrist ar mūsu mērķiem, bet kuru īstenošana prasa to pašu lēbensraumu un resursus, ko lietojam mēs.

Konkrētu veidu AI sistēmām daļa no šīm dziņām ir pierādīta, līdz ar to ir zināms pamats domāt, ka arī pilnā Omohundro hipotēze varētu nebūt gluži izzīsta no pirksta.
[User Picture]
From:[info]gnidrologs
Date:30. Jūlijs 2020 - 23:24
(Link)
Tas vnk nozīmē, ka AI nevar likt par 'operētājsistēmu' ne iekš kā, kas var apdraudēt cilvēku. Piemēram vilcienu dispecēšana utml. Tikai kā palīgs hard coded dispečerprogrammu dizainā.
[User Picture]
From:[info]mindbound
Date:30. Jūlijs 2020 - 23:33
(Link)
Tajā skaitā, protams, vismaz līdz brīdim, kad ir tikusi izstrādāta, skrupulozi pārbaudīta un ieviesta AI "draudzīguma" (šeit tas ir tehniskā žargona jēdziens, kas īsumā nozīmē aptuveni "tādu AI, kas ar savu rīcību mums nekaitē ne aktīvi, ne pasīvi") metodoloģija, kas ir viena no šīs jomas karstajām tēmām jau ne pirmo gadu.
[User Picture]
From:[info]extranjero
Date:1. Augusts 2020 - 14:40
(Link)
AI ir vienkārši bubulis. Tāds nav uztaisīts un nav arī zināms, kad un vai vispār tiks uztaisīts. Ja tev likās, ka panikas cēlāji par klimata izmaiņām ir nedaudz apsēsti ar bailēm par nākotni, tad AI panikotāji ir tādi kvadrātā. Mājiens jau ir skaidrs, kāpēc viņi tā dara – dodiet mums naudu un mēs zināsim, ko ar to darīt. Ar bitkoinu tā lieta ir izgāzusies, tāpēc jāmēģina citi skamīgi veidi.