Sigh.

(Reply to this) (Thread)

Nemaz nerunājot par to, ka visu triju pieminēto darbu saturs izriet no premisas par dievu vai dabas noteiktiem limitiem cilvēka darbam un progresam, un par to pārsniegšanu kā "hubris", kā kaut ko [no]sodāmu (vai nu no "augšienes", vai vismaz no pāķu bara ar lāpām un dakšām). Man nav iebildumu pret tiem kā literāriem darbiem, bet tas arī ir viss.

(Reply to this) (Parent) (Thread)

Tu maldies, tādā ziņā, ka prof. Preobraženskis esot balstīts uz reāliem prototipiem (wiki ir norāde uz http://en.wikipedia.org/wiki/Serge_Voronoff), tāpat ir dzirdētas versijas par Pavlovu (kurš mēdza piešūt suņiem divas galvas). No savas puses vēl varu piemest komunistu, sci-fi autoru un ķirurgu http://en.wikipedia.org/wiki/Alexander_Bogdanov (miris, eksperimentējot uz sevi). Jautra kompānija, un vai tik atšķirīga no hubristiskajiem AI pētniekiem?
Šarikova prototips (mūsdienu analogs) pagaidām neeksistē, par to jau neviens nestrīdas.

(Reply to this) (Parent) (Thread)

Tā ir kompānija, kurai vienkārši neizdevās sasniegt iecerēto - gan tālaika zināšanu, gan tehnisko iespēju trūkuma dēļ (jāteic gan, ka, pa apkārtceļu un ne gluži to iemeslu dēļ, kā tolaik domāja, bet Bogdanova tēzei par organisma atjaunošanu ar asiņu transfūzijas palīdzību varētu būt zināms pamats). Ne īpaši trakāki par Ciolkovski un Canderu tajā pašā vēstures posmā un citā jomā.

Kas attiecas uz hubris, tad argumentus no tā es to noraidu kā kategoriju. Var būt riski, sarežģījumi, nelabvēlīga cost/benefit attiecība, bet nav "transgresiju", nav "pārkāpumu" nedz pret iedomātu dievišķo, nedz pret mazāk iedomātu dabisko.

(Reply to this) (Parent) (Thread)

Dabas likumi nekur nepazud arī tad, ja tos mēģina ignorēt. Gravitācija eksistē neatkarīgi no mūsu viedokļa par to.

(Reply to this) (Parent) (Thread)

Protams. Tādēļ jau mērķis ir pēc iespējas plaši un vispusīgi izmantot to iespēju telpu, kuras robežas definē tādi fizikas likumi, kā gravitācija.

(Reply to this) (Parent)

Šajā ierakstā iet runa par citu tēmu.

(Reply to this) (Parent)

Relevants links:
http://www.cnet.com/news/elon-musk-we-are-summoning-the-demon-with-artificial-intelligence/

for those of us that believe in God but love science know this problem has already happened via Satan...a powerful created being but sought to replace his maker.

The story of Satan's fall is a good allegory for the possibility inherent in AI.

(Reply to this) (Thread)

For those of us that don't believe in nonsense and love science, books like Bostrom's Superintelligence is both a precaution and a tremendous encouragement. Intelligence is acceleration, is escape.

Pie tam, ja vien Elons nav piepeši un neklātienē "uzkāries", tad viņš šeit nevis nāk klajā ar saviem uzskatiem (sk. "Do I think that there's some sort of master intelligence architecting all of this stuff? I think probably not because then you have to say: 'Where does the master intelligence come from?' So it sort of begs the question. So I think really you can explain this with the fundamental laws of physics. You know it's complex phenomenon from simple elements."), bet ļoti, ļoti neveikli artikulē ideju par to, ka superinteliģents AI ir potenciāls eksistenciālā riska faktors, kam es piekrītu kā premisai (cf. http://intelligence.org/2013/05/05/five-theses-two-lemmas-and-a-couple-of-strategic-implications), bet ne kā imperatīvam atkāpties.

(Reply to this) (Parent)

Mans favorīts šajā sakarā ir Kreiga Ventera atbilde kādā video (man šķiet, ka tas bija no Q&A daļas vienā no TED Talks, bet šobrīd neesmu pārliecināts) uz jautājumu no zāles par "what do you think about the idea that you're playing god".

"Oh, we're not playing."

(Reply to this) (Parent)

Šarikovs ir drīzāk namjoks uz to, ka, kas dzimis rāpot, nekad nestaigās, da i vispār, centrālā tēma tur imo ir nevis sci-fi komponente, bet alegorijas par kreiso politiku Krievijā.
Nekāds AI nekad nesasniegs pat suņa līmeni. Risināt uzdevumus pēc a prioriem algoritmiem šaurā funkcijas apgabalā ir viss, kas dots mašīnai.

(Reply to this) (Thread)

Well, ko varu sacīt - pie strikta "risināt uzdevumus pēc a prioriem algoritmiem šaurā funkcijas apgabalā ir viss, kas dots mašīnai" pieņēmuma Tevi vismaz gaida pārsteigumiem ļoti bagāta nākotne. Dzīve interesantos laikos, pārfrāzējot viltoto ķīniešu sakāmvārdu.

Par Šarikovu piekrītu.

(Reply to this) (Parent)

Redzams, ka tavā maģisko spēju lokā ietilst arī prasme pareģot nākotni. :) Ņemot vērā cik slikti tas padodas pat daudzu sfēru profesionāļiem, atļaušos būt skeptisks pret šo prognozi.

(Reply to this) (Parent)

Viens no argumentiem ir no smadzeņu emulācijas. 'Mēs esam bioloğiskas mašīnas', 'nav teorētisku šķēršļu emulācijai' -> mašīnintelektu var radīt, emulējot tās.
Cits no evolūcijas:evolūcija radīja intelektu, mēs varam atkārtot evolūcijas rezultātus simulējot to datorā.
Kopumā šādi apsvērumi paceļ varbūtību līdz neignorējamam līmenim. Dzirdot sirēnu, nevajag prātot par to, cik maza varbūtība ir tam, ka tā nav mācību trauksme. Tādos gadījumos pareizā rīcība ir evakuēties.

(Reply to this) (Parent)