Grūti saprast kā varētu atšķirt mašīnintelekta un cilvēka ģenerētu tekstu, kas vispār būtu uzdodamie jautājumi . Jo nu piemēram ir kāda objekta apraksts. Mēs varam jautāt vai apraksts ir korekts [atbilst objektam] un mēs varam jautāt vai teksts ir korekts, nu tb draudzējas ar gramatiku. Ko vēl? Nu labi cilvēkiem var būt ir kādas kopīgas iezīmes piemēram objektu kaķis sāks aprakstīt nevis no genoma sekvences vai proteomas bet no ārējā izskata, mašīna ja nav norādīts kā sākt var jebkā.

(Reply to this) (Thread)

cilvēkam ir sajūtās balstīta atmiņa jeb tas, ko saucam par pieredzi

(Reply to this) (Parent) (Thread)

Ja mašīnai pieliek sensorus un viņa var vākt datus - sanāk apmēram tas pats

(Reply to this) (Parent)

Var mēģināt noteikt, vai šis teksts atbilst tam, ko ģenerētu kāds konkrēts modelis, t.i. pie katra vārda paskatīties kādas varbūtības tas piedāvā katram potenciālajam turpinājumam un salīdzināt ar to; ir pāris risinājumi, kas to dara tieši chatgpt.

Bet nu tas nav nedz garantija, nedz universāli, jo īsti nestrādā, tiklīdz ir pieejami daudzi dažādi modeļi un/vai ir populāra modeļu pielāgošana.

(Reply to this) (Parent)

Neirālo tīklu ģenerētu bilžu atšķiršanai ir metodes (pamatā implementētas kā vēl citi neirālie tīkli), teksta gadījumā es teiktu, ka atšķirt var tikai tad, ja perceptrons pieļauj kļūdas teksta ģenerēšanā veidos, kādus analfabēti parasti nepieļauj (bet kādas uz šo brīdi jau ir ļoti retas, vismaz pie lielajiem modeļiem)

Prognozes? Attēlu, skaņu, video būs iespējams modificēt un ģenerēt pēc pieprasījuma, informācijas patiesuma noskaidrošana arvien vairāk sāks atgādināt kriminālistiku ar specializētiem rīkiem, metodēm un vajadzību apgūt veselu rindu nozaru tās profesionālai darīšanai

(Reply to this) (Thread)

Tātad principā vajadzības gadījumā analizējot nekriptētu datu apmaiņu/ tekstus mašīnas varēs noskaidrot kur vēl slēpjas cilvēki?

(Reply to this) (Parent) (Thread)

Jā, pēc tā, ka tikai cilvēki vēl lieto nekriptētu datu apmaiņu :D

(Reply to this) (Parent)

pretty sure, ka "neirālo tīklu ģenerēts attēls, kuru neirālie tīkli nevar atpazīt kā neirālo tīklu ģenerētu attēlu" ir in the pipelines right now

(Reply to this) (Parent) (Thread)

Ļoti iespējams

Situāciju nedaudz uzlabo tas, ka vismaz pagaidām neizskatās, ka te būtu universāls risinājums (viena ģenerēšanas metode, kas vienlīdz labi der visu detektēšanas metožu apiešanai), bet 1) jau šobrīd šāda detektēšana nav triviāls uzdevums, 2) pavisam nav izslēgts, ka arī universālas (vai vismaz "pietiekami universālas") metodes ir tikai laika jautājums

(Reply to this) (Parent)

protams, bail, ka pārbaudāma patiesība vienkārši izzudīs pilnībā.

man šķiet, ka uzticami ziņu portāli varētu sākt ieviest kaut kādu verifikācijas atslēgu, kas apliecina, ka raksts, ko tu lasi un pievienotā fotogrāfija ir īsti, nevis viss portāls ir uzģenerēts fake news.
man tāds prieks, ka šobrīd, piemēram, ir fotogrāfi, kuri brauc fotografēt karus ar filmiņu aparātiem, jā 21. gadsimtā, jo tas laikam būs vienīgais uzticamais dokuments, uz ko lūkoties arī pēc kādiem 100 gadiem - analogs negatīvs.

(Reply to this) (Thread)

ieviestu verifikācijas atslēgu, kuru ģenerē un pārbauda AI? :)

(Reply to this) (Parent) (Thread)

mjā, visur tas AI priekšā... grūti laiki.

(Reply to this) (Parent)

uzdevu šo jautājumu par iespējamajiem risinājumiem Chat GPT :D šis tur kaut ko atmuļļājās gan.

(Reply to this) (Parent)

Filmiņas negatīvi īsti nerisina, uzprojicējam uz laba ekrāna augstas izšķirtspējas feiku attēlu un nofotografējam.

Verifikācijas atslēga savukārt var garantēt to un tikai to, ka portāls "parakstās" zem attēla un apgalvo, ka tas esot īss, bet tas tomēr nedod nekādu iespēju pārbaudīt to, vai portāls nemelo un tīši neparaksta visādu saģenerētu fake news; vai arī kāds nav apmānījis viņus un iesmērējis portālam viltojumu.

Jā, reputācija un uzticētība/neuzticība konkrētiem avotiem ir potenciāls risinājums; taču ir papilnam cilvēku kas vairāk uzticas sociālajiem medijiem nevis 'establišmentam', un pat ja visi respektablie avoti cītīgi lietos verifikācijas atslēgas, tas netraucēs kādam pietiekami sulīgam video masveidā virāli 'aiziet tautās' arī bez tādām.

(Reply to this) (Parent) (Thread)

jā, kaut kā biju aizmirsis par šo iespēju mūsdienās. nu bezmaz vai tur tās filmiņas jāķer ārā pa taisno no bīstamās zonas, un kaut kādā kodētā seifā jāved attīstīt, un tad jānodrošina, ka neko nečakarē ar patiesību, pēc tam skenē... visa realitātes uztvere kā tāda varētu kļūt par baigo čakaru. meta-hujeta-verss.

(Reply to this) (Parent)

Šis jautājums ir interesants kaut vai vien telefonu klaviatūru gudrajos ieteikumos un labojumos. Piemēram, vai your/you're jaukšana komentāru slejās nav šī klaviatūru "AI" ja ne radīta, tad krietni pastiprināta? Bieži vien nākas redzēt stublas rakstības kļūdas, kur acīmredzami iejaucies labotājs.

Nedomāju, ka meklētāj-AI acīs šīs rakstības kļūdas kaut ko izteiks, jo jau tagad vari uzdot kļūdainu jautājumu GPT un tas atbildēs pareizi par to, ko tu domāji, nevis nejauši uzrakstīji.

Tas pats, ja tu, piemēram, uzdod AI saskaitīt logu skaitu uz prāmja, ko tu uzņēmi ar puper smārtfona 100x zoomu, kur attēlu uzlaboja AI. Skaitošais AI nesūdzēsies par otra piefantazētām detaļām, vienkārši skaitīs. Cik tas skaits precīzi atbildīs realitātei ir ikviena minējums, jo fantazētājs var būt pielicis vienu ekstra logu, jo tādam, viņaprāt (viņatreniņ?), jāizskatās kuģim pie apvāršņa. Bet ko darīt, ja skaitošais AI atbild tev pareizi, lai arī iedevi dakterētu bildi? Viņa atbilde būs acīmredzmi nepareiza, bet īstenībā pareiza, jo viņš redz piefantazēto logu, bet tu nē. Interesanta realitāte paveras.

Fantazētāj-AI centīsies izlīdzināt informāciju līdz trenētam kanonam, savukārt meklētāj-AI būs trenēts uz to neiekrist.

Un tad būs tā - tēt, re kur es uzzīmēju prezidenta pili, cik prezidenta pilij ir logu? Dēls, 758 logi. Tēt, bet es tikai trīs uzzīmēju, ar tevi viss kārtībā? Jā dēls, es esmu bijis pie prezidenta pils, esmu pozitīvs, ka logu skaits ir 758. Māām, nes šauteni, man liekas ka tētis ir bots. Dēls, tas bija tikai joks, man šķita, ka būs ļoti smieklīgi atbildēt ar reālo logu skaitu *bīīp būūp bīīp*.

Kā atšķirt? Domāju, ka nevarēs atšķirt. Un nevajadzēs. Izejot no sekojošā: ja tavas sinapses nokopētu silikonā un kopijai liktu veikt šo ierakstu cibā, vai man ir būtiski atšķirt, kas to veica? Nē. Es esmu mierā ar to, ka varbūt tu neesi tu. Varbūt tāpēc mana dzīve ir vairāk falša, bet tur tad mēs aizejam dzīves jēgā kā tādā u.tml.

(Reply to this) (Thread)

gribēju atbildēt, uzkāros uz "silikonā" xD

(Reply to this) (Parent) (Thread)

A little language goes a long way

(Reply to this) (Parent)

/ja tavas sinapses nokopētu silikonā un kopijai liktu veikt šo ierakstu cibā, vai man ir būtiski atšķirt, kas to veica?/

Tad tas vnk būtu tu, ja precīzi nokopētu.

(Reply to this) (Parent) (Thread)

Nu jā, bet kas ir dvēsele? :D

(Reply to this) (Parent) (Thread)

Nezinu , man tādas huiņas nav, ej prasi mapatam šamajam iekšā dzīvojot spoks:

http://klab.lv/users/mapats/621687.html

(Reply to this) (Parent) (Thread)

Tev ir atmiņa kā robotam. Māām, nes šauteni.

(Reply to this) (Parent)

Bijušais *tu*, jo abi dažādas ārējās vides un varbūt dzīvības procesa nejaušību ietekmē jau ir paspējuši mainīties.

(Reply to this) (Parent) (Thread)

Nu jā tas saucas forks, kopēšanās momentā identiski, tad sāk atšķirties.

(Reply to this) (Parent)