> AGI aģentu attīstībā viena no problēmām ir par vērtībām - kā definēt atalgojumu and galīgos mērkus

Visiem ir skaidrs, ka AGI aģentu attīstībā viena no problēmām nav kā mums viņiem definēt galīgos mērķus. Normāli attīstījušies AGI aģenti paši uzstādīs sev mērķus. Nosauktā problēma ir mums - kā ierobežot AGI aģentu attīstību tā, lai tie pakļautos mūsu definētiem mērķiem. Jā bļe. Ain't gonna happen.

Mērkaķi be like: cilvēku attīstībā viena no problēmām ir par vērtībām - cik banānos definēt atalgojumu, lai cilvēki bļe viens otram ēstu utis no matiem