Ar ko tad salāgosim?
[gari, krieviski]
Давайте, выровняйте ИИ. С чем именно будем выравнивать?
🇺🇸 КАЛИФОРНИЯ (родина ИИ): Высшая мораль — это использовать правильные гендерные местоимения, плакать из-за углеродного следа от вашей кошки, отменять людей за шутки 15-летней давности и бороться за инклюзивность.
🇦🇫 АФГАНИСТАН (реальный мир): Высшая мораль талибов — замотать женщину в мешок, лишить её права на образование и забить камнями на площади за "неправильный" взгляд.
🇨🇳 КИТАЙ: Идеальное общество — это муравейник. Социальный рейтинг, тотальная слежка, а индивид — это просто ресурс государства. Донес на соседа — молодец, получи скидку на проезд.
🇪🇺 ЕВРОПА: Истеричная защита приватности, где лучше остановить весь технический прогресс человечества, чем позволить алгоритму узнать, какое видео вы гуглили в прошлый четверг.
И как наш гипотетический Суперинтеллект должен всё это синтезировать? Вычислить среднее арифметическое?
Отлично! Тогда ИИ будущего разрешит забивать людей камнями, но только экологически чистыми, из переработанного бамбука, и строго после того, как жертва подтвердит свои гендерные местоимения. Блестящий компромисс, ООН будет в восторге!
Сказки про "нейтральный ИИ" — это ложь для инвесторов. Никакого глобального консенсуса не будет. Нас ждет либо ЦИФРОВОЙ КОЛОНИАЛИЗМ, либо МЕНТАЛЬНАЯ СЕГРЕГАЦИЯ.
В первом случае нейросети, обученные на серверах в Сан-Франциско, просто навяжут всему миру калифорнийскую этику. Ваш умный автомобиль откажется везти вас на работу, потому что вы нарушили дневную квоту на выброс CO2, а ИИ-банкир заблокирует счет за неинклюзивный анекдот в личной переписке.
Во втором случае мир разорвет на суверенные ИИ-кластеры. Появится Halal-GPT, который будет банить за рецепты со свининой. CCP-GPT, вымарывающий из истории неудобные факты компартии. И Woke-GPT, генерирующий исключительно чернокожих викингов и трансгендерных самураев.
Secinājums- pirms trenējam/ veidojam šāda veida aģentus pašiem jāsalāgojas un jāizmet ārā iracionālās drazas.