Грубое упрощение - от Путина до сингулярности

[turchin]

Грубо говоря - государство -  это недружественный искусственный интеллект, а конституция - это попытка сделать его дружественным. Значит, специалисты по конституционному праву будут нужны для программирования будущего глобального ИИ. И наоборот, переделывание конституции - это враждебный самоапгрейт государства, когда оно переходит от задачи блага

Comments

[jorkoffski]

понравилась ваша раскладка. показалось, что тут ответ на статью. это из жж сообщества трансгуманистов или др. авторов?

[turchin]

Это мой текст сегодняшний

[sergienkodi]

До нас просто до всех, из-за нашей ожесточенности, никак не доходит, что любой человек (и Путин) считает себя хорошим, добрым, достойным и свою деятельность направляет на то высокое, что высоким он считает.
Тем более это касается трансгуманистов, желающих "спасения" всему человечеству.
Весь вопрос в достижении консенсуса этих мнений о добре и зле.
И в ИИ надо "вставить" известный моральный закон. ИИ должен быть абсолютным добром (программный регулятор, как и в человеческой психике), но не злом, потому что всем будет сразу же ...

[sergienkodi]

>программный регулятор, как и в человеческой психике>

это я про правое полушарие. )

[turchin]

от абсолютного добра до зла один шаг - как вы сами показали в начале своего коммента.
я бы предпочёл нейтральный ИИ - который только предотвращает глобальные катастрофы и понемного помогает людям, но без радикальных идей.

[sergienkodi]

>только предотвращает глобальные катастрофы и понемного помогает людям >
- такой ИИ все-таки добр, т.к. помогает людям.
Хреново, если он придет к заключению, что "скрипачи" не нужны, поэтому необходимо самим себя обезопасить. ИИ "увидит" больше чем мы предполагаем, и прежде всего он увидит наш страх.

[sergienkodi]

другими словами - все дружественно настолько, насколько возможно.
А трансгуманисты должны каждый (!) и все вместе быть (казаться, по крайней мере) абсолютным добром. Только так "гора идет туда, куда ей скажут".
Каждый тг-шник должен быть абсолютным моральным лидером. Это как магнит притягивает людей и снижает критичность восприятия этих идей.

[top2]

Логическая ошибка. Государство это не чужеродная структура навязанная извне. И войны в современном мире начинаются изза дележа природных ресурсов и рынков сбыта продукции (дисфункциональность капитализма), идеологическо-политическая составляющая не важна.

[turchin]

я не говорил про ресурсы. я имел в виду, что война выгодна политикам в свете перевыборов - обама 12 год, и ахмединеджад 13 год.

[sergeyvi]

Согласен. Но правильнее конституцию сопоставлять с соглашением с дружественным ИИ. Поскольку считаю, только фиксацией такого соглашения можно обеспечить ясность взаимодействия. И тут интересно - тянет ли наша конституция на дружественное соглашеие, или что можно подумать о желаниях людей, глядя на конституцию. И как может быть заморожено действие по ее апгрейду. И федерализм - как система объединения маленьких мегажуков в большой СИнт. И что такое правительство, как оно самоорганизуется, каковы точки контроля. Вот имхо что интересно систематизировать, как в историческом, так и в территориальном аспектах.

[turchin]

нехилая задача

[sergeyvi]

А задачи по обучению методам управления и котроля за пока не существующими явлениями все такие. Осталось малость - научиться их решать.