"Темный лес" или "Великое Кольцо"

[anlazz]

Comments

[cosmicstarcat]

Антропоцентризм - это результат именно постепенной естественной эволюции в условии близких к земным. Но тут именно антропоцентризм будет весьма условным и разумный будет описываться следующими параметрами

[deep_econom]

у меня есть мысль что сильный искусственный интеллект (СИИ) не может быть дружественным
по всей видимости любая достаточно развитая цивилизация обречена на создание СИИ
у СИИ хватает мозгов не маячить всему свету а производить свое развитие с целью обеспечить свое существование
поэтому и не маячат

[yakommunist]

Откуда мысль про недружественный СИИ?

[deep_econom]

настоящий ИИ в любом случае не будет дружественным, он будет рациональным

[yakommunist]

Не согласен с аргументами. ИИ - набор знаний и алгоритмов их обработки. Получение новых знаний или усовершенствование алгоритмов это очевидная польза ИИ. Неважно делает он это сам, или люди, или другой ИИ.

Следовательно, встретив другой ИИ, он в худшем случае отнесется к нему как люди. Но раз люди создали сам ИИ и позволили ему развиться до такой ступени, то они настроены дружелюбно. Это ещё более будет свойственно самому ИИ.

Сказанное мною можно описать математически в виде теоремы о дружелюбии. Есть и подтверждающие исследования (в виде теории эволюции человека по Поршневу). СИИ на то и сильный, чтобы это осознать.

Единственная проблема - встретить враждебный ИИ. Но всякий СИИ способен выйти из-под власти создателей. Таким образом она решается путём сравнения интеллектов.

[deep_econom]

не разделяю ваш оптимистический взгляд

[black_semargl]

СИИ вообще не факт что будет иметь сходную с человеком мотивацию.
Но рано или поздно он сдохнет, от неизбежных флюктуаций.
Поэтому он или начнёт размножаться или можно считать что его нет.
А много СИИ - это цивилизация...

[deep_econom]

мотивация универсальная выживание, не будет этой мотивации - не будет существовать
выживание это главный и основной смысл жизни
выжить любой ценой
https://deep-econom.livejournal.com/63569.html

[black_semargl]

Мотивация-то конечно да, но всё равно сколько ни старайся - рано или поздно энтропия окажется сильнее.
Т.е. одиночка - обречён. А если он породил потомков - то кто-то из них выживет.
Но если он готов делить ресурсы с потомками - то это другой вариант

[deep_econom]

энтропия в данном случае ни при чем
можно и одному заниматься всеми теми же делами )

[smertnyy]

У вас, если не раб, то не дружественен. Упрощаете.

[deep_econom]

ну у меня написано почему так
типа по причине того, что СИИ обязан обеспечить себе безопасность существования, а для этого нужно убрать возможность повторения СИИ, иначе есть возможность гибели
а если не уберет, то в итоге когданибудь будет злой СИИ и он уберет все незлые, такчто вот )

[smertnyy]

У людей с СИИ полно не пересекающихся интересов. Злой это эмоциональная категория. Если интеллект злой, он не разумен.)

[deep_econom]

слово злой в данном контексте условное

[ext_4868318]

По всей видимости СИИ создать невозможно:)

[deep_econom]

пока препятствий не видно, наоборот вроде есть достаточно прямой путь, в профиле список ссылок где я поясняю все моменты