Телеософия

[yuritikhonravov]

Можно создать робота, конечной целью которого является саморазрушение. И можно создать робота, целью которого будет любой ценой помешать саморазрушению первого. Между ними развернётся борьба, в которой они покажут всю мощь искусственного интеллекта, решая многочисленные промежуточные задачи. Но поменять свою конечную задачу они не смогут. Они не

Comments

Когда конечная цель неизвестна,

[anonymous]

целью становится поиск конечной цели. Конечная цель любого объекта во вселенной не может отличаться от конечной цели вселенной в целом. Следовательно, целью любого интеллекта является поиск конечной цели мироздания (либо выяснение её отсутствия, без разницы). Эта цель в любом случае находится в будущем (и если её нет, это тоже можно выяснить лишь узнав максимально отдалённое будущее). Таким образом, целью любого интеллекта (в частности, искусственного) является прогнозирование будущего. Чем дальше и точнее прогноз, тем в большей степени достигнута эта цель.

Re: Когда конечная цель неизвестна,

[yuritikhonravov]

Конечная цель живого существа легко может отличаться от цели вселенной. Например, у вселенной, в отличие от человека, может не быть никакой цели. Удовлетворение любопытства насчёт будущего хорошая цель, но не общеобязательная. А для вселенной вообще может не быть различения времён.

Как такое может быть?

[anonymous]

1. Мироздание можно сравнить с поездом без остановок. Если поезд едет в Москву, то и все его пассажиры едут в Москву, даже если кто-то из них в данный момент идёт в туалет

Re: Как такое может быть?

[yuritikhonravov]

1-2. Мироздание, возможно, ни к чему не стремится, у него нет цели, а у человека есть. Кроме того, представьте, что брюхо или гениталии человека обладают собств. волей и хотят чего-то своего. Чаще всего они побеждают.

3. Поинтересуйтесь, что думают о времени совр. физики (про философов вообще молчу).

[kostya_h]

Почему человек не осознаёт? Практически любой понимает, что в конечном итоге важно лишь его собственное выживание. И это и есть конечная цель (вот тут-то как раз мы имеем дело с биороботом).
Можно, конечно, сказать о царствии божьем или ещё о чём-то, достижимом после смерти, однако особо никто из тех, кто ставит своей целью попадание в т.н. рай, не спешит умирать.

[yuritikhonravov]

Грубое заблуждение и пренебрежение обсуждаемым текстом. Могу лишь повторить: даже животные рискуют и жертвуют жизнью ради любопытства, потомства, доминирования и проч., а также просто кончают с жизнью.

[kostya_h]

Есть примеры, когда кончают самоубийством? Я, признаться, не слышал о таком.
Потомство и доминирование - это же тоже выживание, не конкретной особи, конечно, но группы или вида. Хорошо, тут, возможно, я не прав, ибо подменяю понятия на весь вид. Любопытство - поведение, характерное для отдельных особей - потенциальных разведчиков группы. В сущности, особь всегда балансирует на грани страха и любопытства - первое сохраняет её, но второе сулит новые возможности (нахождение источников пищи и пр.) для выживания.

[yuritikhonravov]

Пожалуйста, посмотрите в поисковиках про самоубийство у животных. А также посмотрите, только внимательно, вот этот текст: http://yuritikhonravov.livejournal.com/190579.html
Критерий различения целей простой: можно ли пожертвовать одним ради другого.

[golovachovitali]

Мне кажется,основным критерием, определяющим, правильные ли цели выберет робот является время. То есть, если допустим через 1000 лет этот робот или его потомки или копии будут существовать, тогда можно сказать, что телеология робота оказалась правильной. К примеру, за время существования жизни появлялись бессчетные количества видов, но лишь ничтожную долю сохранившихся до наших дней видов можно назвать успешной. Ответ скрыт в самом вопросе. Аналогична логика и антропного принципа. Из мириады возможных миров наблюдаются те, которые позволяют существование наблюдателя. Ведь мы же почему-то говорим о роботах, о людях, о муравьях, а не о динозаврах и трилобитах. Каков критерий выбора темы нашей дискуссии? Критерий один. Люди и муравьи выжили, время их пощадило, а динозавры и трилобиты нет. Если же через 1000 лет роботы будут рассуждать на тему, правильные ли у них цели в жизни, значит цели у них действительно правильные.

[yuritikhonravov]

Выбор ожидаемый, но произвольный. Робот-гностик, робот--буддист и робот-гедонист с ним не согласились бы. Но заметка не о том, какие цели для робота были бы правильными с чьей-то точки зрения, а том каким образом робот мог бы вообще поставить какие-либо цели.

[golovachovitali]

А если предположить конечной целью отсутствие всяких целей? Ведь любая цель это неудовлетворенное желание, цель - стремление это желание удовлетворить. Таким образом все промежуточные цели ведут к цели конечной- их отсутствию.

[yuritikhonravov]

Предположить можно, толку-то.

[anonymous]

надо поставить роботу цель, как можно менее конечную. лучше всего - не повторяться, самообучаться,все время делать что-то новое, создавать, творить. это же делает человек, создавший робота и тот, кто сотворил человека.
пусть вселенная будет разной, это так прикольно :)

[golovachovitali]

отличная мысль

[fossa_s]

ИМХО, всё же определяющей является возможность сознательного полагания конечных целей. То есть если может сам поставить себе конечные цели, то уже не биоробот.