Тени разума
Роджер Пенроуз написал книгу "Тени разума: в поисках науки о сознании", в которой, ни много ни мало, формально математически доказал невычислимость человеческого мышления (т.е. теоретическую невозможность его моделирования на компьютере
( Read more... )
И там он говорит не о невозможности моделирования, а о невычислимости (математическом свойстве). Это не совсем то же самое, и называть стохастические системы невычислимыми не очень правильно, потому что можно создать правдоподобную модель, и если результаты стохастической системы будут обоснованы (она не будет ошибаться), то и результаты правдоподобной её модели тоже будут обоснованы. А невычислимые системы теоретически могут быть промоделированы с использованием каких-то пока неизвестных нам физических законов. Они не могут быть промоделированы на обычном компьютере.
Всё-таки не удержался от пересказа. :)
Насчёт того, может ли компьютер обладать qualia - ты как будто возражаешь кому-то, кто утверждает, что не может. Если в контексте книги - наличие или отсутствие qualia, кажется, не очень связано с вычислимостью. Если это по каким-то моим высказываниям - я говорил о том, что могут существовать объективные критерии наличия/отсутствия qualia, но, кажется, не говорил о том, что компьютер не может обладать qualia.
Reply
"...т.к. считаю, например, что никакой компьютер не может обладать qualia."
Про эквивалентность невычислимости и невозможности моделирования - в первой:
"Роджер Пенроуз написал книгу "Тени разума: в поисках науки о сознании", в которой, ни много ни мало, формально математически доказал невычислимость человеческого мышления (т.е. теоретическую невозможность его моделирования на компьютере)."
И, наконец, наше непонимание на сегодняшний день некоторых особенностей математического аппарата (я так понимаю всплывающие повсюду гёделевские парадоксы) не особо мешает этот аппарат применять. В конце концов, арифметика тоже неполна, ее непротиворечивость не доказана, а значит, может быть доказана противоречивость и в итоге будет 1=2 (у Теда Чана есть прекрасный рассказ эту тему), но это нам не мешает пользоваться арифметикой уже несколько тысяч лет.
А Пенроуза я сейчас как раз читаю, и вопросы тоже по ходу возникают.
Reply
Про арифметику - считается, что формальная система, имеющая интерпретацию, не может оказаться противоречивой, потому что 1 на самом деле не равно 2. Непротиворечивость арифметики (аксиоматики Пеано) можно доказать, и она доказана, но, конечно, не в рамках этой аксиоматики, а с использованием дополнительных аксиом, в частности, трансфинитной индукции.
Про возможность или невозможность наличия квалиа у компьютера - да, вопрос непростой, и для меня не вполне однозначный. Пожалуй, моя позиция здесь такая: лично я считаю, что компьютер не может обладать квалиа, но все аргументы, которые я могу привести, исключительно субъективны и иррациональны, поэтому я бы не стал эту свою позицию отстаивать в дискуссии.
По твоему возражению ("допустим, компьютер прошёл тест Тьюринга") - считаю, что компьютер не может пройти тест Тьюринга. Не в том смысле, что человек может ошибочно принять компьютер за человека (человек может ошибочно принять и шевелящуюся тень от дерева за человека, это не будет значить, что тень прошла тест Тьюринга), а в том, что для любого компьютера теоретически возможен тест, позволяющий отличить его от человека (даже если на практике для этого теста не хватит времени, и даже если большинство людей ошибочно сочтут этот компьютер человеком). То есть, компьютер (существо без "души" и qualia) может своим поведением сколь угодно приближаться к поведению одушевлённого человека, но никогда не сможет быть полностью эквивалентным ему. Собственно, это прямо следует из моих предположений о том, что компьютер не может обладать квалиа, и что возможно существование объективного критерия, позволяющего отличить философского зомби от одушевлённого существа.
Reply
Leave a comment