Тени разума

[gul_kiev]

Роджер Пенроуз написал книгу "Тени разума: в поисках науки о сознании", в которой, ни много ни мало, формально математически доказал невычислимость человеческого мышления (т.е. теоретическую невозможность его моделирования на компьютере

Comments

[dmitry_the_pooh]

Я пока что понял, что невозможность моделирования мышления доказывается в контексте классической машины Тьюринга, которая с внешней точки зрения представляет собой черный ящик, выходные состояния которого точно определены как однозначные функции внутренних параметров и входного потока.

У меня сразу (после прочтения первых глав, правда, не этой книги, а предыдущей - "Новый ум короля") два замечания. Первое - насколько я понимаю, машина Тьюринга всегда предсказуема, а в нервной деятельности роль стохастических процессов, судя про всему, крайне велика как на уровне отдельных нейронов, таки на уровне нейронных сообществ.. Даже не нужно углубляться в квантовую механику, достаточно теплового движения. Второе - насколько точное моделирование требуется, чтобы признать, что модель получилась удовлетворительной? Да, предположим, что абсолютно точную (с математической точки зрения) модель построить нельзя. А если модель не дает заметных расхождений с оригиналом на заданном временном промежутке, скажем, 100 лет? А если мы вообще будем ориентироваться на тест Тьюринга (по большому счету, другого практического критерия на сегодня и нет вроде бы)?

И наконец, уже не по книге.
А почему компьютер не может обладать qualia? Предположим, компьютер успешно прошел тест Тьюринга. В этом случае становится затруднительным отрицать то, что данному компьютеру могут быть присущи любые качества, присущие разумному сознательному субъекту, в том числе и qualia.

[gul_kiev]

В книге "Тени разума" Пенроуз подробно разбирает и конкретно эти, и другие возможные возражения. Я могу, разве что, пересказать тут его ответы, но лучше их прочитать в первоисточнике.
И там он говорит не о невозможности моделирования, а о невычислимости (математическом свойстве). Это не совсем то же самое, и называть стохастические системы невычислимыми не очень правильно, потому что можно создать правдоподобную модель, и если результаты стохастической системы будут обоснованы (она не будет ошибаться), то и результаты правдоподобной её модели тоже будут обоснованы. А невычислимые системы теоретически могут быть промоделированы с использованием каких-то пока неизвестных нам физических законов. Они не могут быть промоделированы на обычном компьютере.
Всё-таки не удержался от пересказа. :)

Насчёт того, может ли компьютер обладать qualia - ты как будто возражаешь кому-то, кто утверждает, что не может. Если в контексте книги - наличие или отсутствие qualia, кажется, не очень связано с вычислимостью. Если это по каким-то моим высказываниям - я говорил о том, что могут существовать объективные критерии наличия/отсутствия qualia, но, кажется, не говорил о том, что компьютер не может обладать qualia.

[dmitry_the_pooh]

Про qualia - в последней строчке:
"...т.к. считаю, например, что никакой компьютер не может обладать qualia."

Про эквивалентность невычислимости и невозможности моделирования - в первой:
"Роджер Пенроуз написал книгу "Тени разума: в поисках науки о сознании", в которой, ни много ни мало, формально математически доказал невычислимость человеческого мышления (т.е. теоретическую невозможность его моделирования на компьютере)."

И, наконец, наше непонимание на сегодняшний день некоторых особенностей математического аппарата (я так понимаю всплывающие повсюду гёделевские парадоксы) не особо мешает этот аппарат применять. В конце концов, арифметика тоже неполна, ее непротиворечивость не доказана, а значит, может быть доказана противоречивость и в итоге будет 1=2 (у Теда Чана есть прекрасный рассказ эту тему), но это нам не мешает пользоваться арифметикой уже несколько тысяч лет.

А Пенроуза я сейчас как раз читаю, и вопросы тоже по ходу возникают.

[gul_kiev]

Про эквивалентность невычислимости и немоделируемости - оно почти так, но всё-таки не совсем. Из невычислимости следует невозможность моделирования на компьютере (обычном), но не следует невозможность моделирования вообще (в т.ч. на каком-нибудь будущем компьютере, построенном на совсем других принципах).

Про арифметику - считается, что формальная система, имеющая интерпретацию, не может оказаться противоречивой, потому что 1 на самом деле не равно 2. Непротиворечивость арифметики (аксиоматики Пеано) можно доказать, и она доказана, но, конечно, не в рамках этой аксиоматики, а с использованием дополнительных аксиом, в частности, трансфинитной индукции.

Про возможность или невозможность наличия квалиа у компьютера - да, вопрос непростой, и для меня не вполне однозначный. Пожалуй, моя позиция здесь такая: лично я считаю, что компьютер не может обладать квалиа, но все аргументы, которые я могу привести, исключительно субъективны и иррациональны, поэтому я бы не стал эту свою позицию отстаивать в дискуссии.
По твоему возражению ("допустим, компьютер прошёл тест Тьюринга") - считаю, что компьютер не может пройти тест Тьюринга. Не в том смысле, что человек может ошибочно принять компьютер за человека (человек может ошибочно принять и шевелящуюся тень от дерева за человека, это не будет значить, что тень прошла тест Тьюринга), а в том, что для любого компьютера теоретически возможен тест, позволяющий отличить его от человека (даже если на практике для этого теста не хватит времени, и даже если большинство людей ошибочно сочтут этот компьютер человеком). То есть, компьютер (существо без "души" и qualia) может своим поведением сколь угодно приближаться к поведению одушевлённого человека, но никогда не сможет быть полностью эквивалентным ему. Собственно, это прямо следует из моих предположений о том, что компьютер не может обладать квалиа, и что возможно существование объективного критерия, позволяющего отличить философского зомби от одушевлённого существа.