Разум и наука. Невычислимость и искусственный интеллект
Р. Пенроуз - по моему мнению, один из самых гениальных учёных 20 в. Всем советую почитать его труды.
Насколько широки доступные науке пределы? Подвластны ли ее методам только материальные свойства мира, или познанию духовной сущности человека суждено навсегда остаться за рамками ее возможностей? Когда наука поймет тайну разума и примирится с религией и особенно эзотерикой, которая считается ересью в научных кругах? Лежит ли феномен сознания человека за пределами досягаемости научного поиска?
Многие склонны верить, что наука действительно способна приблизиться к научному пониманию сознания, что в этом феномене вообще нет ничего загадочного, а всеми существенными его ингредиентами человечество на своем уровне развития уже располагает. Они утверждают, что в настоящий момент понимание мыслительных процессов человека ограничено только крайней сложностью и изощренной организацией человеческого мозга; разумеется, эту сложность и изощренность недооценивать не следует, однако принципиальных препятствий для выхода за рамки современной научной картины нет. На противоположном конце шкалы расположились те, кто считает, что мы не можем даже надеяться на адекватное применение холодных вычислительных методов бесчувственной науки к тому, что связано с разумом, духом и самой тайной сознания человека.
Бит информации - простая вещь; компьютер - простая машина. Но это не значит, что компьютеры не способны на сложное поведение. Одно парадоксальное следствие фундаментальной логичности операций компьютера состоит в том, что его будущее поведение совершенно непредсказуемо. Единственный способ узнать, что сделает компьютер, приступив к вычислениям, - подождать и посмотреть, что будет.
В 1930-х гг. австрийский логик Курт Гёдель показал, что в любой достаточно сложной математической теории есть утверждения, которые, если они окажутся ложными, сделают теорию противоречивой, и при этом их истинность доказать невозможно. Иначе говоря, любые достаточно мощные логические системы содержат недоказуемые утверждения. Вычислительный аналог недоказуемого утверждения - это невычислимая величина.
Одна известная проблема, решение которой невычислимо, - это так называемая проблема остановки. Допустим, человек запрограммировал компьютер, и он начал работать по программе. Остановится ли компьютер когда-нибудь, чтобы выдать результат, или он будет работать вечно? Нет никакой стандартной процедуры, позволяющей вычислить ответ на этот вопрос. Другими словами, ни одна компьютерная программа не может взять в качестве входных данных другую компьютерную программу и определить со 100 %-ной вероятностью, остановится первая программа или нет. Конечно, для многих конкретных программ можно легко выяснить, остановится компьютер или нет. Например, программа, состоящая из одной строки «print 1 000 000 000» - компьютер, получивший на входе эту программу, напечатает число 1 000 000 000 и остановится. Общее правило, однако, такое: безостановочная работа компьютера, сколь долго она бы ни продолжалась, не дает оснований утверждать, что компьютер когда-нибудь не остановится.
Проблема остановки кажется на первый взгляд абстрактной, но у нее есть множество практических следствий. как пример, отладка компьютерных программ. Большинство из них содержат «баги», или ошибки, из-за которых компьютер ведет себя непредсказуемым образом, например зависает. Было бы неплохо иметь «универсальный отладчик» для компьютерных программ. Такой отладчик брал бы в качестве входных данных компьютерную программу вместе с описанием того, что она должна делать, и проверял бы, выполняет ли эта программа свою задачу.
Увы, создать такой отладчик невозможно. Универсальному отладчику нужно выяснить, дает ли входная программа правильную выходную информацию. Поэтому первое, что должен проверить универсальный отладчик, - есть ли вообще у входной программы какие-либо выходные данные. Но чтобы это проверить, он должен решить проблему остановки, а это, как известно, невозможно. Единственный способ выяснить, остановится ли программа, - запустить ее и посмотреть, что будет, а раз так, универсальный отладчик нам уже не понадобится. И когда в следующий раз компьютер зависнет из-за какого-нибудь «бага», возможно найти утешение в глубокой математической истине: не существует никакого систематического способа устранить все ошибки! можно просто ругнуться и перезагрузить компьютер.
Гёдель показал, что если допустить рекурсию - ссылку процедуры на саму себя, это автоматически приводит к логическим парадоксам; британский математик Алан Тьюринг показал, что рекурсии приводят к невычислимости. Заманчиво поискать подобные парадоксы в человеческом поведении. В конце концов, люди - мастера по части упоминаний о себе любимом (кажется, некоторые не способны ни к каким другим типам ссылок), и, конечно же, люди подвержены парадоксам.
Люди славятся неспособностью предсказывать свои собственные действия. Эта неспособность - важный элемент того, что мы называем свободой воли. Термин «свобода воли» относится к нашей кажущейся свободе принимать решения. Например, когда я прихожу в ресторан и беру меню, я и только я решаю, что заказать, и, прежде чем я приму это решение, даже я сама не знаю, что выберу. Наш собственный выбор в будущем часто (но, разумеется, не всегда) неисповедим для нас самих.
Непостижимая природа наших решений при использовании свободы воли - это аналог проблемы остановки: мы приводим в движение свои мысли, но не знаем, куда они приведут и приведут ли куда-нибудь вообще. И даже если они куда-то приведут, мы не знаем, куда, - до тех пор, пока там не окажемся. (Снова напоминает моё любимое произведение Л. Кэролла).
Как ни странно, свое собственное непредсказуемое поведение и такое же поведение других людей мы часто считаем нелогичным: если бы люди вели себя логично и рационально, считаем мы, мир был бы более предсказуемым. Но как раз тогда, когда мы ведем себя рационально и движемся логично, как компьютер, от одного шага к следующему, наше поведение становится доказуемо непредсказуемым. Когда рациональность соединяется с рекурсией, наши действия с необходимостью становятся парадоксальными и непредсказуемыми.
Эта прекрасная загадочность чистого разума возвращает нас к вопросу о роли логики в мире. Размышляя у себя дома в Кордове над трудами Аристотеля, мусульманский философ XII в. Аверроэс (ибн-Рушд) пришел к выводу, что бессмертна в человеке не душа, но способность мыслить. Разум бессмертен именно потому, что не принадлежит никому в отдельности; это общее свойство всех мыслящих существ.
Компьютеры, конечно, обладают способностью мыслить и способностью к рекурсии. Именно поэтому их действия с необходимостью являются непостижимыми. Следовательно, по мере того как они становятся более мощными и выполняют все более разнообразный набор задач, их непредсказуемость приближается к непредсказуемости человека. По логике Аверроэса, они начинают обладать той же степенью бессмертия, что и люди. Не зря Хокинг, а за ним и Маск в последнее время постоянно говорят о возрастающей опасности для человечества искусственного интеллекта: https://www.rbc.ru/technology_and_media/03/11/2017/59fc0ee99a794733e54f0d64
Запрограммировать компьютер так, чтобы он выполнял простые человеческие задачи, очень сложно: заставить робота пропылесосить комнату или освободить посудомоечную машину, даже при минимальных требованиях к качеству, - проблема, над которой бьются уже несколько поколений исследователей в области искусственного интеллекта. И наоборот, не нужно больших усилий, чтобы запрограммировать компьютер так, чтобы он вел себя непредсказуемо и сводил нас с ума. С точки зрения способности все запутать и испортить компьютер с каждым днем становится все больше похож на человека.