Дискуссия о возможности ИИ
В настоящий момент неизвестно, возможен ли ИИ, и в силу этого у нас есть две гипотезы - что ИИ возможен и что ИИ невозможен. Мы полагаем, что гипотеза о возможности ИИ весьма вероятна.
То есть мы полагаем, что с помощью технических средств (не обязательно алгоритмических компьютеров, но скорее всего с их помощью) можно создать машину, которая будет способна моделировать поведение человека неотличимым образом, а кроме того, на много порядков превосходить человека в любых видах творческой деятельности. Более того, мы полагаем, что такая машина будет создана в XXI веке. (Мы здесь избегаем вопроса о том, будет ли она при этом обладать сознанием в смысле внутреннего опыта, квалиа. Когда такая машина будет создана, можно это у неё будет спросить.)
Теперь мы приведём ряд соображений, которые подтверждают возможность ИИ, а затем опровергнем основные доводы противников возможности ИИ.
1. «Отсутствие доказательств не есть доказательство отсутствия». То есть то, что ИИ пока не создан, говорит только о сложности задаче, но не о ее неразрешимости. Срок работы человечества над тематикой ИИ равен примерно 50 годам, но на переход от первых воздушных шаров Монгольфьеров к самолёту братьев Райт ушло 120 лет. И всё это время было масса людей, которые говорили, что самолёт тяжелее воздуха невозможен.
2. Интеллект, в отличие от вечного двигателя, уже существует в природе, а человек смог повторить почти все природные достижения (полёт, термоядерный синтез). В природе нет запретов на интеллект: значит, он может быть создан.
3. Мы видим плавное непрерывное улучшение во всех тех областях, которые обычно относятся в ИИ. Особенно оно заметно в области распознавания образов. Плавный процесс гораздо проще экстраполировать.
4. Сейчас создана полная карта нейронной сети червя-неметоды. По этим же принципам можно создать карты нейронных сетей и более сложных животных. Эти карты можно запустить на компьютере и выяснить, реализуют ли эти модели в точности то же поведение, что и их живые аналоги. Соответственно это будет доказательством полноты описания поведения животных через работу мозга на нейронах. Из этого будет следовать, что и модель мозга человека будет реализовывать поведение человека.
5. В мире работает несколько десятков или даже сотен научных проектов, которые исследуют разные подходы к созданию ИИ, и многие из этих подходов выглядят многообещающими и даже имеют дорожную карту, ведущую к созданию ИИ.
6. За счёт закона Мура произошло резкое снижение стоимости оборудования, необходимого для полноценных ИИ экспериментов.
7. Опыт предыдущих неудач позволит избежать повторения ошибок. То есть происходит накопление знаний о том, что на самом деле нужно для создания ИИ.
Все эти подтверждения позволяют приписывать высокую вероятность гипотезе возможности ИИ, но окончательным доказательством может быть только создание действующей мащины.
Р. Пенроуз в книге «Новый ум короля» утверждает, что ИИ невозможен, потому что в мозгу происходят невычислимые квантовые процессы, которые необходимы для творческого мышления и сознания. На основании этого часто утверждается, что ИИ невозможен. Нам представляется, что данный вывод не вполне корректен по следующим причинам:
1. Квантовая природа сознания - это далеко не мэйнстрим науки. Но даже если это так, мы можем использовать квантовые компьютеры или живые нейроны для его моделирования.
2. Нельзя доказать невозможность чего-либо в природе теоретически. Но возможность доказать можно - например, фон Нейман доказал возможность самовоспроизводящихся механизмов. То есть доказательство невозможности гораздо сложнее, чем доказательство возможности: первое требует бесконечного перебора разных вариантов, а второе - одного примера.
3. Для того чтобы ИИ стал играть важную роль в судьбах человечества, ему не нужно обладать ни сознанием, ни способностью к творчеству. Современный ИИ может обыграть любого человека в шахматы, не используя ни сознания, ни интуиции. То есть интуиция - это только полезная характеристика, сокращающая скорость перебора комбинаций, но заменяемая алгоритмами. Достаточно сказать, что опасный ИИ - это ИИ, который может обыграть человека в любой игре. Война и зарабатывание денег - это разновидности таких игр.
4. Если обнаружится класс задач, доступных человеку, но не доступных компьютеру, возможна ситуация прямой эксплуатации людей для решения этих задач, при этом каждый из людей не будет знать, как именно будет применяться его решение. Так, например, работают сейчас спамерские программы - они просят людей на своём сайте с «клубничкой» распознать контрольные цифры на рисунке, взятом с другого сайта, и таким образом получают доступ к этому другому сайту. При этом людей используют вслепую, так как люди не знают, что результаты их распознавания будут использованы в другом месте. Похожим образом государство нанимает учёных для разработке оружия.
Основная причина, заставляющая людей априори исключать возможность ИИ - это страх утраты собственной индивидуальности (то есть скрытое чувство собственной важности), а также потайная вера в наличие души (которая необходима для реализации потребности в бессмертии: смертная душа - это не душа).
На этом базируются аргументы Сёрля в знаменитом мысленном эксперименте с китайской комнатой, призванном доказать невозможность «искусственного сознания» - но не ИИ. В этом мысленном эксперименте человек, не знающий китайского, сидит в комнате, в которую заносят тексты на английском, и он с помощью словаря и правил переводит их на китайский. Сидящий снаружи человек думает, что за стеной находится настоящий живой переводчик, но на самом деле это просто набор правил, которым механически следуют.
Отметим сразу, что Сёрль начинает с того, что нечаянно доказывает то, что он, собственно, хотел бы опровергнуть. А именно, он утверждает, что есть совокупность правил, которая может осуществлять точный машинный перевод, неотличимый от человеческого. Однако эта задача фактически тождественна задаче создания ИИ, поскольку для точного перевода эта система правил должна включать в себя всю модель мира и человека в нём. Более того, ему не удаётся опровергнуть и наличие сознания в такой машине: из того, что человек, выполняющий комбинации с правилами, не чувствует этого сознания, не значит, что этого сознания нет. Точно также, как если вы сидите в комнате вместе с другим человеком и не чувствуете его сознания, это не означает, что у него нет сознания.
То есть мы полагаем, что с помощью технических средств (не обязательно алгоритмических компьютеров, но скорее всего с их помощью) можно создать машину, которая будет способна моделировать поведение человека неотличимым образом, а кроме того, на много порядков превосходить человека в любых видах творческой деятельности. Более того, мы полагаем, что такая машина будет создана в XXI веке. (Мы здесь избегаем вопроса о том, будет ли она при этом обладать сознанием в смысле внутреннего опыта, квалиа. Когда такая машина будет создана, можно это у неё будет спросить.)
Теперь мы приведём ряд соображений, которые подтверждают возможность ИИ, а затем опровергнем основные доводы противников возможности ИИ.
1. «Отсутствие доказательств не есть доказательство отсутствия». То есть то, что ИИ пока не создан, говорит только о сложности задаче, но не о ее неразрешимости. Срок работы человечества над тематикой ИИ равен примерно 50 годам, но на переход от первых воздушных шаров Монгольфьеров к самолёту братьев Райт ушло 120 лет. И всё это время было масса людей, которые говорили, что самолёт тяжелее воздуха невозможен.
2. Интеллект, в отличие от вечного двигателя, уже существует в природе, а человек смог повторить почти все природные достижения (полёт, термоядерный синтез). В природе нет запретов на интеллект: значит, он может быть создан.
3. Мы видим плавное непрерывное улучшение во всех тех областях, которые обычно относятся в ИИ. Особенно оно заметно в области распознавания образов. Плавный процесс гораздо проще экстраполировать.
4. Сейчас создана полная карта нейронной сети червя-неметоды. По этим же принципам можно создать карты нейронных сетей и более сложных животных. Эти карты можно запустить на компьютере и выяснить, реализуют ли эти модели в точности то же поведение, что и их живые аналоги. Соответственно это будет доказательством полноты описания поведения животных через работу мозга на нейронах. Из этого будет следовать, что и модель мозга человека будет реализовывать поведение человека.
5. В мире работает несколько десятков или даже сотен научных проектов, которые исследуют разные подходы к созданию ИИ, и многие из этих подходов выглядят многообещающими и даже имеют дорожную карту, ведущую к созданию ИИ.
6. За счёт закона Мура произошло резкое снижение стоимости оборудования, необходимого для полноценных ИИ экспериментов.
7. Опыт предыдущих неудач позволит избежать повторения ошибок. То есть происходит накопление знаний о том, что на самом деле нужно для создания ИИ.
Все эти подтверждения позволяют приписывать высокую вероятность гипотезе возможности ИИ, но окончательным доказательством может быть только создание действующей мащины.
Р. Пенроуз в книге «Новый ум короля» утверждает, что ИИ невозможен, потому что в мозгу происходят невычислимые квантовые процессы, которые необходимы для творческого мышления и сознания. На основании этого часто утверждается, что ИИ невозможен. Нам представляется, что данный вывод не вполне корректен по следующим причинам:
1. Квантовая природа сознания - это далеко не мэйнстрим науки. Но даже если это так, мы можем использовать квантовые компьютеры или живые нейроны для его моделирования.
2. Нельзя доказать невозможность чего-либо в природе теоретически. Но возможность доказать можно - например, фон Нейман доказал возможность самовоспроизводящихся механизмов. То есть доказательство невозможности гораздо сложнее, чем доказательство возможности: первое требует бесконечного перебора разных вариантов, а второе - одного примера.
3. Для того чтобы ИИ стал играть важную роль в судьбах человечества, ему не нужно обладать ни сознанием, ни способностью к творчеству. Современный ИИ может обыграть любого человека в шахматы, не используя ни сознания, ни интуиции. То есть интуиция - это только полезная характеристика, сокращающая скорость перебора комбинаций, но заменяемая алгоритмами. Достаточно сказать, что опасный ИИ - это ИИ, который может обыграть человека в любой игре. Война и зарабатывание денег - это разновидности таких игр.
4. Если обнаружится класс задач, доступных человеку, но не доступных компьютеру, возможна ситуация прямой эксплуатации людей для решения этих задач, при этом каждый из людей не будет знать, как именно будет применяться его решение. Так, например, работают сейчас спамерские программы - они просят людей на своём сайте с «клубничкой» распознать контрольные цифры на рисунке, взятом с другого сайта, и таким образом получают доступ к этому другому сайту. При этом людей используют вслепую, так как люди не знают, что результаты их распознавания будут использованы в другом месте. Похожим образом государство нанимает учёных для разработке оружия.
Основная причина, заставляющая людей априори исключать возможность ИИ - это страх утраты собственной индивидуальности (то есть скрытое чувство собственной важности), а также потайная вера в наличие души (которая необходима для реализации потребности в бессмертии: смертная душа - это не душа).
На этом базируются аргументы Сёрля в знаменитом мысленном эксперименте с китайской комнатой, призванном доказать невозможность «искусственного сознания» - но не ИИ. В этом мысленном эксперименте человек, не знающий китайского, сидит в комнате, в которую заносят тексты на английском, и он с помощью словаря и правил переводит их на китайский. Сидящий снаружи человек думает, что за стеной находится настоящий живой переводчик, но на самом деле это просто набор правил, которым механически следуют.
Отметим сразу, что Сёрль начинает с того, что нечаянно доказывает то, что он, собственно, хотел бы опровергнуть. А именно, он утверждает, что есть совокупность правил, которая может осуществлять точный машинный перевод, неотличимый от человеческого. Однако эта задача фактически тождественна задаче создания ИИ, поскольку для точного перевода эта система правил должна включать в себя всю модель мира и человека в нём. Более того, ему не удаётся опровергнуть и наличие сознания в такой машине: из того, что человек, выполняющий комбинации с правилами, не чувствует этого сознания, не значит, что этого сознания нет. Точно также, как если вы сидите в комнате вместе с другим человеком и не чувствуете его сознания, это не означает, что у него нет сознания.