ChatGPT (окончание)
Повторю мысль предыдущего поста о парадоксе популярной идеи превосходства ИИ по сравнению с человеческим разумом. Парадокс в том, что идея превосходства исходит не из того, что мы ЗНАЕМ об ИИ и человеческом разуме, а из того что мы НЕ ЗНАЕМ границ и того и другого. А поскольку ChatGPT развивается быстрее... ну вы поняли.
Как я понимаю, прения на счёт зарождающейся искусственной разумности не заканчиваются, потому что хотя мы и можем сравнивать качество текста человека и ChatGPT, но не можем сравнить саму "разумность", мы не знаем, что это такое - "разумность". В результате, приходится прибегать к разным философским или даже религиозным основаниям "что такое разум", а по поводу этих материй спорить можно бесконечно. Осознавая всю тщетность попытки, я попробую предложить ещё один подход к сравнению именно "разумности", через наблюдение за продуктами собственного разума (моего).
Здесь я имею опыт, описание которого я пока не встречал. Вряд ли опыт уникален, скорее другие люди описывают его другими словами или не замечают или не считают важным проговаривать или он проявлен в меньшей степени.
Начну очень издалека. Во первых, я думаю словами. Знаю, что не все думают словами (или не рефлексируют это), поэтому важно уточнить: я думаю именно словами. Во вторых, я ежедневно и много общаюсь текстом + пишу много текста. И я могу отдельно думать "письменным" текстом, отдельно "разговорным" и отдельно бессвязной кашей (большую часть времени), как все нормальные люди. Это совершенно разные способы думать. Подозреваю, похоже на то, как билингвы думают на разных языках. Но только подозреваю, потому что сам не так хорошо владею английским, чтобы на нём думать.
Эпизодически рефлексирую, в чём разница этих способов думать. Одно из шокирующих прозрений было о незначащих словах. Куча слов используются в текстовом и разговорном режиме, потому что они имитируют диалог с кем-то ещё, но эти же слова вообще не используются для диалога внутреннего. Например, таким словом оказалось слово "дом" и его производные: "я дома", "домашний" и т.п. (привожу именно его, как самый необычный пример). Мне самому эти слова не нужны, я ими не думаю сам для себя. Они нужны только потому что другие люди что-то словом "дом" обозначают и мне приходится вставлять его в свою речь и в свои тексты: "я пошёл домой", "перезвоню, когда буду дома" и т.п. Более того, у меня нет внутреннего образа "дома", это слово лишено для меня собственного содержания, это просто словесная форма, которую я умею вставлять в речи в правильные места. Грубо говоря, я не знаю что такое "дом" и мне не нужно этого знать. Если меня попросят объяснить, что такое "дом", я объясню. Но не потому что обращусь к какому-то внутреннему представлению и буду описывать исходя из него, а потому что я помню, в каких случаях его употребляют другие люди и могу описать эти случаи.
Возможно, я изъясняюсь не очень понятно, поэтому приведу пример, который можно проверить на себе. Не 100%, что он сработает на вас, но почти наверняка сработает. Ближайшим аналогом того, о чём я говорю, являются союзы и предлоги. Например, что такое "и"? Не думаю что у вас за словом "и" стоит какой-то мысленный образ. Не думаю что вам это "и" нужно, когда вы лежите и смотрите в потолок пространно о чём-то размышляя. Это просто слово-связка, которое нужно для коммуникации с людьми. Вы ставите его в определённые места речи и текста, чтобы связать другие слова, которые действительно имеют для вас смысловое содержание. Я же обнаружил, что в моём словаре есть немало и существительных и глаголов, которые несут ту же нагрузку, что и предлоги. Некоторые важные слова (тот же "дом"), должны иметь содержание, но для меня это лишь опорная синтаксическая конструкция, как предлог "и" или "но". Я пытался оценить масштаб трагедии, но проводить подобное исследование очень тяжело и неприятно, потому что обнаруживает очень много пугающей внутренней пустоты. Я считаю, как минимум 15% моего словаря это слова-пустышки, ни на что внутри меня не указывающие. Удивительно, но мне совершенно не мешает, только пугает немного.
Идём дальше. Из-за того что я много общаюсь и много формулирую в текстовом виде, у меня есть отдельное "текстовое" мышление. У него есть много особенностей, отличающихся от мышления речевого и тем более от "сумбурного-для-себя". Но я остановлюсь всего на одном. Текстовое мышление позволяет мне рассуждать на темы, которые я не понимаю, а также описывать явления и даже объяснять другим вещи, которые мне самому непонятны. Попытаюсь объяснить, как это работает.
У хорошего текста есть своя внутренняя "нарративная логика", которая работает вне зависимости от того, есть внутри какой-то смысл или нет. Вы можете в этом убедиться, читая любой осмысленный текст бегло, "по диагонали". Можно не вникать в содержание, но всё равно понятно что тут не бессмысленный набор слов. Что тут не только синтаксически и грамматически верные конструкции, но ещё само изложение связно, а останавливаюсь на некоторых абзацах видеть, что есть ещё и общий контекст, общая связность. Это признаки соблюдения того, что я называю "нарративной логикой". Писать, следуя нарративной логике, можно вообще едва включая мозг. Но тут нужен опыт, чтобы исходя из запроса "что пишем" выбрать: общую концепцию изложения, подходящий шаблон, который, эту концепцию реализует, расставить хорошо воспринимаемые переходы, точки внимания, выражения, которые хорошо стоят рядом, ритм и так далее. Нужна начитанность в предметной области, внутри которой излагаешь, чтобы используемые ассоциации воспринимались логичными и уместными, а связки слов работали. Это не часто получается "с листа", с первого раза, но возвращаясь к тексту снова и снова, можно его дополировать до хорошего нарратива. ДАЖЕ если не очень понимаешь, о чём именно пишешь: достаточно иметь специфическую насмотренность в теме "как вообще описываются идеи и вещи".
Как автору и соавтору нескольких книг мне следует сделать ремарку: я использую этот режим мышления и письма не для того чтобы дурить людей псевдосмыслами. Это не этично. Но мне реально удобнее сначала написать макет изложения, а уже потом думать, соответствует ли он тому смыслу, который я собирался в него вложить. И если не вкладывается - добить или переписать. Ещё более удобно использовать себя как текстовый процессор во время текстовых обсуждений и мозговых штурмов. Потому что тут как никогда ценятся случайные попадания в смысл. И я, как оракул, с удивлением и интересом, смотрю, что выдало моё "текстовое" мышление. Потому что поразительно часто достаточно одной лишь нарративной логики, чтобы получилось что-то полезное и вроде бы осмысленное. К сожалению, не могу привести примеры, потому мозговые штурмы обычно случаются по моей узкой специализации.
Думаю, вы уже поняли к чему я клоню: у меня есть опыт мышления, который даже я сам не воспринимаю как продукт разума. Во первых, не все слова отсылают к какому-то смыслу, во вторых текст в целом может не строиться от какого-либо замысла. Изнутри это ощущается как поток сопоставлений слов и шаблонов из моей внутренней базы текстов. Получилось сопоставление с высокой оценкой - пишем. Не получилось - ищем дальше. При этом, довольно часто получаются неплохие результаты. И как будто это роднит работу моего мозга с принципами работы текстовых процессоров искусственного интеллекта.
Корректно сравнение или нет, трудно сказать. Для меня это возможность сравнить условно "машинное мышление" и условно "человеческое" не определяя точно, что такое "разум". Во первых, я вижу что нечто похожее на мышление может не требовать разума. Зная внутреннюю кухню, не готов я назвать продукты моего текстового оракула продуктами разума. Даже когда получается хорошо - оно не работает со смыслами, не закладывает их. Соответственно, я не готов признать разумность и за ChatGPT, что бы он ни выдавал. Во вторых, я вижу что существует мышление, которые работает не так, не по-машинному. Однако, чтобы более детально о нём говорить, мне ещё предстоит не мало отрефлексировать.