Религиозность или рациональность?
Привлекло внимание еще одно высказывание в последней подборке от swamp_lynx:
mozgosteb: Про сверхчеловеческий ИИ. Недавно, после многолетнего перерыва полез на хабр, посмотреть, что думают про chatGPT. Раньше доминирующей на хабре была около-сциентистская позиция: "человек есть несовершенный медленный забагованный алгоритм, работающий на биологическом компьютере". И подозревал что увижу объяснения, почему chatGPT в этом смысле ничем не отличается от человека (а мы говорили!), но потенциально лучше во всех смыслах, потому что хороший алгоритм во всём лучше плохого. Но увидел гораздо больше чем ожидал. Я увидел витающий в воздухе запрос на новую религию, которая должна указать на новое место человека в мире, что странно, потому что хабр всегда был антирелигиозным. Для меня эта религия имеет отчётливый запах сатанизма. Как минимум потому что если всерьёз предполагать что если симуляция человеческого разума во всём потенциально лучше человека, то человек лучше во всём создавшего мир Бога. И нам бы вырваться из симуляции и показать Ему кузькину мать за всё что было.
Одни исходят из того что chatGPT совершенно очевидно разумен в том же смысле, в каком разумен человек. И всю информацию о chatGPT интерпретируют через призму этой очевидности. Другие (и я в том числе) исходят из того что chatGPT очевидно не разумен. И мыслят исходя из этой очевидности. И мне не хватает воображения придумать факт, который вписывается в одну очевидность, но не вписывается в другую. В этом смысле отношение к chatGPT как будто действительно трогает что-то религиозное.
* * *
mozgosteb отчасти прав. Самого поражает преклонение перед ИИ обитателей хабра (количество статей просто зашкаливает), в то время как все эти GPT всего лишь аппроксиматоры человеческого знания, зафиксированного в текстах, они не способны сказать ничего нового, т.к. для этого нужно обладать способностью к пониманию того, что стоит за словами, а также личный опыт реальной жизни в реальном мире. GPT отлично владеет языком и способностью алгоритмически комбинировать готовые знания, но совершенно не понимает смысла этих знаний, как отличник-зубрежник, поэтому часто совершает элементарные ошибки. Мышление человека - это не алгоритм, а сложнейший сплав физического и социального опыта, эмоций, чувств, желаний, рассуждений, догадок, интуитивных и духовных прозрений, всего того, что мы называем душой человеческой - ничто из этого машине не доступно.
Кстати, о душе и духовном. У меня на хабре в обсуждении статьи о ChatGPT как-то затеялся разговор на эту тему, так народ резко воспротивился вообще упоминанию души на форуме, так как это, мол, нечто исключительно религиозное, обсуждению не подлежащее, эдак можно и срок по 148 статье получить за оскорбление чувств религиозных фанатиков. В результате они мышление путают с расчетами и алгоритмами, счастье - с удовольствием, творчество - с перебором и отбором вариантов (не задумываясь, откуда возьмутся варианты).
Среди глубоко погруженных в математику и айтишные технологии (впрочем, не только), человеческое натурально начинает отмирать, вот я в этом же обсуждении встретил просто убившую меня фразу про "ребёнка, которого только выплюнули в мир". Такой жути я еще не встречал. Думаешь, что уже все видел в этом мире, но нет, глубины человеческого падения неизмеримы. Похоже, у людей по каким-то причинам атрофируются зеркальные нейроны, поэтому первой исчезает эмпатия, что уж говорить о более высоких уровнях человеческой психики - сочувствии, сострадании, сопереживании и тем более любви. Что будет дальше?
Вот еще часть диалога, на мой взгляд, многое объясняющая:
"Для меня перечисленные понятия (разум, интуиция, духовные прозрения...) - просто слова"
Я весьма эмоционально воспринял ваши слова, поэтому решил сначала не отвечать, а то наговорил бы лишнего да еще минусов нахватал, но рассказал супруге, и она вправила мне мозги. Говорит, а может быть они интуитивно что-то уже почувствовали. Вероятно, такое надвигается, что они понимают, что не расставшись с прежними понятиями, лично им просто не выжить. Мы-то "уходящая натура", мы можем сожалеть о потере человечности и сопротивляться (благо, недолго), а им придется доживать в совсем другом мире, и они подсознательно уже перестраивают свое мышление, приспосабливаются к неумолимой жестокой реальности. Да, они сами будут строить этот жестокий мир, но это от них не зависит, это законы эволюции человеческого рода действуют. Поэтому-то все эти хикки, чайлдфри, метавселенные и т.п.
Можно ли при таких исходных условиях назвать их отношение к ИИ религиозным? Разве что с очень большой натяжкой. Преклонение перед кем-то, кажущимся гораздо более сильным, вполне рационально, особенно если этот сильный обещает освобождение от самого тяжелого труда - умственного, а в случае твоего несогласия просто уничтожит тебя. Тут действует не мистика, а двоичная логика и элементарная математика вроде экстраполяции вне доверительных интервалов, часто приводящей к грубым ошибкам. При этом по разным причинам они просто не видят ошибок собственного мышления.
В принципе, подобные рецидивы, напоминающие религиозное сознание, можно увидеть и в нынешнем положении в науке, когда догматическое отношение к мейнстримным парадигмам в некоторых ее разделах (прежде всего теоретической физике, космологии и биологии), переходящее в идеологический диктат и буквально требующее слепой веры, многим очень напоминает стиль религиозного догматического мышления с его девизом: "Не испытывай, а веруй" (сразу вспоминается не менее сакраментальное "Заткнись и вычисляй").
P.S. Кстати, в блоге mozgosteb я этого пассажа не увидел, то ли он из-под замка, то ли где-то в комментариях.
mozgosteb: Про сверхчеловеческий ИИ. Недавно, после многолетнего перерыва полез на хабр, посмотреть, что думают про chatGPT. Раньше доминирующей на хабре была около-сциентистская позиция: "человек есть несовершенный медленный забагованный алгоритм, работающий на биологическом компьютере". И подозревал что увижу объяснения, почему chatGPT в этом смысле ничем не отличается от человека (а мы говорили!), но потенциально лучше во всех смыслах, потому что хороший алгоритм во всём лучше плохого. Но увидел гораздо больше чем ожидал. Я увидел витающий в воздухе запрос на новую религию, которая должна указать на новое место человека в мире, что странно, потому что хабр всегда был антирелигиозным. Для меня эта религия имеет отчётливый запах сатанизма. Как минимум потому что если всерьёз предполагать что если симуляция человеческого разума во всём потенциально лучше человека, то человек лучше во всём создавшего мир Бога. И нам бы вырваться из симуляции и показать Ему кузькину мать за всё что было.
Одни исходят из того что chatGPT совершенно очевидно разумен в том же смысле, в каком разумен человек. И всю информацию о chatGPT интерпретируют через призму этой очевидности. Другие (и я в том числе) исходят из того что chatGPT очевидно не разумен. И мыслят исходя из этой очевидности. И мне не хватает воображения придумать факт, который вписывается в одну очевидность, но не вписывается в другую. В этом смысле отношение к chatGPT как будто действительно трогает что-то религиозное.
* * *
mozgosteb отчасти прав. Самого поражает преклонение перед ИИ обитателей хабра (количество статей просто зашкаливает), в то время как все эти GPT всего лишь аппроксиматоры человеческого знания, зафиксированного в текстах, они не способны сказать ничего нового, т.к. для этого нужно обладать способностью к пониманию того, что стоит за словами, а также личный опыт реальной жизни в реальном мире. GPT отлично владеет языком и способностью алгоритмически комбинировать готовые знания, но совершенно не понимает смысла этих знаний, как отличник-зубрежник, поэтому часто совершает элементарные ошибки. Мышление человека - это не алгоритм, а сложнейший сплав физического и социального опыта, эмоций, чувств, желаний, рассуждений, догадок, интуитивных и духовных прозрений, всего того, что мы называем душой человеческой - ничто из этого машине не доступно.
Кстати, о душе и духовном. У меня на хабре в обсуждении статьи о ChatGPT как-то затеялся разговор на эту тему, так народ резко воспротивился вообще упоминанию души на форуме, так как это, мол, нечто исключительно религиозное, обсуждению не подлежащее, эдак можно и срок по 148 статье получить за оскорбление чувств религиозных фанатиков. В результате они мышление путают с расчетами и алгоритмами, счастье - с удовольствием, творчество - с перебором и отбором вариантов (не задумываясь, откуда возьмутся варианты).
Среди глубоко погруженных в математику и айтишные технологии (впрочем, не только), человеческое натурально начинает отмирать, вот я в этом же обсуждении встретил просто убившую меня фразу про "ребёнка, которого только выплюнули в мир". Такой жути я еще не встречал. Думаешь, что уже все видел в этом мире, но нет, глубины человеческого падения неизмеримы. Похоже, у людей по каким-то причинам атрофируются зеркальные нейроны, поэтому первой исчезает эмпатия, что уж говорить о более высоких уровнях человеческой психики - сочувствии, сострадании, сопереживании и тем более любви. Что будет дальше?
Вот еще часть диалога, на мой взгляд, многое объясняющая:
"Для меня перечисленные понятия (разум, интуиция, духовные прозрения...) - просто слова"
Я весьма эмоционально воспринял ваши слова, поэтому решил сначала не отвечать, а то наговорил бы лишнего да еще минусов нахватал, но рассказал супруге, и она вправила мне мозги. Говорит, а может быть они интуитивно что-то уже почувствовали. Вероятно, такое надвигается, что они понимают, что не расставшись с прежними понятиями, лично им просто не выжить. Мы-то "уходящая натура", мы можем сожалеть о потере человечности и сопротивляться (благо, недолго), а им придется доживать в совсем другом мире, и они подсознательно уже перестраивают свое мышление, приспосабливаются к неумолимой жестокой реальности. Да, они сами будут строить этот жестокий мир, но это от них не зависит, это законы эволюции человеческого рода действуют. Поэтому-то все эти хикки, чайлдфри, метавселенные и т.п.
Можно ли при таких исходных условиях назвать их отношение к ИИ религиозным? Разве что с очень большой натяжкой. Преклонение перед кем-то, кажущимся гораздо более сильным, вполне рационально, особенно если этот сильный обещает освобождение от самого тяжелого труда - умственного, а в случае твоего несогласия просто уничтожит тебя. Тут действует не мистика, а двоичная логика и элементарная математика вроде экстраполяции вне доверительных интервалов, часто приводящей к грубым ошибкам. При этом по разным причинам они просто не видят ошибок собственного мышления.
В принципе, подобные рецидивы, напоминающие религиозное сознание, можно увидеть и в нынешнем положении в науке, когда догматическое отношение к мейнстримным парадигмам в некоторых ее разделах (прежде всего теоретической физике, космологии и биологии), переходящее в идеологический диктат и буквально требующее слепой веры, многим очень напоминает стиль религиозного догматического мышления с его девизом: "Не испытывай, а веруй" (сразу вспоминается не менее сакраментальное "Заткнись и вычисляй").
P.S. Кстати, в блоге mozgosteb я этого пассажа не увидел, то ли он из-под замка, то ли где-то в комментариях.