Возражение - в смысле, против вашего рассуждения? Сделанного в ответ на моё рассуждение, что понятия принципиально отличаются от слов, а не выделяются через возможность парафраз? Потому что GPT в целом обсуждать не хочется. :)
А конкретно по рассуждению: мне не кажется вполне осмысленной фраза "образ кастрюли в мозгу не будет точно соответствовать объекту". "Объекту" - это что? Другой образ?..
На самом деле, как я понял, под "объектом" эти "продвинутые философы" оказываются вынуждены понимать набор правил (либо - ничего не понимать, но немецкая критическая философия нынче не в моде). Физические законы. Но что такое эти законы? Это наша наклонность обнаруживать объекты. Правила мы себе задаём сами. Это - внутренний мир, а не внешний.
Итог - это догматизм: философы заранее задают, что такое объект, и просят, чтобы мы изучали их творчество. Творчество хорошее, от него бывает много плюшек, но ведь помимо него есть и реальный мир. Эти философы не хотят, чтобы мы его знали, они навязывают свои критерии знания: знание должно быть безошибочным. Но стремление к безошибочности неуместно, если нас интересует внешний мир. Не кажутся ли вам преувеличением все эти истории про крышку кастрюли, о которой вы ничего не знаете, в то время как GPT волшебным образом что-то знает? Да, она не покажется всегда одной и той же. Но и "абсолютно разной" она тоже казаться не будет. В наших квалиа имеется порядок. А эти философы считают нужным его игнорировать - но это и есть догматизм: они делают по своему вкусу, не более того.
Возможно, я зря упомянул философов. Это остаточное с давних университетских лекций Бранского по диамату. Я пытаюсь понять, в чем таки разница между нашей кастрюлей и кастрюлей GPT. И опять я не понял что такое у вас "понятие". Понятие принципиально отличается от слов. Но ведь описывается словами? Я не пробовал, но уверен, что GPT выдаст вам синонимов сколько душе угодно, и сформулирует статью для толкового словаря по каждому слову. При чем тут парафраз. Что мешает ему иметь в памяти все свойства предметов и явлений, где-то кем-то однажды описанные? Что такое "понятие", недоступное нашему кремниевому другу (ну, пока что другу)?
Я иногда упоминаю своё упрощенное представление о формировании понятий и "толкового словаря" у живых организмов. Начинается с усвоения различия между "добром" и "злом". В том смысле, что какие-то воздействия способствуют выживанию и продолжению рода, другие - наоборот. Эволюционистский подход, ага. Дальше идет дробление и оттенки дружественности явлений, классификация их по признакам. Целеполагание и мотивированное отношение к внешним явлениям получается исходно обусловленным (в отличие от обученного программного продукта, не унаследовавшего никаких целевых установок и связанных с ними "ощущений" - больно, тошнит, приятно, очень нужно и т.д.)
Подумайте, для чего нужны понятия. Не что они абстрактно такое, а для чего вам нужно помнить об их наличии.
Понятие думается, ощущается, проживается. Слово говорится. Оно тоже "ощущается", но по-другому - как якорь внимания, а не как modus vivendi. Жить можно по-разному, и когда мы формируем свою жизнь, то мы обращаемся к понятиям.
Э-ммм. Не чувствую вашего видения проблемы. Понятие думается, ощущается, проживается. Слово говорится. Я не уверен в возможностях GPT, мало пользовался. Но если ИИ "обучен" тому, что ковшик, кастрюля, латка, скороварка и так далее - близкие по применению объекты и может даже "объяснить" их различие, значит ли это наконец, что он обладает понятиями? При каких условиях вы скажете - да, умеет!
Когда мы формируем жизнь, мы обращаемся к мотивациям и целеполаганию. Понятия возникают из необходимости взаимодействовать с окружающим миром, различать и классифицировать его элементы по тому, как они взаимодействуют между собой, а в конечном итоге - с нами. Все эти взаимодействия мы обозначаем и описываем словами - эдакое вольное подобие математики. Конечно, эта "лингвистическая картина мира" очень далека от реального мира, но неплохо отражает наше о мире представление. Ну, за исключением того, что мы (пока?) словами выразить не можем. И искусственный мозг при достаточном объёме памяти вполне мог бы это картину со всеми понятиями и взаимодействиями освоить. Почему нет?
Ни при каких - это понятие "понятия" бесполезно для проведения границы между сильным и слабым ИИ. Болталка есть болталка. Физический процесс совсем другой - дискретный, характеризующийся устойчивостью состояний. Чтобы провести границу между ИИ и физическим носителем души, мне когда-то помогло совсем другое понятие - metastability (сейчас поищу ссылку на конкретное употребление, а пока допишу этот комментарий). Имеется в виду вот такой аспект этого понятия: это такой феномен в цифровой схемотехнике, который возникает достаточно редко, этого нарочно избегают, иначе брак. Но именно он преобразует цифровую схемотехнику в аналоговую, причём в упорядоченную аналоговую, и живая система именно такую аналоговость эксплуатирует (a belief, of course; no proof yet). Предположите на минуту, что для живой нервной системы metastability - это нормальное, обычное состояние. Возможно, в технических деталях я путаюсь, но это предположение передаёт общую идею: постоянные data races, упорядоченная случайность. Почему упорядоченные? Потому что вот эта гонка, а не вон та. Аналоговые компьютеры линейны по существу, в них такого эффекта тоже даже не возникает. Метафора: я бы сравнил душу с фонтаном, где течение отдельных струй неустойчиво, зато устойчива общая форма, создающая эстетическое впечатление в архитектурном ансамбле (но лишь при том условии, если фонтан ощущается "живым", "дышащим", то есть имеется существенная опора на эту неустойчивость, равно как и на устойчивость). В фонтане есть твёрдые части (насосы, трубы, гранит), которые ему (текущей воде) эту общую форму и придают. Разница: в душе "твёрдые части" упорядоченным образом смещаются под воздействием пертурбаций в потоках воды. И упомянутая "случайность" - это необходимое условие для появления сознания (упрощённо говоря, если выбора не возникает, то сознавать нечего). Так что у ИИ наподобие GPT в принципе нет шанса на сознание. Надо не просто использовать случайность, но и использовать её "правильным образом" (пока не знаю, что это значит). А мышление понятиями - это подразумевается лишь там, где сознание наличествует.
Про использование фактора случайности - понятно. Это центральное ядро всех кнструкций ИИ. Конечно, с присутствием макро-упорядоченности. Не уверен, что вы имеете в виду под аналоговыми компьютерами (припоминаю синус-косинусные потенциометры в РЛС). Это же не столь важно, распараллеливание и взаимодействие процессов, квантовые компьютеры... Мы же не про устройство.
Глянул текст по ссылке. Там немного про другую случайность, которая скорее баг, а не фича. В том, что планируется с квантовыми компьютерами этой неконтролируемой случайности будет выше крыши
И мы же не обсуждаем возможные (ничего исходно нельзя отвергать) трактовки человеческой мыслительной деятельности вне известных рамок электрической, химической, биологической активности мозга, или другие неведомые нам пока, возможные тонкости человеческого сознания. Речь только лишь об освоении "болталками" понятий. Ну и о том, что общение с ними очень трудно отличить от общения с человеком.
Иногда приводят в пример явление "озарения" - гипотезы абсолютно далекой ото всех мыслимых вариантов, не говоря о том, что логически ни из чего не следующей (приходящей "из Космоса"). С этим можно разбираться. Скромно скажу, что я за собой такого не замечал, зато многократно замечал обратное - мучительное нахождение идеи, которая однозначно выводилась из известного, или хуже, которую уже однажды находил, но "забыл"... Часто, кстати, голова пытается "угадать" красивые ответы - практически, как тот ChatGPT.
Я пошёл у вас на поводу и дал вам критерий для "освоения болталкой понятий" - что этот баг становится фичей (прямо так и сказал: в схемотехнике этого избегают; про квантовые вычисления ничего не говорил). Так что никакая не "другая", просто буквальный ответ на ваш вопрос. Поскольку спрашивали вы меня, то и отвечал я о том, что существенно на мой взгляд; об устройстве. А дальше - дело вкуса. Я думаю, тут весь вопрос не в том, как относиться к GPT, а в том, как относиться к людям. Если к людям относиться функционально, то разница и не будет заметной. Если нет, то становится важно, кто мы такие и почему.
Собственно, так и сказал: до тех пор, пока эта случайность не приводит к race conditions, это не та случайность. Псевдослучайность, созданная или обработанная дискретно работающим механизмом (цифровым, так или иначе разделяющим биты), не годится. Фактор аналоговости существен…
А конкретно по рассуждению: мне не кажется вполне осмысленной фраза "образ кастрюли в мозгу не будет точно соответствовать объекту". "Объекту" - это что? Другой образ?..
На самом деле, как я понял, под "объектом" эти "продвинутые философы" оказываются вынуждены понимать набор правил (либо - ничего не понимать, но немецкая критическая философия нынче не в моде). Физические законы. Но что такое эти законы? Это наша наклонность обнаруживать объекты. Правила мы себе задаём сами. Это - внутренний мир, а не внешний.
Итог - это догматизм: философы заранее задают, что такое объект, и просят, чтобы мы изучали их творчество. Творчество хорошее, от него бывает много плюшек, но ведь помимо него есть и реальный мир. Эти философы не хотят, чтобы мы его знали, они навязывают свои критерии знания: знание должно быть безошибочным. Но стремление к безошибочности неуместно, если нас интересует внешний мир. Не кажутся ли вам преувеличением все эти истории про крышку кастрюли, о которой вы ничего не знаете, в то время как GPT волшебным образом что-то знает? Да, она не покажется всегда одной и той же. Но и "абсолютно разной" она тоже казаться не будет. В наших квалиа имеется порядок. А эти философы считают нужным его игнорировать - но это и есть догматизм: они делают по своему вкусу, не более того.
Reply
Я пытаюсь понять, в чем таки разница между нашей кастрюлей и кастрюлей GPT.
И опять я не понял что такое у вас "понятие". Понятие принципиально отличается от слов. Но ведь описывается словами?
Я не пробовал, но уверен, что GPT выдаст вам синонимов сколько душе угодно, и сформулирует статью для толкового словаря по каждому слову. При чем тут парафраз. Что мешает ему иметь в памяти все свойства предметов и явлений, где-то кем-то однажды описанные?
Что такое "понятие", недоступное нашему кремниевому другу (ну, пока что другу)?
Я иногда упоминаю своё упрощенное представление о формировании понятий и "толкового словаря" у живых организмов. Начинается с усвоения различия между "добром" и "злом". В том смысле, что какие-то воздействия способствуют выживанию и продолжению рода, другие - наоборот. Эволюционистский подход, ага. Дальше идет дробление и оттенки дружественности явлений, классификация их по признакам. Целеполагание и мотивированное отношение к внешним явлениям получается исходно обусловленным (в отличие от обученного программного продукта, не унаследовавшего никаких целевых установок и связанных с ними "ощущений" - больно, тошнит, приятно, очень нужно и т.д.)
Reply
Понятие думается, ощущается, проживается. Слово говорится. Оно тоже "ощущается", но по-другому - как якорь внимания, а не как modus vivendi. Жить можно по-разному, и когда мы формируем свою жизнь, то мы обращаемся к понятиям.
Reply
Понятие думается, ощущается, проживается. Слово говорится.
Я не уверен в возможностях GPT, мало пользовался. Но если ИИ "обучен" тому, что ковшик, кастрюля, латка, скороварка и так далее - близкие по применению объекты и может даже "объяснить" их различие, значит ли это наконец, что он обладает понятиями? При каких условиях вы скажете - да, умеет!
Когда мы формируем жизнь, мы обращаемся к мотивациям и целеполаганию. Понятия возникают из необходимости взаимодействовать с окружающим миром, различать и классифицировать его элементы по тому, как они взаимодействуют между собой, а в конечном итоге - с нами. Все эти взаимодействия мы обозначаем и описываем словами - эдакое вольное подобие математики. Конечно, эта "лингвистическая картина мира" очень далека от реального мира, но неплохо отражает наше о мире представление. Ну, за исключением того, что мы (пока?) словами выразить не можем. И искусственный мозг при достаточном объёме памяти вполне мог бы это картину со всеми понятиями и взаимодействиями освоить. Почему нет?
Reply
Reply
Не уверен, что вы имеете в виду под аналоговыми компьютерами (припоминаю синус-косинусные потенциометры в РЛС). Это же не столь важно, распараллеливание и взаимодействие процессов, квантовые компьютеры... Мы же не про устройство.
Глянул текст по ссылке. Там немного про другую случайность, которая скорее баг, а не фича. В том, что планируется с квантовыми компьютерами этой неконтролируемой случайности будет выше крыши
И мы же не обсуждаем возможные (ничего исходно нельзя отвергать) трактовки человеческой мыслительной деятельности вне известных рамок электрической, химической, биологической активности мозга, или другие неведомые нам пока, возможные тонкости человеческого сознания. Речь только лишь об освоении "болталками" понятий. Ну и о том, что общение с ними очень трудно отличить от общения с человеком.
Иногда приводят в пример явление "озарения" - гипотезы абсолютно далекой ото всех мыслимых вариантов, не говоря о том, что логически ни из чего не следующей (приходящей "из Космоса"). С этим можно разбираться. Скромно скажу, что я за собой такого не замечал, зато многократно замечал обратное - мучительное нахождение идеи, которая однозначно выводилась из известного, или хуже, которую уже однажды находил, но "забыл"... Часто, кстати, голова пытается "угадать" красивые ответы - практически, как тот ChatGPT.
Reply
Reply
Reply
Reply
Leave a comment