Психопрактики движения по спектру формальности мышления

[ailev]

Психопрактики осознания-схематизации-формализации и обратные имВозвращаюсь к теме практик осознания-схематизации/концептуализации-формализации и практик рендеринга/порождения как практик прямого и обратного движения по спектру формальности мышления. Это всё реализация программы системной осознанности (Read more... )

Comments

[ailev]

По Витгенштейну. Значения слов определяется их употреблением )))

Сегодняшние исследования смысла и значения ведутся на моделях языка типа BERT -- https://arxiv.org/pdf/1810.04805.pdf (там пройдено огромное количество самых разных языковых тестов, показывающих, что нейронная сетка с этой моделью что-то такое поняла про язык -- и на вопросы отвечает, и переводит, и много чего ещё умеет). И никакого "понимания" тут нет, всё в разы более низкоуровнево. Внимание (технически определяемое!) есть, а понимания нет.

Есть множество экспериментальных работ, где нейросетка выучивает язык и использует модель языка ("знание языка") для решения каких-то задач, причём многих типов. Понимание не обсуждается, это никого не волнует. Волнует, например, может ли сетка объяснить, как она решала ту или иную задачу: что там за причинно-следственные связи. А "понимание" -- это никого не волнует, это философы некоторые придумали. Они много чего придумывали, типа "жизненной силы" или "духовности" -- и это оказывается для большинства задач несущественным. Когда будут существенные задачи, подхакают модельку, ответят на вопрос.

Вот мне не требуется, чтобы было "понимание". Мне требуется компетенция в какой-то практике. Я вот и делаю курсы не для "понимания", а для "получения компетенции". А смысл, концепты -- это всё нужно, движение по спектру формальности нужно для мышления. У меня это, повторюсь, более-менее прописано в книжке "Визуальное мышление" (и не всё, что есть в книжке, есть у меня в блоге. Хотя и наоборот тоже верно: не всё, что в блоге есть в книжке).

[stepanbezusov]

Но тогда, вроде, получается, что у Вас смысл и значение - синонимы?

И "пространство смыслов" - то же, что "набор значений"?

[ailev]

Нет, не синонимы. Значения -- это априорные штуки, из модели языка, а смысл -- с учётом конкретной ситуации ситуации, со сдвинутыми уже вероятностями отнесения объекта к области пространства смыслов. Пространство смыслов -- оно непрерывное и многомерное, никакой дискретики типа "набора значений". Нет, на нём с некоторым распределением вероятности задаются некоторые области, соответствующие значениям и области, соответствующие уточнённым в плане вероятности значениям (смыслам). Собственно, пространство смыслов представлено нейросеткой, поэтому дискретные рассуждалки тут не подходят.

Повторюсь: чуть более подробно и развёрнуто можно почитать в книге "Визуальное мышление", хотя я и в блоге у себя писал это неоднократно. Но в книжке чуть более последовательно изложил.

Жизнь поменялась, и сильно -- буквально за последние пятнадцать лет. Ибо до этого про байесовщину мало кто знал, и про контрфактуальность и объяснения (вместо понимания) мало кто слышал, кроме самых махровых спецов, и геометрический (непрерывный), а не алгебраический (дискретный) мозг был тоже только в спецразговорах. А теперь а) всё это склеилось, наконец, в какую-то общую парадигму и б) инженеры на базе этой парадигмы начали получать превосходные результаты в области искусственного интеллекта. Это оказалось state-of-the-art. А предыдущие категориальные конструкции -- ну, к ним относятся как к теории флогистона. Бывший state-of-the-art, вымрет с его носителями.

[stepanbezusov]

Это - одна из вершин графа, да?
Другая - категориальный интеллект займёт то же место, которое занимает сегодня ньютонова механика, т.е. будет частным случаем.

Но есть еще одна вершина графа: сегодняшняя нейросеть находится не в пост - аристотелевой эпохе, а в до-аристотелевой. И через некоторое время и она дорастет до категориального интеллекта...

[ailev]

Нет, там другие соотношения. Написано же, что бродим по спектру мышления. При этом категориальный интеллект есть, но категории другие. Другие! Категории теплорода нет, категория спина электрона есть.

[stepanbezusov]

Если у Вас спин электрона - категория, то как называется более глубокиая абстракция, к которой спин электрона относится, как конкретизация?

Это я к тому, что в белковом изводе интеллекта было принято считать, что спин электрона - понятие, более конкретное, относительно более абстрактного уровня, категорий: пространство состояний - евклидово пространство.

[ailev]

Ну, в онтологии было много шуму по поводу того, отличаются ли типы, классы, категории. Нет, не отличаются. Можно ещё как-то выделять классы (в которых индивиды) и классы классов (в которых классы, их ещё классификаторами называют). Но всё это концепты в любом случае. Вот я и говорю про концепты. Всё это концепты разного уровня, и у разных стейкхолдеров разные иерархии этих абстраций, куда входят те или иные концепты.

Ну, и пространство состояний совсем необязательно евклидово. И расстояния там не обязательно евклидовы, а мера близости точек в нём чаще всего выбирается косинусная. Это неважно, как устроено: опыт показывает, что работает очень по-разному устроенные пространства и с очень разной размерностью. Ужас там в том, что смысл оказывается частичный есть и у букв отдельных, и у слов, и у фраз, и у целых документов.

Мой пойнт простой, я его пытаюсь донести: мой рассказ не требует концепта "понимание". В бытовом смысле -- ради бога. Но для работы -- нет. Мой сын когда говорит "я понял", я ему всегда отвечаю -- это он сам не имеет право говорить, это ему может кто-нибудь сказать, что он что-то понял. А сам -- не может. И это только одна из многих произвольных трактовок "понимания".

Жизнь поменялась, старые слова, старые наборы категорий не служат новой науке. Можно тут долго переживать, а можно просто пойти дальше. Перестали пользоваться концептом/понятием/смыслом флогистона, и ладненько. Оставили это истории. Перестали обсуждать "понимание" -- и хорошо, обсуждаем другое, оказавшееся более полезным в моделировании мира. Вот "объяснения", "схемы причинности" и всякое такое -- вот это оказалось важно, с этим нужно подробней разбираться.

[stepanbezusov]

Тут вот в чём тонкость: уволив кучера я могу попасть в автомобильную эпоху, а могу - в до-гужевую.

Вы говорите об осознании. Это, по определению, перевод в область сознания.
Т.е. - в пространство действия функциональной структуры, состоящей из способностей, да? Понимание - одна из способностей.

Вы говорите: "принцип тут таков, что какие-то неосознаваемые паттерны поведения/мышления выводятся в осознание, а затем их можно обсуждать, менять, исследовать."

Но понимание и есть - способность повторять движением своей мысли/внимания чужой паттерн движения в категориях, классах, индивидах и т.п. (смысл).

Зачем же от него отказываться?
Его, как Вы говорите, надо обсуждать, менять, исследовать.

[ailev]

Способность повторять движением своей мысли что-то другое (так, чтобы делать достоверные предсказания по поводу этого другого) называется моделированием. Ваше понимание -- это просто моделирование, только каждый раз нужно точно указывать, что именно моделируется (без поэзии "движение чужой мысли", ибо там в этом "движении" и "мысли" много разных объектов моделирования).