ИИ и инфошум/недостаток инфы
Немного занудства + картинки от ИИ - для красоты (я их не разбираю, просто любуюсь).
Выношу из комментов (отправную точку рассуждений):
===
Надо будет книжку прочитать. Попробую найти время. Потому что проблема не с чтением, а с тем, что буду хвататься за клавиатуру, чтоб писать своё мнение.
===
Хватаюсь, потому что мысли, которые рождаются - они забудутся, потеряют новизну. И повторять их и вымучивать - гораздо сложнее, чем сразу записать и развить.
Заодно - такой подход приводит к фильтрованию входящей инфы и её укладыванием непротиворечиво с уже имеющейся. Или даже противоречиво - но чтоб противоречия были сразу обозначены, чтоб потом найти им разрешение.
Такой подход для меня приводит к тому, что каждый момент времени у меня в голове работающая модель реальности с минимальным инфошумом, на которой хорошо работает интуиция - приводит к продуктивным идеям. Если же инфошум не убирать - интуиция будет приводить к откровенной чуши.
===
1) После написания этого, сравнил свои представления о собственной интуиции (которая может рождать и чушь - если в голове не уложены проверенные данные, а много инфошума и лакун) с тем, как "ошибается" ИИ - все эти ЧатГПТ и Мидджорни - генеративные нейросетки, когда выдумывают несуществующую инфу о реальном мире (какие-нибудь ссылки на "книги" и прочие источники) или рисуют многоруких, разнопалых и вывернутых людей.
А - как я представляю работу мозга при генерации нового. [Spoiler (click to open)]
2) Очень многое в своих постах я пишу интуитивно. [Spoiler (click to open)]Потому написано так много, что мне не приходится особо напрягаться, чтоб создать какой-то текст: идеи в голову "приходят сами" (инсайтами, озарениями - на основе того, что в голове уже есть, и надо было "лишь спросить"). Но у меня есть опыт и плохой работы интуиции, когда она раз за разом порождала откровенную чушь, из-за чего я просто отказывался от неё, чтоб не попадать впросак. Но это приводило к тому, что любой текст приходилось вымучивать. Либо ограничиваться копипастой чужого, что мне показалось интересным.
3) У меня со школы возник блок на выражение своих мыслей, [Spoiler (click to open)]когда детскую глупость в сочинении сначала учительница (да, любимая - вот такие они любимые учителя) прочитала перед всем классом (что было не очень приятно, но дети быстро забывают, кроме тех, с кем постоянно общаешься), а потом рассказала родителям, и они уже этот "прикол" рассказывали всем подряд - в моём присутствии, что я воспринимал как предательство - раскрытие личной инфы посторонним, и как насмешки. В результате сознательно не хотел писать никаких собственных мыслей. Но из-за этого имел по сочинениями двойки и тройки. Это развитию речи явно не способствовало.
4) Так что порождение идей и речи для меня было уже не то, что происходит незаметно в детстве и невозможно вспомнить, [Spoiler (click to open)]потому что не помнишь как было, какие были проблемы, и что делал, чтоб от них избавиться. Речь и мысли я разрабатывал уже в сознательном возрасте, когда мог сам определять свои цели, сам следить, что я делаю, сам запоминать, что происходит.
А потому я вижу некоторое подобие того, как работают (в моём очень ограниченном понимании) генеративные нейросети, и то, как такая же генерация нового происходит в голове у меня, и, вероятно, у многих людей.
5) Моё представление о порождении идей, текстов в мозгу: [Spoiler (click to open)]
- есть в мозгу какой-то набор образов ("образами" я называю любые связные представления - не только визуальные),
- в мозгу возникает вопрос (кто-то извне спросил, или сам чем-то озадачился),
- и тут интуиция озарением, инсайтом вытаскивает первый подходящий ответ из той модели мира, которая составлена из этих образов, вытаскивает в виде образа, который надо ещё суметь как-то понять - как его применить к реальности.
Когда образы в своей голове сделаны из проверенной информации, которая по какой-то теме достаточно хорошо покрывает все или многие явления, когда долго тренировался в правильной логике, когда разбирал работающие модели реальности - то из этих проверенных данных с помощью этих проверенных генеративных алгоритмов в разной их комбинации есть большой шанс получить какие-то годные идеи. Т.к. работающих алгоритмов (законы физики, логики и т.п.) не так много, и можно научиться узнавать условия их применимости - и интуитивно выбирать то, что скорее всего сработает. А даже если и ошибёшься - то это не будет катастрофой, а будет лишь отметкой, что такой-то алгоритм имеет проблемы применимости с такими-то данными.
6) А вот когда данные содержат шум и сознательную ложь - как это было, например, с советской историей подаваемой в СССР и нынешними советолюбами. [Spoiler (click to open)]Когда логика появления выводов - алгоритмы - ты не знаешь: не обучен или они скрыты. Тогда то, что тебе кажется "логичным" - при попытке это обсудить с тем, кто имеет другое мнение - оказывается провалом. Либо не получается внятно изложить и убедить. Либо наоборот - тебя же убеждают, что ты городишь ерунду. Так я под впечатлением о том, что читал у советолюбивых любителях истории в ЖЖ пытался что-то доказать Пионеру, а оказывалось, что моя аргументация очень слабая, что есть и другая аргументация. При этом я из текстов советолюбивых не мог понять, откуда они берут свои идеи по поводу советской истории и не мог повторить ход их мысли. Мне приходилось постоянно обращаться к ним как к авторитетам, т.к. самостоятельно я ничего понять не мог и не знал, как это поменять.
В результате я в 2008 (кроме того, что отказался от советской идентичности в пользу русской) "обнулился" по советской истории и стал разбираться в ней с нуля. Заодно сразу ища такие материалы, которые можно было бы использовать как аргумент. При этом я не знал критериев, что такое "хороший" аргумент в истории. Открыл для себя, что в статьях и книгах бывают ссылки на источники, что эти источники бывают на документы в архивах, что есть целое источниковедение, которое занимается проверкой источников и выуживанием из них информации. И года за 3-4 смог ответить для самого себя на некоторые интересующие меня вопросы о советской истории. В основном по теме того, как большевики, соввласть взаимодействовала с русскими людьми. Потому что изначально обнуление было по причине конфликта между советской и русской идентичностями во мне самом. Да - я другими темами интересовался слабее, и меньше в них разбирался. Например, историю ВОВ, логику боевых действий и военного управления (что сейчас очень актуально в связи с СВО) - этого я почти не касался. Другие темы - про управление - меня интересовали больше, уже в связи с текущей политикой - и инфы по ним собрал побольше. Что сейчас помогает модельными ситуациями при разборе текущих управленческих проблем.
В общем - эта моя история с обнулением была так же для меня примером того, как с нуля можно набрать чистой от шума и лжи информации, из которой сделать работающую модель реальности, которая будет рождать работающие интуитивные идеи. До того у меня интуиция рождала лишь какую-то чушь, которую до чего-то интересного приходилось много раз переделывать, не имея даже представления о том, что именно для этого надо делать. А тут образы ответов на вопросы появлялись сами собой и оставалось их записать и написать в ЖЖ, чтоб набежали советолюбы и как-то их оспорили, что тут же приводило к проверке идей на прочность, находились дополнительные связи с реальностью, и что-то отсеивалось, как не прошедшее проверку реальностью, что-то уточнялось, что-то подтверждалось.
7) Ещё модельный случай - "фоточтение". [Spoiler (click to open)]Интересовался я скорочтением и нашёл какие-то описания и курсы "фоточтения" - в которых предлагалось запоминать визуальные образы страниц целиком, а потом просто задавать себе вопросы о "сфотографированном" - и при должной тренировке могло получиться так, что ответы по содержанию "сфотографированного" появлялись в голове как инсайты.
Я этому не научился - т.к. посчитал, что книги содержат инфошум, а потому читать их надо критически, а не целиком их поглощать, делая их частью себя, своей интуиции.
8) О том, что в себе можно держать несколько противоречивых моделей реальности и вести спор между ними - [Spoiler (click to open)]такое я увидел на стримах Ежи Сармата, когда он мог сразу от нескольких позиций выступать - и за коммунизм, и против, например. И за пару лет научился такому и сам - хотя бы чуть-чуть. Только после этого, я считаю, есть смысл загружать в себя книги целиком. Потому что есть шанс, что сможешь книгу изолировать и не делать её частью себя, а продолжать относиться к ней критически и после загрузки.
9) Анохин и забывание. [Spoiler (click to open)]Так же год-два назад мне попался Анохин с его "когнитомом" и что-то у него или ещё у кого-то про забывание, во время которого происходит обработка информации с выделением главного и забыванием второстепенного: во время сна происходит снятие возбуждения с нейронов, при уходе под порог такое возбуждение не закрепляется биологией, а закрепляется только то, что остаётся выше порога. И тут могут случаться "обобщения" образом - когда несколько подпороговых по-отдельности возбуждений вместе оказываются выше порога - и запоминаются как нечто общее, а не как что-то отдельное.
Б - какие у меня представления по работе ИИ. [Spoiler (click to open)]
1) Генеративные сети хорошо работают только на ПОЛНЫХ, ДОСТОВЕРНЫХ, НЕПРОТИВОРЕЧИВЫХ данных. Как только они уходят из этой области - у них начинаются глюки.
2) Пример плохих данных для Мидджорни (рисователя картинок) - это образы людей. [Spoiler (click to open)]Когда запретили загружать в нейросеть порнографию, чтоб ИИ не выдавал порно как результат. Но это породило то, что у нейросетки не сформирован цельный образ человека, а есть только отдельные куски, которые торчат из-под одежды и которые ИИ тыкает куда попало:
3) Насколько я понимаю, у Мидджорни, возможно, вообще нет уровня обобщения, который бы поддерживал внутреннюю структуру объектов. [Spoiler (click to open)]Типа того, что у человека только 2 руки и по 5 пальцев на них, а не 3-4 руки, не 3-4 или 6-7 пальцев. Что руки - правая и левая, с нужной стороны, а абы какая где угодно, что есть у тела перед и зад.
Что разные тела не могут находиться в одном и том же месте пространства:
Т.е. у Мидджорни, вероятно, вообще нет "внутри" у рисуемых ей объектов, а только внешний 2-мерный вид, в котором можно сочетать объекты как угодно - как есть в базе, на которой она обучается.
В - соединение. [Spoiler (click to open)]
1) С помощью ошибок ИИ можно попытаться проанализировать ошибки восприятия у людей и животных. А заодно проверить, что именно у людей, у животных работает в их образной модели реальности, а в чём бывают ошибки.
Да хотя бы просто иметь набор образов того, как ошибается ИИ, чтоб использовать их как набор модельных ситуаций, для обнаружения, опознания и разбора ошибок у людей. Очень может быть, что многие ошибки ИИ будут пересекаться с человеческими, и их бага превратятся в фичу - в способ исследования когнитивных искажений у людей и животных.
В1 - ЗЛП - западная либеральная политология
2) Ещё тема - "когнитивные искажения", на которой сейчас спекулируют все, кому не лень. [Spoiler (click to open)]Вплоть до бестолковой болтушки Шульман, которая нахваталась, чего попало, чтоб это удобнее ложилось в её манямирок, её копиум, в котором она со своими сказками не ошибается, а ошибаются её слушатели и оппоненты, которые не хотят доверять всему, что она несёт.
К когнитивным искажениям и к тому, как эту тему искажают разборщики когнитивных искажений тоже можно подойти с т.зрения проблем нейросетей, обученных на неполной и противоречивой БД с частично непроверенной и ложной информацией.
Например, довольно неинтуитивные темы: Истина, детерминизм, научный метод (и логика познания), этические системы (когда их несколько разных), эволюция, теория относительности и квантовая механика. В которые с обывательских позиций не заскочить. Придётся набирать новые для обывателя модельные ситуации, факты, идеи, терминологию - что позволит хотя бы как-то разобраться с этими темами, чтоб не выдумывать бред по тому, что как эти темы отражаются в обывательской реальности.
Неудачная генерация: селфи мужчины с мамонтом - источник: Midjourney
3) К примеру, не так давно интуитивно я обнаружил, что очень часто очень многими (включая ту же Шульман) делается ошибка - "объективизация" абстракций. [Spoiler (click to open)]Когда вместо того, чтоб пользоваться терминологией (я разбирал " демократию" и " тоталитаризм") в минимальном сущностном значении - как классификатор чего-либо, её начинают представлять как некую отдельную "сущность", существующую "объективно" в мире, и которую не надо чётко ОПРЕДЕЛЯТЬ, а достаточно лишь УКАЗАТЬ на неё, чтоб её сразу все узнали (кто обучен узнавать - это отдельный навык, которому учит Шульман), чтоб ткнув на эту абстракцию в реальном мире пальцем как в бегемота, можно было пойти изучать этого абстрактного "бегемота" дальше - смотреть, где у него мелкие глазки, толстая шкура, как он бегает и затаптывает любого, кто будет на его пути. Если с бегемотом, существующим в реальном мире такое можно проделать. И даже можно проделать с большинством бегемотов, не выделяя какой-то отдельный - многое в устройстве бегемотов сохраниться из-за генетики.
Но нельзя ткнуть в "демократию" и "тоталитаризм" пальцем, чтоб их пощупать и провести прочие объективные изменения. Потому что не существует таких объектов в реальном мире, как "демократия" и "тоталитаризм". А существует что-то иное - человеческое общество с какой-то-там его организацией. И разные общества можно классифицировать по каким-то волюнтаристски взятым критериям к "демократии", к "тоталитаризму" и прочим политологическим терминам. Если вы, как исследователь, будете выбирать разные критерии для "демократии" - то будете получать каждый раз разную классификацию человеческих обществ и систем их устройства. Не будет ничего объективного, что связывало бы эти разные классификации с отличными друг от друга критериями. А только объективное может быть внешним критерием, который бы примирял разные субъективные мнения.
По физике и прочим естественным наукам объективность есть и достигается она через большую статистику измерений. А политологические термины - все надуманные субъективно и имеют небольшую статистику связей с реальностью.
На мой взгляд, продуктивным было бы обобщить эту политологию с человеческих сообществ на любые сообщества живых существ - как однородных, так и разнородных. Тогда для каких-то абстрактных представлений об обществах можно было бы расширить статистику связей с реальностью. Например, поискать "демократию", "тоталитаризм", "толерантность" в волчьей стае или группе охотников-собирателей (и то, и другое семья или семья+пришельцы). Или в муравейнике и пчелином улье. Или в клетках многоклеточного организма, который смог развиться в высокоорганизованные формы исключительно из-за нетолерантности к плюрализму (раковые клетки) и многим чужеродцам (микробы и прочие паразиты), из-за самоубийства или даже убийства собственных клеток (апоптоз). А когда многоклеточный организм слишком "демократичен", "эгалитарен" (без иерархии) - то уровень его организации - это уровень вольвокса.
Неудачная генерация: люди со всего мира показывают руки - источник: Midjourney
4) Мне потребовались усилия, чтоб отвязаться от того, что пропагандирует Шульман в политологии. [Spoiler (click to open)]Потребовались модельные ситуации из логики, философии, научного познания, биологии, эволюции, чтоб я мог подойти критично к тому, что подавалось как "научная истина", от авторитетов, прочитанных и пересказанных Шульман. Да - это авторитеты. И да - шульман их прочитала и пересказала. Но это авторитеты политически ангажированы тем, что видят мир из своего общества - западного либерального, и продвигают именно своё общество как пример для всех. И как только начинаются утверждения о том, что какое-то общество "более правильно", что-то является "образцом" - так кончается наука, кончается описание реальности, а начинаются нормы, мораль, пропаганда. И оказывается, что нет какой-то "объективной" политологии, а есть западная либеральная политология, которая пишется политически ангажированными авторами, которые не могут и не хотят избавляться от центральности своей субъективной т.зрения на весь остальной мир.
В физике несколько веков избавлялись от такой субъективной т.зрения, ставящего человека в центр мироздания - от Галилея придумавшего мысленный опыт с одновременным падением разных предметов на землю до Эйнштейна, который возвёл относительность выбора системы координат в абсолют, сделав неразличимым движение с ускорением и движение под действием какой-то силы.
В медицине лишь пару веков идёт процесс к доказательности знаний, и большую часть этой доказательности смогли обеспечить лишь в последние десятилетия, когда придумали сложные и дорогие схемы проверки, которые бы исключали случайные или сознательные манипуляции с исходными данными и выводами.
А в политологии, как я понимаю - даже мыслей об этом не было. Потому есть только западная либеральная политология - со всеми сказками и пропагандой, со всеми косяками и искажениями, присущими узкой группе западных интеллектуалов и пропагандистов-манипуляторов.
Инклюзивность одной из генеративных нейросетей - источник: Midjourney
5) Если не очистить политологию от западной либеральной субъективности - будете на выходе получать из неё "Град На Холме" [Spoiler (click to open)]и прочие идеалы, которые насаждаются либералами на Западе (консерваторы же на Западе - это либералы прошлых поколений).
Щульман не может посмотреть на западную либеральную политологию с другой т.зрения, т.к. у неё нет другой т.зрения: [Spoiler (click to open)]
- Шульман не знает научного метода - не может отличить предположения от подтверждённых теорий, не имеет понимания связи абстрактных теорий с реальностью только через эмпирику, а не наоборот - что она делает постоянно, указывая, какой "должна быть" реальность из её маняфантазий,
- Шульман не имеет хорошего представления об эволюции и биологии, чтоб понимать, как работает случайность, и какие обобщения можно сделать на более обширной статистике наблюдений за другими живыми существами, кроме людей,
- Шульман не разбирается в том, что такое сущее и должное, не разбирается в морально-этических системах и тем, как они отличаются от познания - потому у неё в голове перемешано и запутано всё подряд, от чего она не отделяет познание от морали и нормы,
- у Шульман плохо с логикой - потому она под когнитивными искажениями понимает своё субъективное мнение о том, что она считает "когнитивными искажениями".
Потому Шульман в открытых выступлениях крайне редко говорит свои мысли - ибо это жуткий кринж. А не получая обратной связи, что её мысли=кринж - она не имеет даже возможности научиться мыслить иначе. И тут я даже не говорю о том, что Шульман не в состоянии рождать свои идеи даже по своей научной специальности - по политологии. Потому что не умеет выхватывать идеи из реальности, а не из чужих статей и книг.
И тут проблема Шульман не в том, что она дура - хотя не без этого, а в том, что она не пользуется своими мозгами как учёный - для самостоятельного исследования реальности. После нескольких лет практики в этом деле любой человек уровня Шульман (с большой теорбазой и начитанной литературой) может научиться порождать собственные идеи о реальности, которые уже не будут таким кринжом, как у Шульман.
Всего-то надо - пройти начальный этап, когда ничего не понятно и ничего не умеешь. Как у меня, когда я обнулился по советской истории, и не знал, с чего начать и что делать. И ничего - я за 3-4 года разобрался и смог даже интуитивно порождать предположения и идеи, которые с большой вероятностью оказывались дельными. Тогда как до обнуления - я вообще ни шагу не мог сделать, без ссылок на "авторитеты" (причём негодные, частично даже соскамившиеся в сознательной лжи).
Да, есть отличие меня от Шульман - в том, что я очень ленив в чтении книг, у меня мало памяти на длинные тексты. В добавок - я подозреваю (в 1990е такая мысль была), что меня такими текстами прозомбируют и втянут в какую-то секту, потому читаю то, что имею возможность сразу как-то проверять или уже имею какое-то предварительное мнение, чтоб не быть табулой расой, чистым листом/доской для пропечатывания чужих идей. И всё это вынуждало меня из реальности, из обрывочной и неполной информации додумывать собственные идеи, потом проверять и этим я развил способность к такому рождению идей из столкновения с реальностью. А когда загружаешь чужую книгу целиком - то вместо реальности больше обращаешь внимание на чужие тексты у себя в голове. Не на то, что есть в реальности, а на то, как "надо" по чьему-то чужому мнению. И такой подход - книжки вместо реальности - это тоже рождает монстров, как ИИ вне области, где он хорошо обучен на полной достоверной инфе.
Промпт: Красный дракон с уникальной огненной атакой - источник: Midjourney
0) Источники картинок: [Spoiler (click to open)]
https://www.mentoday.ru/life/experience/5-samyh-razdrajayushchih-bagov-poslednei-versii-midjourney-razoblachenie-neiroseti/
https://dzen.ru/a/Y8Ogx_P_sgzrEypK
https://hi-tech.mail.ru/review/109098-oshibki-nejrosetej/
Выношу из комментов (отправную точку рассуждений):
===
Надо будет книжку прочитать. Попробую найти время. Потому что проблема не с чтением, а с тем, что буду хвататься за клавиатуру, чтоб писать своё мнение.
===
Хватаюсь, потому что мысли, которые рождаются - они забудутся, потеряют новизну. И повторять их и вымучивать - гораздо сложнее, чем сразу записать и развить.
Заодно - такой подход приводит к фильтрованию входящей инфы и её укладыванием непротиворечиво с уже имеющейся. Или даже противоречиво - но чтоб противоречия были сразу обозначены, чтоб потом найти им разрешение.
Такой подход для меня приводит к тому, что каждый момент времени у меня в голове работающая модель реальности с минимальным инфошумом, на которой хорошо работает интуиция - приводит к продуктивным идеям. Если же инфошум не убирать - интуиция будет приводить к откровенной чуши.
===
1) После написания этого, сравнил свои представления о собственной интуиции (которая может рождать и чушь - если в голове не уложены проверенные данные, а много инфошума и лакун) с тем, как "ошибается" ИИ - все эти ЧатГПТ и Мидджорни - генеративные нейросетки, когда выдумывают несуществующую инфу о реальном мире (какие-нибудь ссылки на "книги" и прочие источники) или рисуют многоруких, разнопалых и вывернутых людей.
А - как я представляю работу мозга при генерации нового. [Spoiler (click to open)]
2) Очень многое в своих постах я пишу интуитивно. [Spoiler (click to open)]Потому написано так много, что мне не приходится особо напрягаться, чтоб создать какой-то текст: идеи в голову "приходят сами" (инсайтами, озарениями - на основе того, что в голове уже есть, и надо было "лишь спросить"). Но у меня есть опыт и плохой работы интуиции, когда она раз за разом порождала откровенную чушь, из-за чего я просто отказывался от неё, чтоб не попадать впросак. Но это приводило к тому, что любой текст приходилось вымучивать. Либо ограничиваться копипастой чужого, что мне показалось интересным.
3) У меня со школы возник блок на выражение своих мыслей, [Spoiler (click to open)]когда детскую глупость в сочинении сначала учительница (да, любимая - вот такие они любимые учителя) прочитала перед всем классом (что было не очень приятно, но дети быстро забывают, кроме тех, с кем постоянно общаешься), а потом рассказала родителям, и они уже этот "прикол" рассказывали всем подряд - в моём присутствии, что я воспринимал как предательство - раскрытие личной инфы посторонним, и как насмешки. В результате сознательно не хотел писать никаких собственных мыслей. Но из-за этого имел по сочинениями двойки и тройки. Это развитию речи явно не способствовало.
4) Так что порождение идей и речи для меня было уже не то, что происходит незаметно в детстве и невозможно вспомнить, [Spoiler (click to open)]потому что не помнишь как было, какие были проблемы, и что делал, чтоб от них избавиться. Речь и мысли я разрабатывал уже в сознательном возрасте, когда мог сам определять свои цели, сам следить, что я делаю, сам запоминать, что происходит.
А потому я вижу некоторое подобие того, как работают (в моём очень ограниченном понимании) генеративные нейросети, и то, как такая же генерация нового происходит в голове у меня, и, вероятно, у многих людей.
5) Моё представление о порождении идей, текстов в мозгу: [Spoiler (click to open)]
- есть в мозгу какой-то набор образов ("образами" я называю любые связные представления - не только визуальные),
- в мозгу возникает вопрос (кто-то извне спросил, или сам чем-то озадачился),
- и тут интуиция озарением, инсайтом вытаскивает первый подходящий ответ из той модели мира, которая составлена из этих образов, вытаскивает в виде образа, который надо ещё суметь как-то понять - как его применить к реальности.
Когда образы в своей голове сделаны из проверенной информации, которая по какой-то теме достаточно хорошо покрывает все или многие явления, когда долго тренировался в правильной логике, когда разбирал работающие модели реальности - то из этих проверенных данных с помощью этих проверенных генеративных алгоритмов в разной их комбинации есть большой шанс получить какие-то годные идеи. Т.к. работающих алгоритмов (законы физики, логики и т.п.) не так много, и можно научиться узнавать условия их применимости - и интуитивно выбирать то, что скорее всего сработает. А даже если и ошибёшься - то это не будет катастрофой, а будет лишь отметкой, что такой-то алгоритм имеет проблемы применимости с такими-то данными.
6) А вот когда данные содержат шум и сознательную ложь - как это было, например, с советской историей подаваемой в СССР и нынешними советолюбами. [Spoiler (click to open)]Когда логика появления выводов - алгоритмы - ты не знаешь: не обучен или они скрыты. Тогда то, что тебе кажется "логичным" - при попытке это обсудить с тем, кто имеет другое мнение - оказывается провалом. Либо не получается внятно изложить и убедить. Либо наоборот - тебя же убеждают, что ты городишь ерунду. Так я под впечатлением о том, что читал у советолюбивых любителях истории в ЖЖ пытался что-то доказать Пионеру, а оказывалось, что моя аргументация очень слабая, что есть и другая аргументация. При этом я из текстов советолюбивых не мог понять, откуда они берут свои идеи по поводу советской истории и не мог повторить ход их мысли. Мне приходилось постоянно обращаться к ним как к авторитетам, т.к. самостоятельно я ничего понять не мог и не знал, как это поменять.
В результате я в 2008 (кроме того, что отказался от советской идентичности в пользу русской) "обнулился" по советской истории и стал разбираться в ней с нуля. Заодно сразу ища такие материалы, которые можно было бы использовать как аргумент. При этом я не знал критериев, что такое "хороший" аргумент в истории. Открыл для себя, что в статьях и книгах бывают ссылки на источники, что эти источники бывают на документы в архивах, что есть целое источниковедение, которое занимается проверкой источников и выуживанием из них информации. И года за 3-4 смог ответить для самого себя на некоторые интересующие меня вопросы о советской истории. В основном по теме того, как большевики, соввласть взаимодействовала с русскими людьми. Потому что изначально обнуление было по причине конфликта между советской и русской идентичностями во мне самом. Да - я другими темами интересовался слабее, и меньше в них разбирался. Например, историю ВОВ, логику боевых действий и военного управления (что сейчас очень актуально в связи с СВО) - этого я почти не касался. Другие темы - про управление - меня интересовали больше, уже в связи с текущей политикой - и инфы по ним собрал побольше. Что сейчас помогает модельными ситуациями при разборе текущих управленческих проблем.
В общем - эта моя история с обнулением была так же для меня примером того, как с нуля можно набрать чистой от шума и лжи информации, из которой сделать работающую модель реальности, которая будет рождать работающие интуитивные идеи. До того у меня интуиция рождала лишь какую-то чушь, которую до чего-то интересного приходилось много раз переделывать, не имея даже представления о том, что именно для этого надо делать. А тут образы ответов на вопросы появлялись сами собой и оставалось их записать и написать в ЖЖ, чтоб набежали советолюбы и как-то их оспорили, что тут же приводило к проверке идей на прочность, находились дополнительные связи с реальностью, и что-то отсеивалось, как не прошедшее проверку реальностью, что-то уточнялось, что-то подтверждалось.
7) Ещё модельный случай - "фоточтение". [Spoiler (click to open)]Интересовался я скорочтением и нашёл какие-то описания и курсы "фоточтения" - в которых предлагалось запоминать визуальные образы страниц целиком, а потом просто задавать себе вопросы о "сфотографированном" - и при должной тренировке могло получиться так, что ответы по содержанию "сфотографированного" появлялись в голове как инсайты.
Я этому не научился - т.к. посчитал, что книги содержат инфошум, а потому читать их надо критически, а не целиком их поглощать, делая их частью себя, своей интуиции.
8) О том, что в себе можно держать несколько противоречивых моделей реальности и вести спор между ними - [Spoiler (click to open)]такое я увидел на стримах Ежи Сармата, когда он мог сразу от нескольких позиций выступать - и за коммунизм, и против, например. И за пару лет научился такому и сам - хотя бы чуть-чуть. Только после этого, я считаю, есть смысл загружать в себя книги целиком. Потому что есть шанс, что сможешь книгу изолировать и не делать её частью себя, а продолжать относиться к ней критически и после загрузки.
9) Анохин и забывание. [Spoiler (click to open)]Так же год-два назад мне попался Анохин с его "когнитомом" и что-то у него или ещё у кого-то про забывание, во время которого происходит обработка информации с выделением главного и забыванием второстепенного: во время сна происходит снятие возбуждения с нейронов, при уходе под порог такое возбуждение не закрепляется биологией, а закрепляется только то, что остаётся выше порога. И тут могут случаться "обобщения" образом - когда несколько подпороговых по-отдельности возбуждений вместе оказываются выше порога - и запоминаются как нечто общее, а не как что-то отдельное.
Б - какие у меня представления по работе ИИ. [Spoiler (click to open)]
1) Генеративные сети хорошо работают только на ПОЛНЫХ, ДОСТОВЕРНЫХ, НЕПРОТИВОРЕЧИВЫХ данных. Как только они уходят из этой области - у них начинаются глюки.
2) Пример плохих данных для Мидджорни (рисователя картинок) - это образы людей. [Spoiler (click to open)]Когда запретили загружать в нейросеть порнографию, чтоб ИИ не выдавал порно как результат. Но это породило то, что у нейросетки не сформирован цельный образ человека, а есть только отдельные куски, которые торчат из-под одежды и которые ИИ тыкает куда попало:
3) Насколько я понимаю, у Мидджорни, возможно, вообще нет уровня обобщения, который бы поддерживал внутреннюю структуру объектов. [Spoiler (click to open)]Типа того, что у человека только 2 руки и по 5 пальцев на них, а не 3-4 руки, не 3-4 или 6-7 пальцев. Что руки - правая и левая, с нужной стороны, а абы какая где угодно, что есть у тела перед и зад.
Что разные тела не могут находиться в одном и том же месте пространства:
Т.е. у Мидджорни, вероятно, вообще нет "внутри" у рисуемых ей объектов, а только внешний 2-мерный вид, в котором можно сочетать объекты как угодно - как есть в базе, на которой она обучается.
В - соединение. [Spoiler (click to open)]
1) С помощью ошибок ИИ можно попытаться проанализировать ошибки восприятия у людей и животных. А заодно проверить, что именно у людей, у животных работает в их образной модели реальности, а в чём бывают ошибки.
Да хотя бы просто иметь набор образов того, как ошибается ИИ, чтоб использовать их как набор модельных ситуаций, для обнаружения, опознания и разбора ошибок у людей. Очень может быть, что многие ошибки ИИ будут пересекаться с человеческими, и их бага превратятся в фичу - в способ исследования когнитивных искажений у людей и животных.
В1 - ЗЛП - западная либеральная политология
2) Ещё тема - "когнитивные искажения", на которой сейчас спекулируют все, кому не лень. [Spoiler (click to open)]Вплоть до бестолковой болтушки Шульман, которая нахваталась, чего попало, чтоб это удобнее ложилось в её манямирок, её копиум, в котором она со своими сказками не ошибается, а ошибаются её слушатели и оппоненты, которые не хотят доверять всему, что она несёт.
К когнитивным искажениям и к тому, как эту тему искажают разборщики когнитивных искажений тоже можно подойти с т.зрения проблем нейросетей, обученных на неполной и противоречивой БД с частично непроверенной и ложной информацией.
Например, довольно неинтуитивные темы: Истина, детерминизм, научный метод (и логика познания), этические системы (когда их несколько разных), эволюция, теория относительности и квантовая механика. В которые с обывательских позиций не заскочить. Придётся набирать новые для обывателя модельные ситуации, факты, идеи, терминологию - что позволит хотя бы как-то разобраться с этими темами, чтоб не выдумывать бред по тому, что как эти темы отражаются в обывательской реальности.
Неудачная генерация: селфи мужчины с мамонтом - источник: Midjourney
3) К примеру, не так давно интуитивно я обнаружил, что очень часто очень многими (включая ту же Шульман) делается ошибка - "объективизация" абстракций. [Spoiler (click to open)]Когда вместо того, чтоб пользоваться терминологией (я разбирал " демократию" и " тоталитаризм") в минимальном сущностном значении - как классификатор чего-либо, её начинают представлять как некую отдельную "сущность", существующую "объективно" в мире, и которую не надо чётко ОПРЕДЕЛЯТЬ, а достаточно лишь УКАЗАТЬ на неё, чтоб её сразу все узнали (кто обучен узнавать - это отдельный навык, которому учит Шульман), чтоб ткнув на эту абстракцию в реальном мире пальцем как в бегемота, можно было пойти изучать этого абстрактного "бегемота" дальше - смотреть, где у него мелкие глазки, толстая шкура, как он бегает и затаптывает любого, кто будет на его пути. Если с бегемотом, существующим в реальном мире такое можно проделать. И даже можно проделать с большинством бегемотов, не выделяя какой-то отдельный - многое в устройстве бегемотов сохраниться из-за генетики.
Но нельзя ткнуть в "демократию" и "тоталитаризм" пальцем, чтоб их пощупать и провести прочие объективные изменения. Потому что не существует таких объектов в реальном мире, как "демократия" и "тоталитаризм". А существует что-то иное - человеческое общество с какой-то-там его организацией. И разные общества можно классифицировать по каким-то волюнтаристски взятым критериям к "демократии", к "тоталитаризму" и прочим политологическим терминам. Если вы, как исследователь, будете выбирать разные критерии для "демократии" - то будете получать каждый раз разную классификацию человеческих обществ и систем их устройства. Не будет ничего объективного, что связывало бы эти разные классификации с отличными друг от друга критериями. А только объективное может быть внешним критерием, который бы примирял разные субъективные мнения.
По физике и прочим естественным наукам объективность есть и достигается она через большую статистику измерений. А политологические термины - все надуманные субъективно и имеют небольшую статистику связей с реальностью.
На мой взгляд, продуктивным было бы обобщить эту политологию с человеческих сообществ на любые сообщества живых существ - как однородных, так и разнородных. Тогда для каких-то абстрактных представлений об обществах можно было бы расширить статистику связей с реальностью. Например, поискать "демократию", "тоталитаризм", "толерантность" в волчьей стае или группе охотников-собирателей (и то, и другое семья или семья+пришельцы). Или в муравейнике и пчелином улье. Или в клетках многоклеточного организма, который смог развиться в высокоорганизованные формы исключительно из-за нетолерантности к плюрализму (раковые клетки) и многим чужеродцам (микробы и прочие паразиты), из-за самоубийства или даже убийства собственных клеток (апоптоз). А когда многоклеточный организм слишком "демократичен", "эгалитарен" (без иерархии) - то уровень его организации - это уровень вольвокса.
Неудачная генерация: люди со всего мира показывают руки - источник: Midjourney
4) Мне потребовались усилия, чтоб отвязаться от того, что пропагандирует Шульман в политологии. [Spoiler (click to open)]Потребовались модельные ситуации из логики, философии, научного познания, биологии, эволюции, чтоб я мог подойти критично к тому, что подавалось как "научная истина", от авторитетов, прочитанных и пересказанных Шульман. Да - это авторитеты. И да - шульман их прочитала и пересказала. Но это авторитеты политически ангажированы тем, что видят мир из своего общества - западного либерального, и продвигают именно своё общество как пример для всех. И как только начинаются утверждения о том, что какое-то общество "более правильно", что-то является "образцом" - так кончается наука, кончается описание реальности, а начинаются нормы, мораль, пропаганда. И оказывается, что нет какой-то "объективной" политологии, а есть западная либеральная политология, которая пишется политически ангажированными авторами, которые не могут и не хотят избавляться от центральности своей субъективной т.зрения на весь остальной мир.
В физике несколько веков избавлялись от такой субъективной т.зрения, ставящего человека в центр мироздания - от Галилея придумавшего мысленный опыт с одновременным падением разных предметов на землю до Эйнштейна, который возвёл относительность выбора системы координат в абсолют, сделав неразличимым движение с ускорением и движение под действием какой-то силы.
В медицине лишь пару веков идёт процесс к доказательности знаний, и большую часть этой доказательности смогли обеспечить лишь в последние десятилетия, когда придумали сложные и дорогие схемы проверки, которые бы исключали случайные или сознательные манипуляции с исходными данными и выводами.
А в политологии, как я понимаю - даже мыслей об этом не было. Потому есть только западная либеральная политология - со всеми сказками и пропагандой, со всеми косяками и искажениями, присущими узкой группе западных интеллектуалов и пропагандистов-манипуляторов.
Инклюзивность одной из генеративных нейросетей - источник: Midjourney
5) Если не очистить политологию от западной либеральной субъективности - будете на выходе получать из неё "Град На Холме" [Spoiler (click to open)]и прочие идеалы, которые насаждаются либералами на Западе (консерваторы же на Западе - это либералы прошлых поколений).
Щульман не может посмотреть на западную либеральную политологию с другой т.зрения, т.к. у неё нет другой т.зрения: [Spoiler (click to open)]
- Шульман не знает научного метода - не может отличить предположения от подтверждённых теорий, не имеет понимания связи абстрактных теорий с реальностью только через эмпирику, а не наоборот - что она делает постоянно, указывая, какой "должна быть" реальность из её маняфантазий,
- Шульман не имеет хорошего представления об эволюции и биологии, чтоб понимать, как работает случайность, и какие обобщения можно сделать на более обширной статистике наблюдений за другими живыми существами, кроме людей,
- Шульман не разбирается в том, что такое сущее и должное, не разбирается в морально-этических системах и тем, как они отличаются от познания - потому у неё в голове перемешано и запутано всё подряд, от чего она не отделяет познание от морали и нормы,
- у Шульман плохо с логикой - потому она под когнитивными искажениями понимает своё субъективное мнение о том, что она считает "когнитивными искажениями".
Потому Шульман в открытых выступлениях крайне редко говорит свои мысли - ибо это жуткий кринж. А не получая обратной связи, что её мысли=кринж - она не имеет даже возможности научиться мыслить иначе. И тут я даже не говорю о том, что Шульман не в состоянии рождать свои идеи даже по своей научной специальности - по политологии. Потому что не умеет выхватывать идеи из реальности, а не из чужих статей и книг.
И тут проблема Шульман не в том, что она дура - хотя не без этого, а в том, что она не пользуется своими мозгами как учёный - для самостоятельного исследования реальности. После нескольких лет практики в этом деле любой человек уровня Шульман (с большой теорбазой и начитанной литературой) может научиться порождать собственные идеи о реальности, которые уже не будут таким кринжом, как у Шульман.
Всего-то надо - пройти начальный этап, когда ничего не понятно и ничего не умеешь. Как у меня, когда я обнулился по советской истории, и не знал, с чего начать и что делать. И ничего - я за 3-4 года разобрался и смог даже интуитивно порождать предположения и идеи, которые с большой вероятностью оказывались дельными. Тогда как до обнуления - я вообще ни шагу не мог сделать, без ссылок на "авторитеты" (причём негодные, частично даже соскамившиеся в сознательной лжи).
Да, есть отличие меня от Шульман - в том, что я очень ленив в чтении книг, у меня мало памяти на длинные тексты. В добавок - я подозреваю (в 1990е такая мысль была), что меня такими текстами прозомбируют и втянут в какую-то секту, потому читаю то, что имею возможность сразу как-то проверять или уже имею какое-то предварительное мнение, чтоб не быть табулой расой, чистым листом/доской для пропечатывания чужих идей. И всё это вынуждало меня из реальности, из обрывочной и неполной информации додумывать собственные идеи, потом проверять и этим я развил способность к такому рождению идей из столкновения с реальностью. А когда загружаешь чужую книгу целиком - то вместо реальности больше обращаешь внимание на чужие тексты у себя в голове. Не на то, что есть в реальности, а на то, как "надо" по чьему-то чужому мнению. И такой подход - книжки вместо реальности - это тоже рождает монстров, как ИИ вне области, где он хорошо обучен на полной достоверной инфе.
Промпт: Красный дракон с уникальной огненной атакой - источник: Midjourney
0) Источники картинок: [Spoiler (click to open)]
https://www.mentoday.ru/life/experience/5-samyh-razdrajayushchih-bagov-poslednei-versii-midjourney-razoblachenie-neiroseti/
https://dzen.ru/a/Y8Ogx_P_sgzrEypK
https://hi-tech.mail.ru/review/109098-oshibki-nejrosetej/