Там же по ссылке вроде бы объясняется. «Создание модели личности с помощью сверхбольшого промпта для языковой модели». Правда, само по себе это более широкое понятие, означающее в том числе установку приложений из стороннего источника.
Предполагаемая загрузка копии сознания человека на искусственный носитель, который прототипирован по образу и подобию самого человека. Древняя футуристическая мулька.
Депрессивные мысли почему-то навеивает видео. Хотя, казалось бы, оптимистичное.
Последний раз я такой парадоксальный эффект чувствовал, когда читал длинный список требований к эвдемонической утопии у Юдковски, - появилось трудноописуемое горькое чувство, что 1) «едва ли люди когда-нибудь такую хрень построят»; 2) «если люди когда-нибудь такое и построят, едва ли я смогу в это инкорпорироваться, оставшись собой».
Меня всегда интересовала тема косвенного аплоадинга.
Восстановления личности по информационным следам.
Динозавра по косточке.
С рассказа Дмитрия Билёнкина «Проба личности», с произведений Владимира Ильина, где за десятилетия до chatGPT описывались «вирт-клоны» - голографические фантомы умерших, воссозданные по оставленным ими информационным следам.
Но по мере просмотра видео возникло и стало крепнуть почему-то чувство, что это дохлый номер.
Слишком отчётливо видно, что chatGPT не удерживает чётко «маску», всё время срывает её и в лучшем случае похож на «философского зомби второго рода» - одно разумное существо, притворяющееся
( ... )
там, конечно, не только сто фактов, там и статьи, и письма, и дневники - промпт на миллион токенов даёт загрузить несколько томов. просто первые факты нужны, чтобы задать определенную интепретацию всех остальных данных.
про одно существо притворяющееся другим - а что, если и мозг наш так делает? У его колласльные вычислительные ресурсы, сто триллионов синапсов, а на выходе часто существо с объемом памяти несколько бит.
А Вы представляете, что нейросети могут сделать с моделью вашей личности, если она окажется в их распоряжении?
Я вот как-то видел в Youtube обзор на нейросеть, которая создает гибриды фантастических существ. К примеру, гибрид птицы и медведя, дракона и пчелы. И получаются, с виду, вполне забавные существа. Нейросети, в принципе, всё равно, что комбинировать. Она так же может создавать условные информационные гибриды личностей, если уж их оцифровали.
И будет сопливая школота будущего развлекаться, создавая противоестественные "гибриды личностей" из разных знаменитостей. Вот из Вашей личности тоже гибрид с каким-нибудь великим историческим людоедом могут сделать. Нафиг оно надо?
К счастью, все эти модели личностей не будут обладать сознанием.
Один из самых очевидных способов подгонки модели под себя - тестирование её на различных ситуациях из вашей жизни, информацию о которой вы в неё не вкладывали напрямую. То есть потом, конечно, нужно и эту информацию вложить, но для начала - просто поставьте модель в ту или иную ситуацию из вашего прошлого, давнего или недавнего, обрисовав контекст, и следите за её выбором и поведением. По мере надобности корректируйте. И - ставьте новый тест.
Тут, конечно, возникают этические заминки.
Но, если верна «теория пыли» Игана (а мне почему-то кажется, что если о «самосознании текстовых автоматов» вообще корректно рассуждать, то к ним применима эта теория), то ни один сотворённый вами двойник всё равно сам для себя не прекратит существование.
Если же добьётесь вдруг полного подобия поведения...
Тогда остаётся только поместить двойника в вашу нынешнюю ситуацию. И выйти на связь с ним, объяснив: так и так, ты двойник и находишься в ВР. И создать для него каналы взаимодействия с Интернетом, причём в ускоренном времени.
Интересно будет посмотреть. Но подозреваю, что это имитация навроде древнеегипетских статуй, только говорящих, ностальгический протез родственника.
Только для самго себя такое бесполезно.
Поскольку, я в этом уже уверился, сознание это квантовое явление. Сознание (в принципе) невозможно копировать, но теоретически возможно перенести. Только нейросети к этому не имеют ни малейшего отношения, они только могут создать персонаж компьютерной игры. который притворяется вашим умершим родственником.
Интересно, как можно в этом «увериться»? За пределы себя не вылезти, это главный парадокс. Нельзя понять изнутри, причинная механическая связь ты, квантовое поле или что-то ещё.
Я вижу б0льшую проблему (то есть не зависящую от философской неоднозначности) в трудновоспроизводимости всех тех структур, из которых мы состоим, но... это грустная тема.
Я исхожу из того, что сознание - это не эпифеномен, это не пассивный наблюдатель, а необходимость. Необходимость, возникшая во время эволюции. Несколько лет назад я, для себя, пришел к выводу, что "философский зомби" не может существовать. В природе тело без сознания это просто труп.
Говоря о квантовом сознинии, я не имею в виду что-то вроде панпсихизма Чалмерса. А то мы можем дойти до абсурдной мысли, что электроны и атомы имеют сознание. Нет, не просто квантовое явление.
Я не очень понимаю, каким образом сознание может быть полезным в этом плане.
Ну то есть:
- что такое сознание?
С одной стороны, есть какая-то непонятная причудливая фигня, вызывающая чувство недоумения. То, о чём говорят, когда имеют в виду загадку квалиа. Здесь трудно что-то сформулировать. Назовём это «компонент Икс».
С другой стороны, есть поддающаяся рациональному подходу или структуризации часть. Наши мысли, то, как они причинно связаны между собой. Это выглядит более понятно, даже более того, может быть отображено в нейросетевом алгоритме.
Так вот:
- «компонент Икс» эволюции как будто не нужен, а если нужен, то непонятно как. Как он влияет на поведение животных? У людей-то понятно: заставляет их говорить про «таинственную загадку квалиа». А у животных как? Зачем это улитке?
- причинно-структурная часть нашего сознания, постижимая, действительно явным и доказуемым образом связана с нашим поведением и нужна ему. Вот только квантовые эффекты вроде бы пока не кажутся нужными для неё.
Comments 17
Reply
Там же по ссылке вроде бы объясняется. «Создание модели личности с помощью сверхбольшого промпта для языковой модели». Правда, само по себе это более широкое понятие, означающее в том числе установку приложений из стороннего источника.
Reply
Сорри,
как-то пара ув.редакторов, печатавших мои искусствоведческие статьи,
включая "Энциклопедию искусства 20 века" на англ. языке, сообщил мне:
- "О сложном надо писать просто, а об очень сложном еще более просто"
Reply
Предполагаемая загрузка копии сознания человека на искусственный носитель, который прототипирован по образу и подобию самого человека. Древняя футуристическая мулька.
Reply
Депрессивные мысли почему-то навеивает видео. Хотя, казалось бы, оптимистичное.
Последний раз я такой парадоксальный эффект чувствовал, когда читал длинный список требований к эвдемонической утопии у Юдковски, - появилось трудноописуемое горькое чувство, что 1) «едва ли люди когда-нибудь такую хрень построят»; 2) «если люди когда-нибудь такое и построят, едва ли я смогу в это инкорпорироваться, оставшись собой».
Меня всегда интересовала тема косвенного аплоадинга.
Восстановления личности по информационным следам.
Динозавра по косточке.
С рассказа Дмитрия Билёнкина «Проба личности», с произведений Владимира Ильина, где за десятилетия до chatGPT описывались «вирт-клоны» - голографические фантомы умерших, воссозданные по оставленным ими информационным следам.
Но по мере просмотра видео возникло и стало крепнуть почему-то чувство, что это дохлый номер.
Слишком отчётливо видно, что chatGPT не удерживает чётко «маску», всё время срывает её и в лучшем случае похож на «философского зомби второго рода» - одно разумное существо, притворяющееся ( ... )
Reply
там, конечно, не только сто фактов, там и статьи, и письма, и дневники - промпт на миллион токенов даёт загрузить несколько томов. просто первые факты нужны, чтобы задать определенную интепретацию всех остальных данных.
про одно существо притворяющееся другим - а что, если и мозг наш так делает? У его колласльные вычислительные ресурсы, сто триллионов синапсов, а на выходе часто существо с объемом памяти несколько бит.
Reply
А Вы представляете, что нейросети могут сделать с моделью вашей личности, если она окажется в их распоряжении?
Я вот как-то видел в Youtube обзор на нейросеть, которая создает гибриды фантастических существ. К примеру, гибрид птицы и медведя, дракона и пчелы. И получаются, с виду, вполне забавные существа. Нейросети, в принципе, всё равно, что комбинировать. Она так же может создавать условные информационные гибриды личностей, если уж их оцифровали.
И будет сопливая школота будущего развлекаться, создавая противоестественные "гибриды личностей" из разных знаменитостей. Вот из Вашей личности тоже гибрид с каким-нибудь великим историческим людоедом могут сделать. Нафиг оно надо?
К счастью, все эти модели личностей не будут обладать сознанием.
Reply
Один из самых очевидных способов подгонки модели под себя - тестирование её на различных ситуациях из вашей жизни, информацию о которой вы в неё не вкладывали напрямую. То есть потом, конечно, нужно и эту информацию вложить, но для начала - просто поставьте модель в ту или иную ситуацию из вашего прошлого, давнего или недавнего, обрисовав контекст, и следите за её выбором и поведением. По мере надобности корректируйте. И - ставьте новый тест.
Тут, конечно, возникают этические заминки.
Но, если верна «теория пыли» Игана (а мне почему-то кажется, что если о «самосознании текстовых автоматов» вообще корректно рассуждать, то к ним применима эта теория), то ни один сотворённый вами двойник всё равно сам для себя не прекратит существование.
Если же добьётесь вдруг полного подобия поведения...
Тогда остаётся только поместить двойника в вашу нынешнюю ситуацию. И выйти на связь с ним, объяснив: так и так, ты двойник и находишься в ВР. И создать для него каналы взаимодействия с Интернетом, причём в ускоренном времени.
Воплотим в жизнь кошмар ( ... )
Reply
Интересно будет посмотреть. Но подозреваю, что это имитация навроде древнеегипетских статуй, только говорящих, ностальгический протез родственника.
Только для самго себя такое бесполезно.
Поскольку, я в этом уже уверился, сознание это квантовое явление. Сознание (в принципе) невозможно копировать, но теоретически возможно перенести. Только нейросети к этому не имеют ни малейшего отношения, они только могут создать персонаж компьютерной игры. который притворяется вашим умершим родственником.
Reply
Интересно, как можно в этом «увериться»? За пределы себя не вылезти, это главный парадокс. Нельзя понять изнутри, причинная механическая связь ты, квантовое поле или что-то ещё.
Я вижу б0льшую проблему (то есть не зависящую от философской неоднозначности) в трудновоспроизводимости всех тех структур, из которых мы состоим, но... это грустная тема.
Reply
Я исхожу из того, что сознание - это не эпифеномен, это не пассивный наблюдатель, а необходимость. Необходимость, возникшая во время эволюции. Несколько лет назад я, для себя, пришел к выводу, что "философский зомби" не может существовать. В природе тело без сознания это просто труп.
Говоря о квантовом сознинии, я не имею в виду что-то вроде панпсихизма Чалмерса. А то мы можем дойти до абсурдной мысли, что электроны и атомы имеют сознание. Нет, не просто квантовое явление.
Reply
Я не очень понимаю, каким образом сознание может быть полезным в этом плане.
Ну то есть:
- что такое сознание?
С одной стороны, есть какая-то непонятная причудливая фигня, вызывающая чувство недоумения. То, о чём говорят, когда имеют в виду загадку квалиа. Здесь трудно что-то сформулировать. Назовём это «компонент Икс».
С другой стороны, есть поддающаяся рациональному подходу или структуризации часть. Наши мысли, то, как они причинно связаны между собой. Это выглядит более понятно, даже более того, может быть отображено в нейросетевом алгоритме.
Так вот:
- «компонент Икс» эволюции как будто не нужен, а если нужен, то непонятно как. Как он влияет на поведение животных? У людей-то понятно: заставляет их говорить про «таинственную загадку квалиа». А у животных как? Зачем это улитке?
- причинно-структурная часть нашего сознания, постижимая, действительно явным и доказуемым образом связана с нашим поведением и нужна ему. Вот только квантовые эффекты вроде бы пока не кажутся нужными для неё.
Reply
Leave a comment