ChatGPT

Feb 27, 2023 13:08

Наконец-то дошли руки до того, чтобы пощупать сабж. В текущих условиях это сделать было непросто - нужен телефон для регистрации, но не все страны подходят. Однако с этим помогли проживающие за границей друзья ( Read more... )

ИИ, наука, философия

Leave a comment

sharper_ February 27 2023, 10:48:28 UTC
Статья Стивена Вольфрама в тему https : writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

Reply

ext_2251255 February 27 2023, 11:50:33 UTC
Ога, они там «переизобрели» человеческую память - вроде именно так мозга пользуется языковыми конструкциями - ассоциативный вероятностный ряд.

На этой идее построено всё современное обучение иностранным языкам: не учи слова, учи сразу устойчивые выражения и готовые тексты, из которых потом мозг наберёт тебе твой собственный…

Reply

sharper_ February 27 2023, 18:13:03 UTC

Непонятно увлечение этими вероятностями. Языковые конструкции детерминированы, но вариабельны.

Reply

ext_2251255 February 27 2023, 20:03:45 UTC
Я ж не лингвист.

Пишут, что человеческий мозг выбирает следующие слова случайным образом, но вероятность выбрать слово из тех, что твой мозг обычно использует в таком случае (параметрически там и контекст беседы, и предыдущее слово и т.п.) зависит от того, как часто он обычно это слово использует в этом контексте 🤣

Что звучит как Капитан Очевидность и масло масляное, но вот так.

Reply

sharper_ February 28 2023, 04:52:11 UTC

Вот это непонятная мне точка зрения. Как следование букв в словоформах определено совершенно однозначно, так и следование слов в сочетаниях тоже. Если представить используемые словосочетания в виде траекторий, то получим сеть обход узлов которой, может осуществляться не единственным, но строго закономерным способом.

Reply

ext_2251255 February 28 2023, 12:25:20 UTC
Надо, как и наш мозг, вносить рандомизацию в процесс (генетические алгоритмы, туда-сюда), т.е. хороший процесс - он всегда изменчивый.
Не будет изменений - не будет возможности к приспособлению (развитие - побочный эффект, думается мне).

Вот и тут так - развитие речи в процессе использования определяется тоже генетическим алгоритмом - наиболее удачные случайные изменения закрепляются в популяции.
Тут только механизм оценки иной, оценивают все носители языка по принципу нравится/не нравится.

Для копирования человека компьютеру надо работать ровно также.

Я так это вижу (tm)

Reply

sharper_ March 1 2023, 02:47:23 UTC

Изменчивость не равнозначна случайности. Реализоваться могут исключительно физически разрешенные, но не реализованные спонтанно альтернативы. У монеты только строго два варианта исхода (ребро не рассматриваем). Когда допустимо множество альтернатив мы просто не знаем какие из них являются запрещенными. Это как эволюция клеточных автоматов, поведение которых непредсказуемо, но напрочь детерминировано. Чуть ниже мой ответ Лексу, он и на Ваш коммент отвечает

Reply

ext_2251255 March 1 2023, 08:45:04 UTC
Т,е. случайное число в диапазоне от 0 до 100 - не случайное?!! 🤣

Да это гениально!

[лежит под столом]

Reply

sharper_ March 1 2023, 08:59:55 UTC

Зависит от определения. Колмогоров если правильно помню, считал, что теория информации должна предварять теорию вероятности, а не опираться на нее. Но в отношении запрета на случайное число большее 100 все меньшие в этом отношении закономерны. Впрочем интереснее, если бы некоторые были запрещены в границах диапазона и их выпадение было бы невозможно

Reply

ext_2251255 March 1 2023, 10:45:04 UTC
Т.е. число все-таки случайное, пусть и диапазон ограничен от 0 до 100?

Тогда к чему был бессмысленный пассаж
« Изменчивость не равнозначна случайности. Реализоваться могут исключительно физически разрешенные … бла бла»
?

Генетический алгоритм - это случайные изменения с закреплением результата, подходящего под критерии оценки лучше всего.
В природе критерий оценки - передача генов дальше.
Всё.

Также отвечу на вопрос:
>> Впрочем интереснее, если бы некоторые были запрещены в границах диапазона и их выпадение было бы невозможно

Ну, игнорируй числа 6, 9 и 43.
От этого, возможно, слегка изменится вероятность выпадения других чисел, но она и так не обязана быть равномерной в общем случае 🤷🏻

Reply

sharper_ March 1 2023, 12:52:09 UTC

Реализоваться могут исключительно физически разрешенные … бла бла»>>

Это вообще-то не бла-бла, а квантмех. Впрочем ладно.

Reply

ext_2251255 March 1 2023, 14:19:01 UTC
Раз мы так любим словоблудие, то давайте для начала узнаем, какое отношение квантовая механика имеет к макромиру, в котором мы находимся ;)

И имеет ли вообще 🤣

Reply

sharper_ March 1 2023, 15:15:52 UTC

Например позволяет пересмотреть некоторые устоявшиеся положения в неожиданном ракурсе

Reply

lex_kravetski February 28 2023, 21:47:05 UTC
И какой же именно детерминистический алгоритм позволяет сделать однозначный выбор между, например, «вечера я сходил в гости к Васе» и «вчера я побывал у Васи в гостях»?

Reply

sharper_ March 1 2023, 02:21:11 UTC

Первое сообщение детализирует информацию о свершившемся перемещении источника в геометрическое место пребывания "в гостях", второе только о самом факте пребывания, из соображения достаточности степени детализации для приемника способного самостоятельно восстановить пропущенную по умолчанию информацию. Выбор того или иного продолжения после слов "вчера я" может зависеть от множества факторов, начиная от важности привлечения внимания к событию перемещении, или, наоборот, отвлечения дабы избежать лишних вопросов. А также выработанной за многие годы привычкой "ходить по любимой тропинке", т.е. использовать одни и те же словосочетания, если, конечно, нет необходимости избегать частого повторения.
Примерно так я представляю механизм развертывание мысленного образа в текстовую последовательность путем неосознаваемого, но не случайного выбора разрешенного "маршрута".

Впрочем даже случайный выбор в точке ветвления всегда детерминирован набором разрешенных продолжений, причем до следующей точки ветвления может быть достаточно длинный ( ... )

Reply

lex_kravetski March 1 2023, 11:30:13 UTC
> Первое сообщение детализирует информацию о свершившемся перемещении источника в геометрическое место пребывания "в гостях", второе только о самом факте пребывания, из соображения достаточности степени детализации для приемника способного самостоятельно восстановить пропущенную по умолчанию информацию. Выбор того или иного продолжения после слов "вчера я" может зависеть от множества факторов, начиная от важности привлечения внимания к событию перемещении, или, наоборот, отвлечения дабы избежать лишних вопросов.

Где алгоритм выбора-то?

> А также выработанной за многие годы привычкой "ходить по любимой тропинке", т.е. использовать одни и те же словосочетания, если, конечно, нет необходимости избегать частого повторения.

И как это предлагается описать без концепции вероятности?

Reply


Leave a comment

Up