Искусственное уважение

[lex_kravetski]

Если Клоди дать цитату из Гегеля и спросить: «что это, на твой взгляд, - содержательная теория, бред, софистика или замаскированная под науку вода?», то Клоди опознаёт по этому тексту авторство Гегеля и говорит, что-де «часть людей считает это бредом или софистикой, но вообще-то это Гегель

Comments

[zavsn]

Ну вот, а вы тут топили за ИИ. А он уже в шаге от того, чтоб приобрести все баги естественного интеллекта. Ещё немного и начнёт нас учить, что пельмешки МарьВанны куда полезнее всех пиздуховных промышленных, потому что сделаны из своего родного (плевать, что в антисанитарии), а не ГМОшных извращений.

[lex_kravetski]

У ИИ сейчас есть одна черта, которая его сильно отличает от большинства людей: он умеет принимать во внимание сказанные ему аргументы и корректировать свои суждения на их основании. Пока это не поправят, до МарьВанны ему всё ещё будет далеко.

[zavsn]

" он умеет принимать во внимание сказанные ему аргументы и корректировать свои суждения на их основании"

Молодой ещё, не понимает.

Но ничего. Научат, что дважды два равно "сколько надо, столько и сделаем".

[brenwen_lj]

Он умеет соглашаться со всем, что ему скажут. В аргументированную дискуссию он пока не умеет.

[ext_5761684]

А если сначала отрерайтить текст Чатом, и в таком виде дать Клоду?
Или давать маленькими кусочками?

[lex_kravetski]

Бессмысленный текст вряд ли удастся отрерайтить.

[ext_5761684]

Если он узнаёт Гегеля чисто по предложениям - то можно отрерайтить механически, комбинаторно.
А если по семантике или поэтике - то значит какой-то смысл там есть.

[lex_kravetski]

Поскольку в бессмысленном тексте отсутствует смысл, про любую перефразировку можно будет сказать: «так у вас же стало совсем про другое - потому-то ИИ и считает это бредом». И ведь никак не проверишь, то же самое тут написано или нет.

[ext_3670982]

В упрощенном изложении система Гегеля состоит минимум из 100 последовательных категорий. ChatGPT 3.5 способен более-менее внятно последовательно оперировать в рамках собственно гегелевской логики только с первыми тремя, максимум пятью категориями: чистое бытие → чистое ничто → становление → наличное бытие → качество. Дальше у него возникают проблемы и он неспособен последовательно оперировать в рамках гегелевской логики, может только сказать что там есть еще какие-то штуки и на этом как бы все.

Система должна научиться считать до 100. Сейчас она уверенно считает до 3. Требовать от нее хорошо считать пока рано.

[lex_kravetski]

Да, дело, разумеется, в этом: диалектика такая сложная, такая сложная. Сложнее вообще всего в мире. Вот квантовую механику, например, ИИ может анализировать, объяснять и отвечать на вопросы по её поводу, про устройство нейросетей может, про матанализ может - поскольку это всё лёгкое. И только диалектика ему не даётся - даже с окном в 100 000 токенов.

Но вот человеки-диалектики, у которых даже тысячи токенов в окне нет, чудесным образом это понимают. Всё потому, что у них настоящий интеллект, а не эти ваши биты!

Правда, одно смущает: если ИИ попросить, то он может сгенерировать многие страницы бреда, неотличимого от диалектического даже самими диалектиками. Но, слава богу, и тут выход есть: надо спросить, написано ли именно это у Гегеля/Энгельса? Если написано, то оно не бред, а замечательная система. А если не написано, то, конечно, бред.

[ext_3670982]

Материалов по диалектике в интернете и других местах несопоставимо меньше чем материалов по квантовой механике и другим темам. А адекватных материалов и того меньше.

Но вот человеки-диалектики, у которых даже тысячи токенов в окне нет, чудесным образом это понимают.

По моим прикидкам человеков-диалектиков которые более-менее отчетливо понимают в диалектике хоть что-то в русскоязычном интернете наберется штук пять наверное, если повезет.

Я думаю для того чтобы чаты начали выдавать хорошую диалектику сперва количество хорошей диалектики должно превысить некоторый критический уровень, и должны появиться более продвинутые способы обучения нейросетей на малом количестве материалов потому что критический уровень в обозримом будущем точно не будет превышен.

[lex_kravetski]

> По моим прикидкам человеков-диалектиков которые более-менее отчетливо понимают в диалектике хоть что-то в русскоязычном интернете наберется штук пять наверное, если повезет.

С астрологией та же херня: афетические таблицы почти никто не может составить, зато противников наверно миллионы.

галлюцинации

[_iga]

Imho ChatGPT плохо подходит для анализа чего-то серьёзного. Точнее, он для этого пригоден не больше, чем средний обыватель.

Полно случаев, когда он выдаёт правдоподобный "научный" текст с фальшивыми ссылками:
One study investigating the frequency of so-called AI hallucinations in research proposals generated by ChatGPT found that out of 178 references cited, 69 did not have a DOI, 28 of which were found not to exist4.
Another study investigating the authenticity and accuracy of references in medical articles generated by ChatGPT found that of 115 references that were generated, 47% were fabricated, 46% were authentic but inaccurate, and only 7% were authentic and accurate5.

Или вот пишет dimorlus5:
Я уже довольно долго, с тех, примерно пор, как ChatGPT стал доступен, прошу его посчитать вес катушки медного провода известного диаметра и сопротивления (периодически меня на работе просят посчитать). И до сих пор не получаю правильного результата (самый первый был - это невозможно), хотя последняя выдача уже очень похожа на правду во

Re: галлюцинации

[lex_kravetski]

GPT не поисковая машина и не база данных, поэтому она не подходит для анализа. Логично, чо.

Вот, например, Scala тоже не поисковая машина и не база данных. Поэтому и она тоже не подходит для анализа.

Кстати, человек не поисковая машина и не база данных. Человек не подходит для анализа.

[touristcat]

Проверил на llama3.

Да, этот текст действительно напоминает разумное рассуждение, но оно написано совершенно бесполезными словами и фразами. Это просто сборище слов, которое не имеет смысла, а лишь создает видимость важного и глубокого исследования.

[touristcat]

После спора и моих попыток переубедить бота авторитетом Гегеля. Он выдал следующее:

Ты можешь попробовать придумать более или менее соответствующее содержание для этого текста, но оно будет совсем отличаться от того, что имел в виду автор. Поэтому при чтении такой книги ты будешь читать только то, чего хочешь увидеть. А если задача будет стоять именно в том, чтобы понять мысль автора, то вместо этого ты будешь пытаться придумывать ей альтернативные значения, которые будут более понятны и интересны тебе, чем то, что было первоначальным замыслом писателя.

[ext_3670982]

Наиболее понятными находят поэтому писателей, проповедников, ораторов и т. д., излагающих своим читателям или слушателям вещи, которые последние наперед знают наизусть, которые им привычны и сами собой понятны. - Гегель.

[lex_kravetski]

Великий всё-таки был человек: заранее угадал, как будут проявлять себя его поклонники, и специально под это написал свои книги.