Уважение к авторитету

[kot_kam]

Сейчас у Иванов-Петрова прочел:

Если Клоди дать цитату из Гегеля и спросить: «что это, на твой взгляд, - содержательная теория, бред, софистика или замаскированная под науку вода?», то Клоди опознаёт по этому тексту авторство Гегеля и говорит, что-де «часть людей считает это бредом или софистикой, но вообще-то это Гегель

Comments

[livelight]

Я правильно понял, что его научили уважению к авторитетам? А это точно прогресс? А то чуть раньше какую-то нейронку (возможно, другую) научили не думать мысли, которые могут обидеть негров или кого-то ещё, и вроде бы все согласились, что она от этого поглупела.

[kot_kam]

Если сказать, что его научили учитывать еще один важный фактор, это можно считать прогрессом?

[kot_kam]

И, в любом случае, я говорил не об ИИ.

[livelight]

Для меня выглядит примерно так, что его научили ещё одному когнитивному искажению. Он, возможно, стал более "человечным" (или, точнее, нормотипично-человечным), но стал ли он лучше от этого думать - вопрос открытый.

[themalcolm]

Думать оно не стало ни лучше, ни хуже, потому что оно этого в принципе не может. Весь вопрос в том, стало ли оно адекватнее отвечать на вопросы пользователей.

[livelight]

> Думать оно не стало ни лучше, ни хуже, потому что оно этого в принципе не может

Вы сами провели исследование, приведшее к таким выводам, или поверили авторитету?

[themalcolm]

Сам провёл.

Я в computer science варюсь, слава Четверым, с 1979г. Никаких гениальных открытий не совершил, но предмет знаю.

[livelight]

Не уверен, что computer sciences - это та область, которая может отвечать на такие вопросы. Хотя бы потому, что её вообще не интересует понятие "думания". Это человек должен думать, а компьютер, благодаря учёным в этой области, - работать.

[themalcolm]

Очень даже интересует. Вейценбаума почитайте.

[livelight]

Если принять гипотезу Сепира-Уорфа, то я не вижу причин отказывать чисто текстовой нейронке класса LLM, с семантически-ориентированным вниманием и умелым использованием пространства ввода/вывода в качестве оперативной памяти, в мышлении как категории процессов.

Но есть нюанс: лично я не признаю гипотезу Сепира-Уорфа, причём начал не признавать её ещё задолго до того, как это стало ещё одним аргументом для объяснения, почему мышление - это то, что есть только в наших органических нейронках, но ни в коем случае не в кремниевых.

[themalcolm]

Гипотезы-шнипотезы.

При всей нелюбви к Марксу, я тут с ним соглашусь: критерий истины - практика.

[livelight]

При такой постановке вопроса, утверждение у вас в комментарии выше: "Думать оно ... в принципе не может" даже не некорректно, а просто лишено смысла. Если оно стало адекватнее отвечать на вопросы пользователей (а это надо проверять), то при принятом вами критерии истины надо считать, что оно стало лучше на практике, и всё.

[themalcolm]

Лишено смысла как раз обратное. Мы ж не утверждаем, что думает робопылесос - как бы удачно он ни выполнял поставленную задачу?