За последние несколько дней у меня было несколько дискуссий

[mns2012]

Что люди видеть не хотят?

• Что бы и кто бы ни высказывал как самоочевидное, это очевидно только ему (в крайнем случае, ещё узкой группе аналогичным образом индоктринированных людей), исходя из тех или иных мировоззренческих предпосылок. Сначала идут предпосылки, потом всё остальное, независимо от того, каковы эти предпосылки.

Вот не далее как сегодня

Comments

[a_lazar]

А в чем (философская) проблема последовательного кондового материализма, как философского монизма, который постулирует, что есть лишь материя, а "идеальное" (психологическое, ментальное) - это просто эпифеномен/коррелят материального (= работы мозга, ну, или отчасти уже - и нейросетей)?

[mns2012]

Кмк в том, что проблемы мозг/разум, знак/материя не решаются. Ментальное и физическое коррелированы, но не совпадают. В материализме всё, что не впихивается в простое объяснение "этого нет", составляет проблему. Например, большая проблема - обоснование логики, потому что у них кроме атомов ничего не существует, следовательно, им нужно объяснить, как одна конфигурация атомов может выбирать другую по нефизическому критерию (по критерию истинности).

[a_lazar]

А нет никакого "ментального" отличного от физического.
"Ментальное" (и в т.ч.логика, и в т.ч. "истинность") - это просто такое проявление физического.
Вот ИИ - это, кстати, реально [а не как материалистический прикол] можно понимать просто как проявление (очень сложного) физического?

[mns2012]

ИИ завязан на человека: это просто "выжимка", шаблон того, как мыслит человек. Интересное свойство ИИ состоит в том, что он настраивается на оптимум и может скорректировать человека (лучше выбирает брак из кучи деталей, лучше, чем рентгенолог, по фотографиям распознаёт патологию), но фундаментально это шаблон человеческого мышления (тех же специлистов ОТК или рентгенологов

[a_lazar]

Нет, с ИИ не так просто.
Пример:
Нейросетка, которая играет в го (а го - это не шахматы, там думать надо, а не просто считать:)) принципиально лучше человека, обучена на играх сама с собой, без человеческой логики.
И, кстати, некие нечеловеческие идеи из ее игры люди взяли на вооружение.

Вы, похоже недооцениваете уровень, до которого можно сопротивляться в дискурсе "кондовый материализм".
Человек (и человеческий социум) - это некий новый уровень организации материи, более высокий.
И он (она, природа) на этом уровне умеет больше.
Например, умные слова про знаковые системы, денотаты и десигнаты говорить.
А все равно - материя!

[mns2012]

Системный эффект. Всё равно нужны интеллектуальные агенты для этого. В шаблоне всё равно это должно неявно присутствовать

[a_lazar]

Интеллектуальные агенты нужны для того, чтобы создать нейросеть.
Как и Интеллектуальный Агент нужен был для того, чтобы создать человека и прочие сложные ("программные") системы уровня живых.
А чтобы человека научить, нужен человек (или Сам Бог, или ангелы, или даже (частично) бесы).
Но нейросеть умеет в создание новой информации без обучения человеком.
В частности, ее может обучить другая нейросеть.

Не-а, при должном уровне упорства (и интеллекта) последовательный монист-материалист будет просто говорить, что это все - проявления материи.
И разум, и его "продукты": логика, игра, выбор, критерии, параметры - что угодно.

Вот как у котика, например, "логика, игра, выбор, критерии, параметры", так и у человека :)
Только человек в больше звуков умеет и ещё закорючки писать.
Поэтому: вторичная - материальная ! - реальность.
Которая "культура".

[mns2012]

==Не-а, при должном уровне упорства (и интеллекта) последовательный монист-материалист будет просто говорить, что это все - проявления материи

[a_lazar]

Нет, не обязательно человеком.
Генетические программы (генетическая информация) созданы кем-то/Кем-то (мы верим, что Богом).
И, к тому же, воспринимаются/"читаются" они не только человеком, но и транскрипционным/трансляционный аппаратом клетки.

Наверно, Вы не играете в го:)
Поэтому для Вас написанное о самоубучении нейросетей игре в го не впечатляет.
Но создание новой партии (что в го, что даже в более простые шахматы) - это таки создание новой информации (при любом разумном определении информации).

Нейросетевые музыкобренчалки смогут писать любую музыку при достаточном вложении в это дело.
Просто подождем.
И фильмы, кстати, тоже будут рисовать.

[mns2012]

Как это влияет на NFL теоремы? Никак. Го или не го, никакой разницы. Можно почитать учебник, где объясняется смысл NFL теорем. Это теоретический результат. Создаваемая функциональная информация не превышает той, которая подаётся на вход. Кстати, важно, что в википедии (если будете читать там) сказано, что в коэволюционных сценариях существует возможность "халявы" (free lunch). Это довольно старая информация. Я видел статью, где показывается, что это не так и что даже в коэволюционных сценариях NFL-теорема справедлива. За всё надо платить, за информацию тоже, тут своеобразный аналог невозможности perpetuum mobile, только относительно информации. Надо много информации затратить, чтобы выудить в нужном виде из этого обилия сравнительно мало, но в эффектной форме. Техника тут приходит на помощь человеку, современное быстродействие позволяет такие штуки проделывать, о которых вы пишете. Но настоящий интеллект - это конечно не игры никакие, сколь бы сложными они ни были. Это умение ставить новые задачи и решать их "out of the box

[a_lazar]

А без разницы.
Есть некий эмпирический результат: "железяка" (сложная железяка, но железяка, число материальное нечто; человеческой души/психики у нее нет) выдает результат, сравнимый с тем (а то и лучше того), что выдает человек с "психикой" (идеальным, мыслями, логикой и проч., и проч.).

Соответственно, "обратная" гипотеза: а, может у человека тоже ничего, кроме материального, нет?

[mns2012]

==Есть некий эмпирический результат==

Нет этого результата. Это хайп.

Каждый выбирает себе веру сам.

[a_lazar]

Победа нейросети в го над человеком - вполне себе эмпирический результат.

И уровень генерируемых текстов чатом GPT (даже уже 3,5 версии и тем более 4, а есть уже и 5).
~ Близко к прохождению теста Тьюринга, уже проскакивает.
Пятый наверняка пройдет.

Вам просто придется перестраиваться в этой области, Вы недооцениваете масштаб изменений.
Ничего страшного, но довольно скоро сами увидите.

У меня был спор с одной писательницей о художественных текстах в этом плане.
Мой прогноз: лет через 10 (скорее, через 5) нейросети будут писать (!создавать новое) на уровне среднего писателя.
Роулинг какой-нибудь :)

[mns2012]

Вы кмк неверно интерпретируете результаты. Результаты все до сих под свидетельствуют вот об этом:

AI + Human Intelligence >> Human Intelligence

Human intelligence слева - ключевое слагаемое. Безусловно, это всё влияет на нашу жизнь уже, влиять будет и дальше. Но human intelligence отсюда не выкинешь. Мазню я и сам могу создать и объявить это художеством, не учившись. И машина делает то же самое: она лишь компилирует из того, что ей показали. Она может переставить кубики, которые ей показали в другом порядке, условно говоря. Это калейдоскоп, не более. В большинстве случаев это сильно помогает (чем Уже область в которой задаются специализированные вопросы, тем лучше ответы). Я не могу уже без chatGPT обходиться ежедневно, это факт. Множество рутинных задач можно ему перепоручить с успехом. Но это всего лишь бот, не более.

[mns2012]

Посмотрите журнал mindmatters.ai Там множество статей на эту тему, авторы - инженеры-разработчики всего этого хозяйства, не хайперы и не журналисты.

[mns2012]

==Близко к прохождению теста Тьюринга==

Всё это хайп и журналистские фантазии. Тест Тьюринга - это теоретический концепт. Я могу как угодно тест варьировать на практике и всё это будет тест Тьюринга. Любая система может пройти конкретный тест, если он тупой, а может и не пройти, если тест тяжелый. Любая практическая система дает как false positives, так и false negatives. Ни одна система, будь она трижды искусственной, не даст идеальных результатов. Реальная ИИ система должна проходить экспертный арбитраж и приёмку. Зазор между AI и AI + Human intelligence будет всегда.

Человек сам может и не пройти "тест Тьюринга". На конкурсе копий Чарли Чаплина Чарли Чаплин занял четвертое место )) Это говорит о качестве критериев прохождения теста, о качестве судей (и разумеется о том, что к тому времени образ, созданный Чаплиным, уже был явлением культуры).