За последние несколько дней у меня было несколько дискуссий
Что люди видеть не хотят?
- Что бы и кто бы ни высказывал как самоочевидное, это очевидно только ему (в крайнем случае, ещё узкой группе аналогичным образом индоктринированных людей), исходя из тех или иных мировоззренческих предпосылок. Сначала идут предпосылки, потом всё остальное, независимо от того, каковы эти предпосылки.
Программа, даже делегированная железу, всё равно осуществляет выбор по нефизическому критерию (логика, прагматика и пр.). На фундаментальном уровне это искусственная вещь. В неживой природе такого нет. Там, как говорит Докинз, pitiless indifference. Природе всё равно, вычислил компьютер что-то или нет, ошибся он или точно посчитал. Только человек способен "натянуть на этот репер" прагматику: вот этот результат подойдёт, а вот этот не подойдёт. А дальше вопрос технологии: как это сделать быстрее, точнее и пр. ИИ здесь не исключение. На этом уровне что логарифмическая линейка, что калькулятор, что ИИ -- всё едино.
В природе (неживой) реализуется довольно небольшой набор сценариев, который можно охарактеризовать двумя типами феноменов:
- спонтанность (бифуркация, хаотизация, плавление)
- регулярность (кристаллизация, сортировка)
Прагматическая функция не реализуется ни одним из этих сценариев. Ни первый тип, ни второй не могут быть носителями информации. Для того, чтобы материя несла информацию, должна быть сформирована пирсова тройка (знак, денотат, интерпретант). Это может сделать только разум. В природе этого не происходит. Деятельность по инсталляции пирсовой тройки в материальную систему с т.зр. физики является установлением специфических граничных условий на движение материи в системе, в теории систем это называется организацией. Природа в этом смысле не умеет себя организовывать.
Reply
Пример:
Нейросетка, которая играет в го (а го - это не шахматы, там думать надо, а не просто считать:)) принципиально лучше человека, обучена на играх сама с собой, без человеческой логики.
И, кстати, некие нечеловеческие идеи из ее игры люди взяли на вооружение.
Вы, похоже недооцениваете уровень, до которого можно сопротивляться в дискурсе "кондовый материализм".
Человек (и человеческий социум) - это некий новый уровень организации материи, более высокий.
И он (она, природа) на этом уровне умеет больше.
Например, умные слова про знаковые системы, денотаты и десигнаты говорить.
А все равно - материя!
Reply
Во всем известном примере с генетическим алгоритмом NASA, когда он нашёл оптимальную в каком-то смысле 3D форму антенны, которую до этого человек не мог найти, всё равно критерии выбора были указаны. Техника просто это умеет делать лучше.
AI + Human Intelligence >> Human Intelligence
Невозможно получить информацию "бесплатно". Посмотрите об этом фундаментальную теорему No Free Lunch (их две на самом деле, для разных областей, но идея общая). Статья об этом есть в википедии.
Есть книжки про это, например:
https://www.amazon.co.uk/Free-Lunch-Specified-Complexity-Intelligence/dp/0742512975
https://www.worldscientific.com/worldscibooks/10.1142/9974
Вторая была переведена на русский язык.
Кроме материи должен быть разум: как материю направлять к состоянию, которое характеризуется оптимом по прагматическому критерию. Это состояние никак не отличимо от других по физическому критерию, поэтому материя его просто "проглядит".
Два кубика абсолютно одинаковых на горизонтальной плоскости. Оба находятся в безразличном положении равновесия, потенциальная энергия системы = 0.
Добавляем правила: если ты на черной клетке, выиграл, на белую - проиграл. Рисуем клеточки так, что один кубик попал на черную, другой на белую клетку. Один кубик выиграл, другой проиграл. Ни тот, ни другой не сдвинулись с места при этом.
Материя одна не сможет выделить одно состояние по прагматическому критерию (выиграл/проиграл) из двух с одинаковым значением потенциальной энергии. Для этого нужен разум. Простейшее проявление разума: процесс наведения (guidance). Более сложный сценарий: кубики начинают "сами" что-то делать, выбирать стратегию и пр., становясь агентами. Но фундаментально ничего не изменилось: материи нужен разум, чтобы в материальном мире появилась "игра", правила, прагматика и пр.
Reply
Как и Интеллектуальный Агент нужен был для того, чтобы создать человека и прочие сложные ("программные") системы уровня живых.
А чтобы человека научить, нужен человек (или Сам Бог, или ангелы, или даже (частично) бесы).
Но нейросеть умеет в создание новой информации без обучения человеком.
В частности, ее может обучить другая нейросеть.
Не-а, при должном уровне упорства (и интеллекта) последовательный монист-материалист будет просто говорить, что это все - проявления материи.
И разум, и его "продукты": логика, игра, выбор, критерии, параметры - что угодно.
Вот как у котика, например, "логика, игра, выбор, критерии, параметры", так и у человека :)
Только человек в больше звуков умеет и ещё закорючки писать.
Поэтому: вторичная - материальная ! - реальность.
Которая "культура".
Reply
Это пожалуйста.
==Но нейросеть умеет в создание новой информации без обучения человеком.==
Информацию информацией делает разум (в данном случае, человека), либо на стороне отправителя, либо на стороне получателя, либо и там, и там. Нейросеть настроена на это изначально человеком. То, что она может, я знаю. Нейросеть, настроенная на попмузыке, не может создать произведение стиля барокко. Собака зарыта в настройках и в том, на чем сетка обучается. Алгоритм конкретный вообще не имеет значения, по NFL теоремам. Ни один алгоритм не является лучшим на множестве всевозможных задач комбинаторного поиска. Так что пусть это вас не вводит в заблуждение. Да, я не спорю, крутые возможности. Но никакой самособойной магии в них нет. Любая сеть настраивается параметрами (и гиперпараметрами), и эта настройка делается человеком. Более того, системы, запущенные в production, со временем деградируют. И нужен условный слесарчук, чтобы вовремя подкручивать настройки.
==Поэтому: вторичная - материальная ! - реальность.==
Как пелось в популярной когда-то песне, ты как хочешь это назови. Эксперта из уравнения не выкинуть. В данном случае экспертом может выступать и кошка, обучающая котят. Это никак моего тезиса не затрагивает.
Интеллектом называется нечто, умеющее выбирать из альтернативных физ=хим состояний по нефизическому критерию (эстетика, прагматика, логика).
Логика и материальная реальность комплиментарны, но не тождественны. По аналогии с комплиментарностью движения материи под действием градиентов плотности, давления, концентрации реагента, потенциала эмп, с одной стороны, и граничными условиями на это движение с другой. Природа безразлична к граничным условиям. Она всегда стремится к одному и тому же. А разум может создавать особые граничные условия для организации движения материи в той или иной системе с тем, чтобы что-то там прагматическое оптимизировать. Именно по этому критерию возможно распознавание разумных действий пост-фактум.
Не убедили. Где в материи без направляющей роли интеллекта делается этот переход от одной конфигурации частиц вещества к другой конфигурации по нефизическому критерию?! Этого нет. Ключевое слово здесь - "нефизический".
Материя безразлична к тому, какой символ я напишу следующим в этом комментарии. Она абсолютно индефферентна к смыслу. Мне это - разумному агенту - не безразлично.
Reply
Генетические программы (генетическая информация) созданы кем-то/Кем-то (мы верим, что Богом).
И, к тому же, воспринимаются/"читаются" они не только человеком, но и транскрипционным/трансляционный аппаратом клетки.
Наверно, Вы не играете в го:)
Поэтому для Вас написанное о самоубучении нейросетей игре в го не впечатляет.
Но создание новой партии (что в го, что даже в более простые шахматы) - это таки создание новой информации (при любом разумном определении информации).
Нейросетевые музыкобренчалки смогут писать любую музыку при достаточном вложении в это дело.
Просто подождем.
И фильмы, кстати, тоже будут рисовать.
Reply
А так, да, впечатляет. ИИ может распознать то, что не заметит специалист, но настройки ИИ создавал человек на основе накопленного экспертного опыта. Для того, чтобы это понять, не нужно быть чемпионом по го. :)
Насчёт барокко или не барокко, всё равно сеть ведёт себя так, как ей предписано.
Впечатляющих результатов добиваются на петабайтах данных, которые используются в обучении сети.
Reply
Есть некий эмпирический результат: "железяка" (сложная железяка, но железяка, число материальное нечто; человеческой души/психики у нее нет) выдает результат, сравнимый с тем (а то и лучше того), что выдает человек с "психикой" (идеальным, мыслями, логикой и проч., и проч.).
Соответственно, "обратная" гипотеза: а, может у человека тоже ничего, кроме материального, нет?
Reply
Нет этого результата. Это хайп.
Каждый выбирает себе веру сам.
Reply
И уровень генерируемых текстов чатом GPT (даже уже 3,5 версии и тем более 4, а есть уже и 5).
~ Близко к прохождению теста Тьюринга, уже проскакивает.
Пятый наверняка пройдет.
Вам просто придется перестраиваться в этой области, Вы недооцениваете масштаб изменений.
Ничего страшного, но довольно скоро сами увидите.
У меня был спор с одной писательницей о художественных текстах в этом плане.
Мой прогноз: лет через 10 (скорее, через 5) нейросети будут писать (!создавать новое) на уровне среднего писателя.
Роулинг какой-нибудь :)
Reply
AI + Human Intelligence >> Human Intelligence
Human intelligence слева - ключевое слагаемое. Безусловно, это всё влияет на нашу жизнь уже, влиять будет и дальше. Но human intelligence отсюда не выкинешь. Мазню я и сам могу создать и объявить это художеством, не учившись. И машина делает то же самое: она лишь компилирует из того, что ей показали. Она может переставить кубики, которые ей показали в другом порядке, условно говоря. Это калейдоскоп, не более. В большинстве случаев это сильно помогает (чем Уже область в которой задаются специализированные вопросы, тем лучше ответы). Я не могу уже без chatGPT обходиться ежедневно, это факт. Множество рутинных задач можно ему перепоручить с успехом. Но это всего лишь бот, не более.
Reply
Reply
Всё это хайп и журналистские фантазии. Тест Тьюринга - это теоретический концепт. Я могу как угодно тест варьировать на практике и всё это будет тест Тьюринга. Любая система может пройти конкретный тест, если он тупой, а может и не пройти, если тест тяжелый. Любая практическая система дает как false positives, так и false negatives. Ни одна система, будь она трижды искусственной, не даст идеальных результатов. Реальная ИИ система должна проходить экспертный арбитраж и приёмку. Зазор между AI и AI + Human intelligence будет всегда.
Человек сам может и не пройти "тест Тьюринга". На конкурсе копий Чарли Чаплина Чарли Чаплин занял четвертое место )) Это говорит о качестве критериев прохождения теста, о качестве судей (и разумеется о том, что к тому времени образ, созданный Чаплиным, уже был явлением культуры).
Reply
Это победа экспертов го, которые настраивали и обучали сеть, над конкретным игроком го. С одним лишь отличием: их ключевой вклад в победу сильно предшествовал самой игре.
Reply
Самообучение в игре сама с собой.
Reply
Reply
Leave a comment