Сомнительное рассуждение о ненужности наук

[ivanov_petrov]

Можно посмотреть на интересные примеры. Их можно описать так: длительная история изучения некоторого предмета при попытке практического применения оказывается отброшенной. Для практики начинают с нуля и за счет количественных математических методов, перебора больших чисел достигают успеха. Тем самым длительное изучение предмета оказывается

Comments

[alex_new_york]

Человек не создает ИИ напрямую, а создает среду для его самозарождения и развития в процессе обучения. «Создатели» ИИ имеют лишь приблизительное представление о том, как конкретно он работает. Примерно так же, как вырастивший новый сорт пшеницы селекционер имеет лишь приблизительное представление о происходящих в ней конкретных процессах. Выращивание новых сортов ИИ - безусловно интересный творческий процесс, но человек в нем выступает в роли скорее селекционера, чем создателя, в отличие от создания человеком автомобилей или романов

[evgeniirudnyi]

Извините, но ваш ответ выглядит в духе речи Никиты Сергеевича на 22-м съезде - коммунизм через 20 лет.

Самый простой показатель, который работает против вас - это количество людей, которые разрабатывают ИИ - никак не наблюдается тенденция к снижению разработчиков ИИ. ИИ упорно не хочет само себя разрабатывать.

В целом ваша точка зрения похоже связана с сильной верой в светлое будущее. Поскольку мозг, сложившийся в саваннах Африки на такое будущее не способен, то приходится верить в ИИ, сингулярность и все такое. Проблемы только в том, что все предыдущие прогнозы на эту тему так и остались невыполненными.

[alex_new_york]

Мои прогнозы обычно отличаются тем, что реальность их основательно опережает. А возражения с упоминанием Никиты Хрущева я в ответ на свои прогнозы слышу всю жизнь. В молодости я порой пытался переубедить возражающих подобным образом, но с годами понял, что это дело совершенно безнадежное, да и бесполезное. Будущее создают не те, кто приводит подобные возражения, а совсем другие люди

[evgeniirudnyi]

Только непонятно, кто создает будущее - все-таки люди или ИИ?

[alex_new_york]

Люди - это всего лишь биологические компьютеры

[evgeniirudnyi]

Теперь только осталось найти тот самый человеческий код в биологическом компьютере. Пока с этим ну просто беда. При этом даже никаких идей не видно. Нейроны видны, их возбуждения видны, а что такое в данном случае код - совершенно непонятно.

[alex_new_york]

Ну и внутри обученной на терабайтах данных нейронной сети не видны главы из Библии или из учебника квантовой механики, а видны только нейроны и их возбуждения. Собственно, и разглядывая в электронный микроскоп транзисторы микропроцессора того устройства, на котором вы печатали свой комментарий, вы никак не смогли бы увидеть самого комментария

[evgeniirudnyi]

Так не пройдет, поскольку в этом случае вам надо найти в естественных нейронных сетях веса. Даже это не могут найти.

Поэтому сравнение естественных и искусственных нейронных сетей остается всего лишь в рамках метафоры.

Когда chatGPT работает - там есть вполне определенная функция, которую можно записать. Однако какую функцию сопоставить биологическому компьютеру - даже идей нет.

[alex_new_york]

Параметры нейронов и нейронных связей для модели, скажем, Hodgkin-Huxley, вполне себе измеряются. Прозвонить нейроны внешними импульсами и измерить потенциалы их отклика на входе других нейронов - вполне рутинная процедура

Вдобавок, вы сменили тему. Мы ведь говорили о способности увидеть исполняемый код, а не о способности измерить веса или потенциалы активации элементов исполняющего код устройства. Умение перерисовать буквы незнакомого языка и умение понять составленные из них слова и предложения - совершенно разные вещи. Мы можем без труда увидеть веса нейронных сетей вроде ChatGPT, но интерпретировать эти веса в терминах глобального поведения сети обычно не можем. В этом смысле искусственные нейронные сети не очень уж сильно отличаются от биологических

[evgeniirudnyi]

Я не сменил тему, поскольку если мы говорим про компьютер, то мы говорил про вычисления. ChatGPT и остальные ИИ являются вычислениями. В то же время увидеть вычисление в естественных нейронных сетях никак не удается. В этом проблема.

[alex_new_york]

Да почему же вы повторяете, что никак не удается? На локальном уровне всё вполне успешно измеряется и моделируется. И глобальное поведение простой нейронной сети - например, червя - моделируется вполне адекватно: моделируемый червь движется и реагирует на внешние раздражители в точности так же, как настоящий

[evgeniirudnyi]

Однако, что такое вычисление в естественной нейронной сети?

[alex_new_york]

То же самое, что и в искусственной: отклик нейрона на совокупность сигналов на входных нейронных связях и передача этого отклика на выходные связи

[alex_new_york]

Да, обычно однонаправленное, и если возбудить элемент на полпути, сигнал будет распространяться вниз по течению