Ирония искусственного интеллекта
Мне кажется, что важнейшая из причин нынешних предубеждений против нейросетей и неприятия самообучающихся программ состоит в том, что они перевернули с ног на голову наш взгляд на самих себя.
Та часть человеческого представления о нашем собственном «я», которую мы считали самой сокровенной, мистической, почти непознаваемой, возможно дарованной нам ( Read more... )
отчасти согласен
но знание истории науки и техники не дает согласиться с тезисом "Мы сначала моделируем в сознании окружающий мир"
Нет. Этот подход возник относительно недавно. Баллистика появилась через тысячи лет после того, как люди начали применять метательное оружие. Химией удачно занимались задолго до таблицы Менделеева. Лечат - прямо сейчас лечат - не имея хорошей модели человека.
Фундаментальное отличие на данном этапе человека от нейронки - способность проверить теорию, ответ экспериментом. При наличии эксперимента фундаментально улучшается качество знания.
Это особенно ярко видно в программировании с нейронкой через тесты.
1. просишь ее написать функцию
2. просишь написать тесты для функции
3. запускаешь тесты и бросаешь результаты с ошибками в нейронку
Это сейчас можно делать вручную, а в принципе можно и нужно автоматизировать. На уровне программистов и экспериментаторов такие комплексы на нейронках сейчас делают.
То, что это не делают в публичном GPT4 - ну, кто их знает. Скорее всего, такой цикл обдумывания станет еще дороже по ресурсам.
То же относится и к "рефлексии". Рефлексия как механика в нейронках есть, это разговор нескольких "агентов" перед тем, как отдать последний ответ. Гуглить Microsoft Autogen
Это пока варится в лабораториях и у гиков, я просто обозначил, что решения существуют. Повторю, когда нейронка сможет сама запускать эксперименты, это должно получиться хотя бы с программированием - все вопросы о превосходстве человека в этом смысле отпадут. Особенно если учесть, что человек сам прежде всего делал практические вещи, а потом только строил их теоретические модели. Это когда пошли науки, в которых эксперименты стали запредельно дороги или невозможны - там и только там появился примат теории и расчета над экспериментом. А так, извините, лук за тысячи лет до баллистики, сельское хозяйство за тысячи лет до всяческих улучшений.
Reply
Формализация тех же баллистики или химии в 15-19 веках не означает, что у "пользователей" не было собственной модели явлений, кои они исследовали или применял.
В данном контексте "модель" это субъективные внутренние знания/представления/предположения кои используются для...
Естественно, объективизация и тем более формализация этих "внутренних моделей" есть огромых шаг вперёд. НО и до этого "шага" сами "модели" были. Иначе естественый интеллект просто не работает.
Reply
== Нет. Этот подход возник относительно недавно. Баллистика появилась через тысячи лет после того, как люди начали применять метательное оружие. Химией удачно занимались задолго до таблицы Менделеева. Лечат - прямо сейчас лечат - не имея хорошей модели человека. ==
Вы ошибаетесь. На примере: вы за рулем, вам нужно перестроиться с полосы на полосу. Вы крутите головой, собирая информацию. Потом неосознанно (!) - или "на автомате", как говорят опытные водители, или в страхе-мучениях, если неопытный, моделируете - я вот сейчас начну, а что сделает тот? Уступит - нет? А притопить - успею-нет до поворота? Вы на основе информации - расстояние, скорость, знаки, разметка, поведение мешающих автомобилей - делаете прогноз (то есть моделируете), а потом либо осуществляете его на практике, если сочли потенциально успешным, либо не осуществляете и тошните еще 30 км до следующего съезда, если прогноз, сделанный по модели, вас не убедил.
Этот подход прослеживается у всех животных с большим мозгом. Но только у человека он развит до космического (сравнить не с чем) уровня. Мы умеем моделировать процессы даже у далеких звезд.
Нейросеть работает не так. Она больше похожа на термитов, чем на человека. Термиты тоже строят сооружения, сравнимые с небоскребом, но ни разума, ни мозга у них нет. Нейросеть будет оперировать ограниченным числом заведомо известных параметров, и повернет, даже если по соседней полосе шпарит пацанский джип, который таких маневров не понимает.
Ваши примеры из другой области - модели становятся все более сложными с развитием знания. Знания - это в значительной мере аксиомы. Если древнеримские баллистики могли оперировать только ограниченным опытом (поллаптя влево и выше - попадем!), то сегодняшние могут учесть в модели дополнительные параметры точно.
Reply
нейросети действуют ровно таким же образом, просто памяти маловато и обучение куцее
Reply
Leave a comment