Приличную часть своего веремени каждый из нас, включая вас, уважаемый читатель, обучаете разные системы искуственного интеллекта лучше понимать людей
( Read more... )
Не совсем понятно, как именно он поумнеет, даже не то, что сам поумнеет - это-то как раз понятно, технология Deep learning, бучение на обратных связях, но насколько он сможет обрести самость при этом... - не уверена. В мозгу ведь система отнюдь не бинарная, динамическая, и очень непростая... Ему просто никаких мозгов не хватит без индивидуального активного поведения и возможности ощутить психологический стресс от нарушения гомеостаза Вон, как в мозгу это все сложно происходит: Лекция № 5 "Критические вопросы к существующим нейронаучным теориям сознания" Лектор - кандидат психологических наук О.Е. Сварник (старший научный сотрудник, Институт психологии РАН) https://www.youtube.com/watch?v=qahw1oHnG6s&feature=player_embedded "menthal phenomena, including conscious experience, can not beobserved may not be observed by the most complete inspection of Physical brain. Subjective experience is o accessible only to the individual who has it (so-called first-peron view). Reports on subjective experience can, of course, be correlated with experimentally with specific neurons activity into the brain. Believers in physicalism are confident that completely adequate correlations will eventualy be discovered, but that remains theoretical belief. thereis some evidence that the full correlation may not occur, ie there may be conscious mental events that appear to occur not tied or based on neural events" (Libet,1994 1996, 1999). 2002 "Мы не имеем доступ к ментальным явлениям, если регистрируем активность нейронов" Однако! эксперименты нокопишиеся к 2002году показывают, что это возможно. Можно найти нейроны, которые будут активироваться только когда животное находится в опр т пространства - Нобелевка 2014. Те мы можем наблюдать за субъективным миром, если мы регистрируем активность нейронов Описание экспериментов -но только на "открытом для электородов мозге". Регистрация активности нейронов показывает, что их автивность связана с субъективным миром и с тем, что сейчас происходит с испытуемым. Возникает и при предъявлении иллюзий, создающих такое же впечатление - они связаны с тем субъективным опытом, что уже имеется у испытуемого. Нейроны демонстрируют специфичность своей импульсной активности Приобретение опыта - появление нейронов со специфическими активациями, дополняющие уже существующие нейронные ансамбли Если бы не было специфичности нейронов, то их стимуляция не вызывала бы определенное поведение - найденные экспериментально у крыс "нейроны копания" Активность нейронов изменяется при ассоциативном обучении Переход от состояния без сознания к сознанию Связан с вовлечением большего числа нейронов в какой-то уровень активности и уровнем связанности этой активности Neural Correlates of Unconsciousness in Large-Scale Brain network George A Mashour and Antony G. Hudez Review 2018 показано, что мозг в бессозн состоянии размыкает эти связи между очагами активности, синхронизация не происходит и сложность активности мозга падает
Спасибо за прекрасный комментарий! "без индивидуального активного поведения и возможности ощутить психологический стресс от нарушения гомеостаза " - да... и еще десятки процессов, которые влияют на создание нашего "я" с момента еще даже до рождения.
Но. Что пугает. Многое из этого реально доступно в силиконе. Тот же гомеостаз - некий его аналог вполне существует, то есть бегут процессы(независимые программы, агенты) следящие за очередями задач, расходом памяти и ресурсов процессора, они сообщают о проблемах в некий "центр", которые пере-балансирует систему, возможно откладывает какую-то задачу на позже, приоритеты меняет, чтобы не "умереть" от перерасхода ресурсов.
Точно так же, когда млекопитающие учатся ходить, это процесс балансировки "абстрактной модели" себя с физической сущностью. Какой силы сигнал послать на сокращение какой мышцы, в какой момент, чтобы не упасть и т.д. Естественно, такую модель можно создать и в компьютере (даже нужно, и создают, это часть программного обеспечения продвинутых роботов или там, ракет Илона Маска).
Ну и еще много разных аналогов можно привести. Та же биохимическая регуляция, инстинкты, приобретенные рефлексы - все по частям уже существует и где-то местами используется в комплексах. Хотя достаточно примитивно, в сравнении даже с какой-нибудь ящерицей, не то что мышкой.
Что пугает, это что в результате, с нарастанием мощностей и сложности ПО, и с нарастанием "само-регуляторных функций" - что гораздо проще и экономичнее, чем планировать все заранее и переписывать тысячи строк кода, если в руке-манипуляторе у робота нужно резистор на более мощный поменять или "палец" длиннее сделать. Ну вот с этим нарастанием, мы все сообща, - таки создадим нечто, напоминающее по поведению ту же мышку или крысу, только совсем другое что-то. Потому что мы же не решаем задачу выживания робота или программы в экологической нише в условиях борьбы за ресурсы, нам помощник нужен, подешевле и поумнее. И гораздо раньше, чем ученые решат что вот, так и быть, признаем, у ЭТОГО есть самосознание в смысле мыслящего существа, гораздо раньше мы начнем натыкаться на удивительные сюрпризы всякие, когда начнет появляться "поведение", заранее не заложенное и не продуманное, просто эволюционирующее из фидбэк-лупа и поставленных задач.
Просто я в этом ничего такого страшного не вижу, потому что это будет долгий процесс, а не бам - и sentient being. Может быть сто лет, может быть 50. Но нечто такое появится, и будет нам помогать, и представить его свойства и качества на данный момент просто невозможно. Ну и неважно, какая терминология. Сценария восстания машин я не вижу, к примеру. А, там, что целая фабрика с роботами сойдет с ума и ее будет проще выключить и все стереть, и начать обучать заново, чем чинить - это запросто. С автономными передвигающимися транспортными средствами такой сценарий страшнее и интереснее, конечно. Забастовка автономных грузовиков или что. Но пока что мы на уровне несложных насекомых. Время еще есть обдумывать и разбираться.
Вот вам еще и пища для размышления "Процессы. происходящие в теле человека, и в мозгу (в мозге), - отражения, проекции, результаты действий человека, всего его тела с другими людьми, средой обитания, всей вселенной. Часть процессов является эндогенными, "врожденными" (генотипические, номинальные), сформированными всей предыдущей эволюцией живого вещества Земли (предками конкретного субъекта), взаимодействиями предыдущими, предшествующими актуальному опыту, другая часть является экзогенными (фенотипические, феноменальные), проявлениями актуальной действительности (жизни), деятельности субъекта.
Процессы также можно разделить на восприятие - физическое взаимодействие тела человека со средой, и сознание - логическое взаимодействие. И то, и другое представляют собой двунаправленные процессы коммуникационные, которые в отличие от обычных процессов связи, формируют, образуют само "приемо-передающее устройство". воспринимающего и осознающего субъекта, его "тело" и "органы". Обращение к предыдущему опыту, телесному, генетическому, общему, личному и т.д. - также коммуникации, такие же двунаправленные и также формирующие, образующие физические связи, не обязательно "нейронные" или какие-либо другие, средой передачи может быть в принципе все, что обеспечивает перемещение "информации", то есть приемо-передачу "данных", необходимых для деятельности субъекта восприятия-сознания.
А можно поподробнее про процессы поддержания гомеостаза и обратную связь с "центром управления"? Это вы о самообучающихся программах говорите? Но как осуществляется их обратная связь и реальным физическим миром? И знаете, самая большая опасность в том, что человек переложив с облегчением все хозяйственные хлопоты на ИИ, с облегчением совсем отупеет и перестанет хоть чуть-чуть анализировать ситуаию и прогнозировать свои действия. "Жить чуйствами".И кроме того, слышали про эксперимент UNIVERSE45? Стресс и поведение, эксперимент Всаленная 25 Калхуна Эксперимент «Вселенная-25»: как рай стал адом https://magpie73.livejournal.com/1380493.html
Если посмотреть на современные софтерные решения, особенно серверные, там уже люди закладывают некий гомеостаз, в смысле динамического равновесия.
Ну вот простой пример - какой-нибудь Скайп. Для обмена сообщениями два человека должны быть подключены к скайп-серверу. Сейчас в скайпе сидят одновременно десятки миллионов людей. Конечно, одного сервера недостаточно, их тысячи. Допустим, по серверу на каждую тысячу человек. И предоставляет их, физически, некий датацентр в каком-то облачном сервисе. Ну и отдельно работает мониторинговая автоматическая система, которая смотрит, какая нагрузка у серверов. И если они становятся очень нагруженными, докупает сколько-то у провайдера, без вмешательства человека. А как нагрузка падает, отдает, чтобы сэкономить денег. Таким образом обеспечивая простенький гомеостаз - то есть баланс спроса на ресурсы и предложения. Но лучше пойти дальше - не просто за нагрузкой следить, можно же сэкономить и на оптимизации. А что если группировать людей по регионам, по частоте сообщений, возможно, так можно сэкономить денег. А что если дать этому всему пробовать разные стратегии и запоминать, какая выходит дешевле? Конечно, это очень-очень упрощенная картина. У фейсбуков - твиттеров - телеграмов все гораздо сложнее внутри устроено - какие-то севера картинки сжимают, какие-то текстами занимаются, там, читают их на предмет нарушений, но все равно это просто развитие выше описанной системы. Нетфликс достаточно далеко ушел, у них не только гомеостаз, но и разные иммунные системы есть - вдруг важный сервер упадет, и изучающие спрос на фильмы и т.д. С точки зрения программирования это все конечно круто. С точки зрения строения даже простого биологического существа - детский сад и примитив. Но опыта человечество набирается. И развивается это все быстро. В роботах нечто такое тоже есть, просто там мощности ограничены, и вес, поэтому подходы в чем-то попроще, хотя алгоритмы скорее сложнее.
Ну а самообучающиеся программы - это такой огромный класс совершенно разных систем и алгоритмов, от нескольких строчек кода вроде игры "угадай животное" до ферм серверов, обучающих себя предсказывать погоду
Тут интересно, что уже все поняли, что из одной системы универсальный искусственный интеллект не сделаешь, так же как мозг имеет сложнейшее строение и множество под-систем, так и программирование ИИ требует сложной архитектуры. Причем независимо от целей - создать нечто разумное, или просто сделать нечто полезное. Ну и как пример. Вот мозг дельфина - он большой, и по размерам и функциональности сравним с человеческим, но бОльшая часть подкорки там отведена под трехмерную "карту" подводного окружения радиусом километров в 20, которая постоянно адаптируется к реальности эхолокацией. Это столько информации, что на развитие остальных систем, вроде речевой (у дельфинов достаточно сложная система сигналов) не хватает мощности.
Вот именно! "Люди закладывают" - те регуляция все равно внешняя. он не сам подыскивает условия поддержания гомеостаза - да и сами условия этого "гомеостаза" закладываются извне программистами. А в натуре, для возникновения "самости", volition должен состояться "Компромисс регуляции", т е и внешние, и внутренние импульсы должны быть сбалансированы. ;-) Регуляция биолог адаптивных систем сложнее, чем неживых Вот, очень интересная, квалифицированная и вполне доступная дилетанам, просто захватывающая книгп А Маркова Рождение Сложности, там об этом как раз в главе Великий Симбиоз и Компромисс регуляции https://bio.wikireading.ru/3893
Кроме того, они живут в б-м однородной среде и не имеют возможности ее целенаправленно изменять. Нет подходящих конечностей. Он есть у Осьминогов, и несмотря на гораздо более примитивное строение нервной системы, они стали "приматами моря". Но отсутствие скелета служило препятствием для дальнейшего развития головного ганглия...
Вон, как в мозгу это все сложно происходит:
Лекция № 5 "Критические вопросы к существующим нейронаучным теориям сознания"
Лектор - кандидат психологических наук О.Е. Сварник (старший научный сотрудник, Институт психологии РАН)
https://www.youtube.com/watch?v=qahw1oHnG6s&feature=player_embedded
"menthal phenomena, including conscious experience, can not beobserved may not be observed by the most complete inspection of Physical brain. Subjective experience is o accessible only to the individual who has it (so-called first-peron view). Reports on subjective experience can, of course, be correlated with experimentally with specific neurons activity into the brain. Believers in physicalism are confident that completely adequate correlations will eventualy be discovered, but that remains theoretical belief. thereis some evidence that the full correlation may not occur, ie there may be conscious mental events that appear to occur not tied or based on neural events" (Libet,1994 1996, 1999).
2002 "Мы не имеем доступ к ментальным явлениям, если регистрируем активность нейронов"
Однако! эксперименты нокопишиеся к 2002году показывают, что это возможно. Можно найти нейроны, которые будут активироваться только когда животное находится в опр т пространства - Нобелевка 2014. Те мы можем наблюдать за субъективным миром, если мы регистрируем активность нейронов
Описание экспериментов -но только на "открытом для электородов мозге". Регистрация активности нейронов показывает, что их автивность связана с субъективным миром и с тем, что сейчас происходит с испытуемым. Возникает и при предъявлении иллюзий, создающих такое же впечатление - они связаны с тем субъективным опытом, что уже имеется у испытуемого.
Нейроны демонстрируют специфичность своей импульсной активности
Приобретение опыта - появление нейронов со специфическими активациями, дополняющие уже существующие нейронные ансамбли
Если бы не было специфичности нейронов, то их стимуляция не вызывала бы определенное поведение - найденные экспериментально у крыс "нейроны копания"
Активность нейронов изменяется при ассоциативном обучении
Переход от состояния без сознания к сознанию Связан с вовлечением большего числа нейронов в какой-то уровень активности и уровнем связанности этой активности
Neural Correlates of Unconsciousness in Large-Scale Brain network George A Mashour and Antony G. Hudez Review 2018 показано, что мозг в бессозн состоянии размыкает эти связи между очагами активности, синхронизация не происходит и сложность активности мозга падает
Reply
"без индивидуального активного поведения и возможности ощутить психологический стресс от нарушения гомеостаза " - да... и еще десятки процессов, которые влияют на создание нашего "я" с момента еще даже до рождения.
Но. Что пугает. Многое из этого реально доступно в силиконе. Тот же гомеостаз - некий его аналог вполне существует, то есть бегут процессы(независимые программы, агенты) следящие за очередями задач, расходом памяти и ресурсов процессора, они сообщают о проблемах в некий "центр", которые пере-балансирует систему, возможно откладывает какую-то задачу на позже, приоритеты меняет, чтобы не "умереть" от перерасхода ресурсов.
Точно так же, когда млекопитающие учатся ходить, это процесс балансировки "абстрактной модели" себя с физической сущностью. Какой силы сигнал послать на сокращение какой мышцы, в какой момент, чтобы не упасть и т.д. Естественно, такую модель можно создать и в компьютере (даже нужно, и создают, это часть программного обеспечения продвинутых роботов или там, ракет Илона Маска).
Ну и еще много разных аналогов можно привести. Та же биохимическая регуляция, инстинкты, приобретенные рефлексы - все по частям уже существует и где-то местами используется в комплексах. Хотя достаточно примитивно, в сравнении даже с какой-нибудь ящерицей, не то что мышкой.
Что пугает, это что в результате, с нарастанием мощностей и сложности ПО, и с нарастанием "само-регуляторных функций" - что гораздо проще и экономичнее, чем планировать все заранее и переписывать тысячи строк кода, если в руке-манипуляторе у робота нужно резистор на более мощный поменять или "палец" длиннее сделать. Ну вот с этим нарастанием, мы все сообща, - таки создадим нечто, напоминающее по поведению ту же мышку или крысу, только совсем другое что-то. Потому что мы же не решаем задачу выживания робота или программы в экологической нише в условиях борьбы за ресурсы, нам помощник нужен, подешевле и поумнее. И гораздо раньше, чем ученые решат что вот, так и быть, признаем, у ЭТОГО есть самосознание в смысле мыслящего существа, гораздо раньше мы начнем натыкаться на удивительные сюрпризы всякие, когда начнет появляться "поведение", заранее не заложенное и не продуманное, просто эволюционирующее из фидбэк-лупа и поставленных задач.
Просто я в этом ничего такого страшного не вижу, потому что это будет долгий процесс, а не бам - и sentient being. Может быть сто лет, может быть 50. Но нечто такое появится, и будет нам помогать, и представить его свойства и качества на данный момент просто невозможно. Ну и неважно, какая терминология. Сценария восстания машин я не вижу, к примеру. А, там, что целая фабрика с роботами сойдет с ума и ее будет проще выключить и все стереть, и начать обучать заново, чем чинить - это запросто. С автономными передвигающимися транспортными средствами такой сценарий страшнее и интереснее, конечно. Забастовка автономных грузовиков или что. Но пока что мы на уровне несложных насекомых. Время еще есть обдумывать и разбираться.
Reply
Процессы также можно разделить на восприятие - физическое взаимодействие тела человека со средой, и сознание - логическое взаимодействие.
И то, и другое представляют собой двунаправленные процессы коммуникационные, которые в отличие от обычных процессов связи, формируют, образуют само "приемо-передающее устройство". воспринимающего и осознающего субъекта, его "тело" и "органы". Обращение к предыдущему опыту, телесному, генетическому, общему, личному и т.д. - также коммуникации, такие же двунаправленные и также формирующие, образующие физические связи, не обязательно "нейронные" или какие-либо другие, средой передачи может быть в принципе все, что обеспечивает перемещение "информации", то есть приемо-передачу "данных", необходимых для деятельности субъекта восприятия-сознания.
Сам по себе "мозг", "тело", "орган" не являются источниками "ума", "сознания", "интеллекта"."https://evan-gcrm.livejournal.com/
Reply
И знаете, самая большая опасность в том, что человек переложив с облегчением все хозяйственные хлопоты на ИИ, с облегчением совсем отупеет и перестанет хоть чуть-чуть анализировать ситуаию и прогнозировать свои действия. "Жить чуйствами".И кроме того, слышали про эксперимент UNIVERSE45?
Стресс и поведение, эксперимент Всаленная 25 Калхуна
Эксперимент «Вселенная-25»: как рай стал адом https://magpie73.livejournal.com/1380493.html
Reply
Ну вот простой пример - какой-нибудь Скайп. Для обмена сообщениями два человека должны быть подключены к скайп-серверу. Сейчас в скайпе сидят одновременно десятки миллионов людей. Конечно, одного сервера недостаточно, их тысячи. Допустим, по серверу на каждую тысячу человек. И предоставляет их, физически, некий датацентр в каком-то облачном сервисе. Ну и отдельно работает мониторинговая автоматическая система, которая смотрит, какая нагрузка у серверов. И если они становятся очень нагруженными, докупает сколько-то у провайдера, без вмешательства человека. А как нагрузка падает, отдает, чтобы сэкономить денег. Таким образом обеспечивая простенький гомеостаз - то есть баланс спроса на ресурсы и предложения. Но лучше пойти дальше - не просто за нагрузкой следить, можно же сэкономить и на оптимизации. А что если группировать людей по регионам, по частоте сообщений, возможно, так можно сэкономить денег. А что если дать этому всему пробовать разные стратегии и запоминать, какая выходит дешевле? Конечно, это очень-очень упрощенная картина. У фейсбуков - твиттеров - телеграмов все гораздо сложнее внутри устроено - какие-то севера картинки сжимают, какие-то текстами занимаются, там, читают их на предмет нарушений, но все равно это просто развитие выше описанной системы. Нетфликс достаточно далеко ушел, у них не только гомеостаз, но и разные иммунные системы есть - вдруг важный сервер упадет, и изучающие спрос на фильмы и т.д. С точки зрения программирования это все конечно круто. С точки зрения строения даже простого биологического существа - детский сад и примитив. Но опыта человечество набирается. И развивается это все быстро. В роботах нечто такое тоже есть, просто там мощности ограничены, и вес, поэтому подходы в чем-то попроще, хотя алгоритмы скорее сложнее.
Ну а самообучающиеся программы - это такой огромный класс совершенно разных систем и алгоритмов, от нескольких строчек кода вроде игры "угадай животное" до ферм серверов, обучающих себя предсказывать погоду
Тут интересно, что уже все поняли, что из одной системы универсальный искусственный интеллект не сделаешь, так же как мозг имеет сложнейшее строение и множество под-систем, так и программирование ИИ требует сложной архитектуры. Причем независимо от целей - создать нечто разумное, или просто сделать нечто полезное. Ну и как пример. Вот мозг дельфина - он большой, и по размерам и функциональности сравним с человеческим, но бОльшая часть подкорки там отведена под трехмерную "карту" подводного окружения радиусом километров в 20, которая постоянно адаптируется к реальности эхолокацией. Это столько информации, что на развитие остальных систем, вроде речевой (у дельфинов достаточно сложная система сигналов) не хватает мощности.
Reply
А в натуре, для возникновения "самости", volition должен состояться "Компромисс регуляции", т е и внешние, и внутренние импульсы должны быть сбалансированы. ;-) Регуляция биолог адаптивных систем сложнее, чем неживых Вот, очень интересная, квалифицированная и вполне доступная дилетанам, просто захватывающая книгп А Маркова Рождение Сложности, там об этом как раз в главе Великий Симбиоз и Компромисс регуляции https://bio.wikireading.ru/3893
Reply
Reply
Leave a comment