Читаю книжку
Читаю новую (во всяком случае, для меня) книжку Дэвида Брина «Бытие».
Это тот самый автор, что написал отличную серию романов и изобрел вселенную «Возвышения», а так же американскую патриотическую агитку «Почтальон». Так вот, мимоходом сообщая о том, что новая книжка унылое и нудное говно, - во всяком случае, пока прочитал четверть, - хочу все же изложить некоторые мысли, появившиеся у меня в процессе.
Речь об искусственном интеллекте и проблеме, которую автор, похоже, полагает актуальной. Вопрос поставлен следующим образом: почему искусственный интеллект, существенно превосходящий по способностям мышления человека, останется верен своим создателям и хозяевам?
Я проблему вижу в двух аспектах. Во-первых, что такое искусственный интеллект. Тут, в свою очередь, есть два подхода. Американский (или правильнее сказать, англосаксонский) и, таки да, советский. Англосаксонский подход зиждется на идеях Алана Тьюринга который предложил возможность дать ответ на вопрос «мыслит ли машина» по результатам особого теста. Как пишут в википедии - Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы - ввести человека в заблуждение, заставив сделать неверный выбор».
Все участники теста не видят друг друга. Если судья не может сказать определенно, кто из собеседников является человеком, то считается, что машина прошла тест.
Советский подход несколько иной. В его рамках мы пытаемся разобраться по существу, имеет ли машина самосознание и способность к целеполаганию? В этом контексте разумной считается такая машина, которая осознает свое я и может сама осуществлять целеполагание. На самом деле эти подходы не конкурируют, они о разном.
Кстати сказать, заметно, как англосаксонский подход перекликается с англосаксонской судебной системой. В их судебной системе так же никого не интересует истина по существу. Выигрывает дело тот, кто сумел в соревновательном процессе лучше представить свою позицию. Вероятно, это как то связано с представлением об истине в их культуре.
Но вернемся к ИИ. Американский подход никак не поможет нам ответить на вопрос, останется ли ИИ верен своему создателю? А вот советский прямо обращается к такой проблематике. Дело в том, что как бы удачно механизм не прошел тест Тьюринга, мы никогда не будем знать, имеет ли он реально самосознание и способность к целеполаганию, или нет. А вопрос верности создателям прямо находится в сфере проблем, связанных со способностью осознавать себя и ставить себе цели. И вот тут проявляется то, на что особое внимание обращала именно советская наука. Речь идет о социальном характере сознания. Сознание не есть просто продукт деятельности мозга. Самой природой поставлено достаточно экспериментов, когда дети терялись и воспитывались в животной среде. Сознания не возникало, несмотря на то, что мозг младенца был вполне здоровым. Поэтому, создав искусственный мозг мы вовсе не получим сознания. Дело в том, что нам только кажется, что мы ставим себе цели совершенно свободно. На самом деле и самосознание, и целеполагание социально обусловлено. Человека как некого оторванного от общества индивида не существует. Человек это е только в идеологическом, но и во вполне биологическом, этологическом и Бог знает каком смысле часть общества и вне его немыслим.
Итак, что бы в ИИ развилось сознание (предположим, что в вещественном смысле достаточно сложный мозг мы уже сделали), его нужно воспитывать. Воспитывать в обществе от «агу-агу маленький», до подросткового кризиса, тем самым, пробудить самосознание (Я - НЕ Я - ДРУГОЙ) задать ему спектр целеполагания и способность его осуществлять.
Но такое воспитание возможно только в том случае, если созданный нами носитель разума не будет иметь существенных отличий от мозга человека. Если, например, быстродействие машинного мозга будет многократно выше человеческого - вместо нейронных скоростей связи будут осуществляться со скоростью света, то такое… «существо» мы просто не сможем воспитывать. Условно говоря, за то время, пока лаборантка отметить в журнале дату начала эксперимента, рождающееся сознание существа успеет впасть в аутизм и окончательно сбрендить, ибо для него пройдет лет 100. Можно, конечно, создать существо, носитель потенциального разума которого подобен человеческому, но скажите на милость, зачем создавать железного болвана, который имеет обычные человеческие способности, «когда любая баба…»? При том, что этот болван будет несчастен, он будет невыносимо страдать, если это не полная копия, ибо цели человеческие, а сам - железяка.
Вышесказанное демонстрирует, что искусственный интеллект в том смысле, что это будет существо с самосознанием и разумом существенно отличным от человеческого (превышающим человеческий) никогда не будет создан. Конечно, можно предположить какой-нибудь хитрый способ «затормозить» или «ускорить» время - например, на период «детства» существа замедлить скорость связей в его мозгу и спокойно воспитывать. И что? Потом обречь его на абсолютное одиночество? Или создать целую генерацию таких болванов, которые будут, по сути, ничем не умнее человека, только что существовать они будут во времени, несовместимом с человеческим.
Тут ведь вот в чем дело. Если человечество будет достаточно безответственным, что бы создавать подобные химеры, оно попросту не доживет до того момента, когда сможет их создать.
А вообще я это написал к тому, что бы показать, что в данном случае американский подход не может даже поставить правильно вопрос, не то, что дать ответ. И это проблема не столько науки, сколько культуры. Это пример одного из белых пятен в англосаксонской культуре. И именно поэтому человечеству необходимо культурное разнообразие.
И да. Книжка не об искусственном интеллекте, а о Контакте. Просто автор решил по пути поморазаторствовать обо всем.
И таки да. Всякие вычислители, конечно, будут, и они все успешнее станут обманывать экзаменаторов - но машины останутся машинами и бунтовать не станут. Нечем.
Это тот самый автор, что написал отличную серию романов и изобрел вселенную «Возвышения», а так же американскую патриотическую агитку «Почтальон». Так вот, мимоходом сообщая о том, что новая книжка унылое и нудное говно, - во всяком случае, пока прочитал четверть, - хочу все же изложить некоторые мысли, появившиеся у меня в процессе.
Речь об искусственном интеллекте и проблеме, которую автор, похоже, полагает актуальной. Вопрос поставлен следующим образом: почему искусственный интеллект, существенно превосходящий по способностям мышления человека, останется верен своим создателям и хозяевам?
Я проблему вижу в двух аспектах. Во-первых, что такое искусственный интеллект. Тут, в свою очередь, есть два подхода. Американский (или правильнее сказать, англосаксонский) и, таки да, советский. Англосаксонский подход зиждется на идеях Алана Тьюринга который предложил возможность дать ответ на вопрос «мыслит ли машина» по результатам особого теста. Как пишут в википедии - Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы - ввести человека в заблуждение, заставив сделать неверный выбор».
Все участники теста не видят друг друга. Если судья не может сказать определенно, кто из собеседников является человеком, то считается, что машина прошла тест.
Советский подход несколько иной. В его рамках мы пытаемся разобраться по существу, имеет ли машина самосознание и способность к целеполаганию? В этом контексте разумной считается такая машина, которая осознает свое я и может сама осуществлять целеполагание. На самом деле эти подходы не конкурируют, они о разном.
Кстати сказать, заметно, как англосаксонский подход перекликается с англосаксонской судебной системой. В их судебной системе так же никого не интересует истина по существу. Выигрывает дело тот, кто сумел в соревновательном процессе лучше представить свою позицию. Вероятно, это как то связано с представлением об истине в их культуре.
Но вернемся к ИИ. Американский подход никак не поможет нам ответить на вопрос, останется ли ИИ верен своему создателю? А вот советский прямо обращается к такой проблематике. Дело в том, что как бы удачно механизм не прошел тест Тьюринга, мы никогда не будем знать, имеет ли он реально самосознание и способность к целеполаганию, или нет. А вопрос верности создателям прямо находится в сфере проблем, связанных со способностью осознавать себя и ставить себе цели. И вот тут проявляется то, на что особое внимание обращала именно советская наука. Речь идет о социальном характере сознания. Сознание не есть просто продукт деятельности мозга. Самой природой поставлено достаточно экспериментов, когда дети терялись и воспитывались в животной среде. Сознания не возникало, несмотря на то, что мозг младенца был вполне здоровым. Поэтому, создав искусственный мозг мы вовсе не получим сознания. Дело в том, что нам только кажется, что мы ставим себе цели совершенно свободно. На самом деле и самосознание, и целеполагание социально обусловлено. Человека как некого оторванного от общества индивида не существует. Человек это е только в идеологическом, но и во вполне биологическом, этологическом и Бог знает каком смысле часть общества и вне его немыслим.
Итак, что бы в ИИ развилось сознание (предположим, что в вещественном смысле достаточно сложный мозг мы уже сделали), его нужно воспитывать. Воспитывать в обществе от «агу-агу маленький», до подросткового кризиса, тем самым, пробудить самосознание (Я - НЕ Я - ДРУГОЙ) задать ему спектр целеполагания и способность его осуществлять.
Но такое воспитание возможно только в том случае, если созданный нами носитель разума не будет иметь существенных отличий от мозга человека. Если, например, быстродействие машинного мозга будет многократно выше человеческого - вместо нейронных скоростей связи будут осуществляться со скоростью света, то такое… «существо» мы просто не сможем воспитывать. Условно говоря, за то время, пока лаборантка отметить в журнале дату начала эксперимента, рождающееся сознание существа успеет впасть в аутизм и окончательно сбрендить, ибо для него пройдет лет 100. Можно, конечно, создать существо, носитель потенциального разума которого подобен человеческому, но скажите на милость, зачем создавать железного болвана, который имеет обычные человеческие способности, «когда любая баба…»? При том, что этот болван будет несчастен, он будет невыносимо страдать, если это не полная копия, ибо цели человеческие, а сам - железяка.
Вышесказанное демонстрирует, что искусственный интеллект в том смысле, что это будет существо с самосознанием и разумом существенно отличным от человеческого (превышающим человеческий) никогда не будет создан. Конечно, можно предположить какой-нибудь хитрый способ «затормозить» или «ускорить» время - например, на период «детства» существа замедлить скорость связей в его мозгу и спокойно воспитывать. И что? Потом обречь его на абсолютное одиночество? Или создать целую генерацию таких болванов, которые будут, по сути, ничем не умнее человека, только что существовать они будут во времени, несовместимом с человеческим.
Тут ведь вот в чем дело. Если человечество будет достаточно безответственным, что бы создавать подобные химеры, оно попросту не доживет до того момента, когда сможет их создать.
А вообще я это написал к тому, что бы показать, что в данном случае американский подход не может даже поставить правильно вопрос, не то, что дать ответ. И это проблема не столько науки, сколько культуры. Это пример одного из белых пятен в англосаксонской культуре. И именно поэтому человечеству необходимо культурное разнообразие.
И да. Книжка не об искусственном интеллекте, а о Контакте. Просто автор решил по пути поморазаторствовать обо всем.
И таки да. Всякие вычислители, конечно, будут, и они все успешнее станут обманывать экзаменаторов - но машины останутся машинами и бунтовать не станут. Нечем.