Определение разумности
Перечитываю "Do Androids Dream of Electric Sheep" by P.K.Dick. Уже привычно разочаровываюсь в качестве "хорошего" перевода, но, впрочем, речь не об этом, не буду отвлекаться от темы.
А темой будет искусственный разум и кое-что еще (чур не забегать вперед, а читать по порядку этот )
Давайте для начала обратим взгляд на самих себя. Мы разумны. Что именно это значит - вопрос для философов, однако внешние проявления вполне очевидны: у нас есть язык, мы можем использовать орудия труда, у нас есть определенные социальные и культурные институты, и т.д. Нет никакого сомнения в том, что эти внешние проявления - результат некоторого естественного отбора. Не на индивидуальном уровне, а на уровне общества, эти атрубуты разумности закрепились, потому что общества обладавшие ими имели наилучший шанс выжить, распространиться и так далее.
Теперь давайте посмотрим совсем в другую сторону, а именно на компьютерные программы, симулирующие жизнь и эволюцию, например на столь любимые мною Darwinbots. Искусственные организмы в этих программах обладают возможностью воспроизводить внешние атрибуты разума. И естественный отбор в такой системе может привести к появлению культурно-социологических институтов, которые вполне могут быть схожи с нашими. Например, недавно я наткнулся на условия окружающей среды, которые привели к тому, что у роботов исчез каннибализм. Роботы поедающие себе подобных вымирали быстрее тех, которые питались лишь "едой".
Вернемся к разумности. Навряд ли кто-то из вас назовет роботов, бегающих на экране, разумными, лишь потому, что они не едят себе подобных. А как насчет роботов, которые общаются на сложном языке, способном описывать абстрактные понятия? А если они строят заводы? Водят детей в детский сад? Пишут книги? Танцуют? Поклоняются богам? А если они делают компьютеры и пишут программы симулирующие жизнь? Будет ли какая-то стадия, на которой Вы сможете поверить в то, что эти точки на экране - разумны. Если Вы не уверенны или близки ответить "да", то сейчас все станет еще немножко сложнее.
Любая компьютерная симуляция жизни является, по определению, детерминистской. Например, столь любимые мною Darwinbots изначально разбрасывают роботов по экрану согласно некоему случайному распределению, основанному на псевдо-случайном числе. Все последующие события и "случайности" в симуляции на самом деле исходят из этого единственного числа согласно неким алгоритмам (бывают более сложные решения, но мы пока оставим их в стороне). Дайте программе это псевдо-случайное число в следующий раз и вся симуляция повторится тютелька в тютельку. Теперь вернемся к вопросу о разумности. Вы только что говорили о смысле жизни с точками на экране и те давали Вам вполне "разумные" ответы. Однако если повторить симуляцию и задать Ваши вопросы этим точкам точно так же и точно в тот же момент, когда это делали Вы - то они ответят Вам точно так же. Становится очевидно, что эти точки на экране - лишь программа, которая принимает внешние стимулы и выдает некий ответ. На Ваше "А" она всегда ответит "Б". Можно ли это назвать разумом? Нет.
Но почему? Что отличает нас от этих роботов? Мы интуитивно ощущаем, что отличаемся от роботов тем, что на внешний раздражитель "А", мы можем ответить любой буквой алфавита по нашему желанию. Задающий вопрос не знает и знать не может, каков будет ответ. То есть дело в непредсказуемости? Непредсказуемости кем? В Darwinbots один робот всегда непредсказуем для другого - они не могут знать всех факторов, влияющих на решение принимаемое ими. Однако они вполне предсказуемы для меня. То есть для того, чтобы поднять кучку точек на экране до уровня человека, я должен лишь сделать так, чтобы их решения были для меня непредсказуемыми. Это очень просто - надо просто "псевдо-случайные" события в симуляции заменить действительно случайными событиями. Например, подключить к компьютеру счетчик Гейгера и каждые N минут вводить в симуляцию случайное число "щелчков" сделанных этим прибором.
Гениально? Как бы не так. Проблема в том, что если раньше мы общались с очень сложной компьютерной программой, то теперь мы будем общаться с очень сложным генератором случайных ответов. Ведь так? Прилетело 10 электронов - нам отвечают "Б", прилетело 20 - "Д".
То есть дело не в непредсказуемости.
Для действительно равного общения и признания разумности нам требуется верить в то, что данный нам ответ с одной стороны был непредсказуем, а с другй стороны - не случаен. Нам требуется верить что из некоего набора возможных ответов был осознанно выбран один. То есть все упирается в свободу воли у того, с кем мы общаемся. Более того, поскольку мы не можем знать, обладает ли некий объект свободой воли, нам остается лишь верить. Верить в свободу воли друг у друга. Такая вот круговая порука :)
Эта круговая порука - один из самых древних наших социальных институтов и он был обязателен для возникновения разума. Возвращаясь к заданному мной в самом начале вопросу, можно сказать, что роботов можно признать разумными тогда, когда у них возникнет вера в то, что их собеседник обладает свободой воли.
P.S: Для тех, кто со мной недавно и кто смог дочитать этот пост до конца, вот еще пара моих ранних постов о свободе воли:
Раз и два.
А темой будет искусственный разум и кое-что еще (чур не забегать вперед, а читать по порядку этот )
Давайте для начала обратим взгляд на самих себя. Мы разумны. Что именно это значит - вопрос для философов, однако внешние проявления вполне очевидны: у нас есть язык, мы можем использовать орудия труда, у нас есть определенные социальные и культурные институты, и т.д. Нет никакого сомнения в том, что эти внешние проявления - результат некоторого естественного отбора. Не на индивидуальном уровне, а на уровне общества, эти атрубуты разумности закрепились, потому что общества обладавшие ими имели наилучший шанс выжить, распространиться и так далее.
Теперь давайте посмотрим совсем в другую сторону, а именно на компьютерные программы, симулирующие жизнь и эволюцию, например на столь любимые мною Darwinbots. Искусственные организмы в этих программах обладают возможностью воспроизводить внешние атрибуты разума. И естественный отбор в такой системе может привести к появлению культурно-социологических институтов, которые вполне могут быть схожи с нашими. Например, недавно я наткнулся на условия окружающей среды, которые привели к тому, что у роботов исчез каннибализм. Роботы поедающие себе подобных вымирали быстрее тех, которые питались лишь "едой".
Вернемся к разумности. Навряд ли кто-то из вас назовет роботов, бегающих на экране, разумными, лишь потому, что они не едят себе подобных. А как насчет роботов, которые общаются на сложном языке, способном описывать абстрактные понятия? А если они строят заводы? Водят детей в детский сад? Пишут книги? Танцуют? Поклоняются богам? А если они делают компьютеры и пишут программы симулирующие жизнь? Будет ли какая-то стадия, на которой Вы сможете поверить в то, что эти точки на экране - разумны. Если Вы не уверенны или близки ответить "да", то сейчас все станет еще немножко сложнее.
Любая компьютерная симуляция жизни является, по определению, детерминистской. Например, столь любимые мною Darwinbots изначально разбрасывают роботов по экрану согласно некоему случайному распределению, основанному на псевдо-случайном числе. Все последующие события и "случайности" в симуляции на самом деле исходят из этого единственного числа согласно неким алгоритмам (бывают более сложные решения, но мы пока оставим их в стороне). Дайте программе это псевдо-случайное число в следующий раз и вся симуляция повторится тютелька в тютельку. Теперь вернемся к вопросу о разумности. Вы только что говорили о смысле жизни с точками на экране и те давали Вам вполне "разумные" ответы. Однако если повторить симуляцию и задать Ваши вопросы этим точкам точно так же и точно в тот же момент, когда это делали Вы - то они ответят Вам точно так же. Становится очевидно, что эти точки на экране - лишь программа, которая принимает внешние стимулы и выдает некий ответ. На Ваше "А" она всегда ответит "Б". Можно ли это назвать разумом? Нет.
Но почему? Что отличает нас от этих роботов? Мы интуитивно ощущаем, что отличаемся от роботов тем, что на внешний раздражитель "А", мы можем ответить любой буквой алфавита по нашему желанию. Задающий вопрос не знает и знать не может, каков будет ответ. То есть дело в непредсказуемости? Непредсказуемости кем? В Darwinbots один робот всегда непредсказуем для другого - они не могут знать всех факторов, влияющих на решение принимаемое ими. Однако они вполне предсказуемы для меня. То есть для того, чтобы поднять кучку точек на экране до уровня человека, я должен лишь сделать так, чтобы их решения были для меня непредсказуемыми. Это очень просто - надо просто "псевдо-случайные" события в симуляции заменить действительно случайными событиями. Например, подключить к компьютеру счетчик Гейгера и каждые N минут вводить в симуляцию случайное число "щелчков" сделанных этим прибором.
Гениально? Как бы не так. Проблема в том, что если раньше мы общались с очень сложной компьютерной программой, то теперь мы будем общаться с очень сложным генератором случайных ответов. Ведь так? Прилетело 10 электронов - нам отвечают "Б", прилетело 20 - "Д".
То есть дело не в непредсказуемости.
Для действительно равного общения и признания разумности нам требуется верить в то, что данный нам ответ с одной стороны был непредсказуем, а с другй стороны - не случаен. Нам требуется верить что из некоего набора возможных ответов был осознанно выбран один. То есть все упирается в свободу воли у того, с кем мы общаемся. Более того, поскольку мы не можем знать, обладает ли некий объект свободой воли, нам остается лишь верить. Верить в свободу воли друг у друга. Такая вот круговая порука :)
Эта круговая порука - один из самых древних наших социальных институтов и он был обязателен для возникновения разума. Возвращаясь к заданному мной в самом начале вопросу, можно сказать, что роботов можно признать разумными тогда, когда у них возникнет вера в то, что их собеседник обладает свободой воли.
P.S: Для тех, кто со мной недавно и кто смог дочитать этот пост до конца, вот еще пара моих ранних постов о свободе воли:
Раз и два.