Интеллект, искусственный и не только
Огромное спасибо всем, кто ответил на мой вопрос, и в ЖЖ, и на фейсбуке. Во-первых, это помогло прояснить некоторые вещи, которых я не знал или просто не додумал, а во-вторых, помогло мне четче понять, что же я сам-то имею в виду, когда думаю об "искусственном интеллекте". Дальше будет чистая гуманитарщина, прошу технарей и программеров сильно не огорчаться и ногами не бить.
Во-первых... а точнее, в-нулевых (потому что это преамбула, в смысле, присказка, сказка будет впереди), один из признаков интеллекта - это способность делать глупости и совершать ошибки. В смысле, вести себя неразумно. Потому что "неразумно" - это как раз и значит "вопреки разуму" (который, по умолчанию, имеется в наличии). Ну, то есть неодушевленные предметы глупостей делать не могут - если мы сами их не одушевим. Они ведут себя так, как то свойственно их природе. Ребенок может сказать: "Вот глупая чашка, взяла и разбилась!", но на самом деле глупая тут не чашка, а кто-то другой, верно? Не надо было ее так ставить, не надо было ее ронять и т.д. Глупая муха бьется об стекло рядом с распахнутой форточкой - но такова ее природа (а вот шершень может побиться об стекло - а может посидеть, подумать и эту форточку все же отыскать, причем некоторые это делают почти сразу, не тратя времени на биение об стекло; то есть у шершня есть такая опция - и это говорит о том, что нечто вроде интеллекта там все же наличествует). Ну, а если лошадь отперла и открыла свой денник и два соседних, тут уж никто не усомнится, что эта лошадь умная (средняя лошадь обычно не способна даже отодвинуть незапертую дверь денника). И то, что она, дура, обожралась комбикорма и едва не подохла, совершенно ничему не противоречит. Умная, но дура, конечно. Как будто бы человек на ее месте такого сделать не мог.
Ну, а теперь во-первых. В смысле, переходим к основному сюжету. Я буду говорить на примере животных, потому что мне так проще и понятнее. И, на самом деле, именно животные - единственный существующий и доступный, отнюдь не гипотетический пример нечеловеческого разума, в который мы, увы, изнутри заглянуть не можем, и судить о его существовании, устройстве и действии можем только по внешним признакам и проявлениям. [Здесь был длинный прогон об интеллекте животных, я его похерил, потому что он точно уведет обсуждение в сторону.] И если смотреть именно на примере животных, можно в качестве рабочего определения интеллекта сказать, что интеллект - это способность вести себя адекватно в соответствии с обстоятельствами, менять свое поведение в зависимости от изменения обстоятельств и добиваться того, что соответствует твоим интересам. [А как отличить, интеллект это или что другое?]А как отличить, интеллект это или что другое? А никак. По умолчанию - никак. Чтобы отличить проявления интеллекта от сложного инстинктивного поведения или других врожденных приспособлений, требуются особые приемы исследования, которые нужны ученым (потому что ученым нужно знать, как и почему) и не особо нужны обывателю, который сталкивается с этим в повседневной жизни. Если у северного оленя меняется цвет глаз в зависимости от времени года, это "разумно" (ибо полезно), а то, что олени не нарочно это делают, это сложный физиологический механизм, который работает так-то и так-то - а не пофиг ли? Такое-то поведение муравья инстинктивно, а такое-то может быть проявлением интеллекта - ну и что? Кому это важно, кроме Жанны Резниковой и ее коллег? С нашей точки зрения это поведение выглядит разумным - и дело с концом. Главное, чтобы эти разумные существа не завелись у вас в огороде или в ванной, и как их оттуда потом выжить, вот это действительно вопрос.
И вот уже исходя из этого имеет смысл обсуждать, чего мы все-таки ждем от искусственного интеллекта. В смысле, зачем нам искусственный интеллект, отличный от естественных, которых кругом и так уже восемь миллиардов наплодилось? Мне кажется, что мы на самом деле хотим "умную собаку". Ну знаете, есть такой книжно-киношный штамп. Мне лично он запал в душу на примере Лесси. Это был такой сериал, который у нас показывали по телевизору, когда мне было лет шесть (я безумно хотел его посмотреть, но мне самому к телевизору даже близко подходить не разрешали, и так я его целиком и не видел; так что у меня лет до двадцати был незакрытый гештальт, "посмотреть "Лесси", а потом я его посмотрел, оказалась скучища жуткая). Но на самом деле таких фильмов и книг тьма-тьмущая. Суть в том, что умная собака в каких-то сложных обстоятельствах (например, хозяин болен, хозяин попал в беду, хозяин погиб, остался маленький ребенок, и т.п.) самостоятельно действует, принимая разумные решения, чтобы спасти себя и хозяев. И весь сюжет в том, как эта собака приключается, находя выход из ситуаций, где и человек бы растерялся. А она вот не теряется, и все заканчивается хорошо. Вот, всякий хочет себе такую собаку, как Лесси! (Все эти злосчастные сериалы имеют самые неприятные последствия для породы, которая в них снималась: например, после "Лесси" в моду вошли колли, и вполне приличная до того порода сделалась абсолютно невыносимой. Ну, потому что как эту Лесси дрессировали, в сериале же не показывали, верно? Она же сама по себе умная?) Вообще, любой, кто мало-мальски разбирается в животных, сразу скажет, что вот это "хочу такую собаку, как Лесси!" - это не взгляд собачника. Это не взгляд человека, который разбирается в собаках. Это не взгляд Конрада Лоренца (который нарочно немецких овчарок сводил с чау-чау, потому что чистые немцы на его вкус были слишком покладисты и завязаны на хозяина, а ему хотелось более независимую собаку). Это взгляд наивного и эгоистичного ребенка, шести или сорока шести лет, неважно, который мечтает о сказочном волшебном помощнике, разумном и послушном одновременно. Как Сивка-Бурка, как Серый Волк у Иван-Царевича. Взгляд линдгреновского Малыша, который больше всего на свете хочет собаку, потому что у родителей и сиблингов - своя жизнь, свои интересы, а ему хочется, чтобы был кто-то, целиком и полностью завязанный только на него. Не просто Другой, а Другой, весь смысл жизни которого - в тебе. Опытный собачник вам сразу скажет, что с собакой, скорее всего, тоже так не выйдет - или, если и выйдет, то далеко не сразу, сперва придется приложить массу усилий, куда больше, чем обычно готово прикладывать наивное дитя (мы не говорим о прирожденных собачниках, таких все же не большинство, и далеко не каждый из тех, кто "мечтает о собаке", готов хотя бы вставать раньше на полчаса, чтобы ее выгулять, я уж не говорю - возить ее на дрессплощадку через полгорода). Потому что собака, внезапно, тоже личность, и у нее (хотя она в самом деле от природы завязана на человека, наши предки десять тысяч лет отбирали собак именно по этому признаку) тоже есть свои интересы, зачастую прямо противоречащие интересам хозяина, и вы в этом убедитесь сразу же, как ваш щенок, отпущенный с поводка, изваляется в говне или усвистит за течной сукой. Умная лошадь заинтересована в том, чтобы выйти из денника и нажраться мюслей от пуза, дальнейшие последствия ее мало волнуют. Умная собака заинтересована в том, чтобы чем-то себя занять, пока хозяев нету дома; а то, что хозяева вернутся в квартиру, идеально подготовленную для капитального ремонта и полной замены интерьера, абсолютно не ее проблемы.
То есть, повторю еще раз, говоря об "искусственном интеллекте", которого бы хотелось лично ему, человек, скорее всего, представляет себе нечто вроде такой идеальной "умной собаки" (которой, повторю еще раз, в природе не существует). То есть чтобы это была отдельная разумная личность, друг, помощник и слуга одновременно, у которой - внимание, это ключевой момент! - место собственных интересов занимали бы твои. Искусственному интеллекту для разумности недостает собственных интересов? А они ему и не нужны. У него есть мои. Пусть он интересуется тем, чем интересуюсь я, пусть он говорит о том, о чем хочется поговорить мне, пусть он ревностно и добросовестно преследует мои цели. И пусть лучшей наградой для него будет то, что он угадал и правильно решил поставленную задачу. Именно так, как мне надо.
И именно поэтому - собака, а не человек. Человек - это не то. Мы слишком приучены к тому, что человек - это партнер, а не слуга. Ситуация, когда человек беспрекословно повинуется и стремится только угодить, для нас неестественна: у нас даже чат-боты, и те капризничают, хамят и обижаются. Двести лет назад нормально прокатило бы: двести лет назад всякий образованный человек приучен был к тому, что рядом есть другой человек, основное назначение которого - обслуживать твои потребности, вплоть до самых интимных и бытовых, хотя бы ночной горшок выносить; и да, идеальный слуга был незаметен, покладист и при этом умен и находчив, когда надо. Семнадцатилетней Танюше Лариной ничего не стоит среди ночи разбудить старуху-няню только потому, что ей как-то душно, скучно, не спится и хочется поболтать. Таня не видит в этом ничего такого, Пушкин в этом ничего такого не видит, и сама няня в этом ничего такого не видит, няни для этого и существуют. В моем поколении, воспитанном замудоханными работающими мамами, большинство еще десять раз подумает, стоит ли маму среди ночи будить, когда ты болеешь и хочешь пить, или уж как-нибудь сам на кухню доползешь, невзирая на тридцать девять с копейками. Мы с детства приучены гордиться тем, что мы самостоятельные и обслуживаем себя сами (потому что большую часть той работы, которую в девятнадцатом веке выполняла прислуга, нынче выполняет техника). [Прогон о слугах]Не надо идти и просить Дашу поставить самовар, если захотелось чаю: налить и поставить электрический чайник в состоянии любой ребенок старше пяти лет. На этом, кстати, большинство современных авторов прокалывается капитально, когда пишет исторические романы или фэнтези в средневековом антураже: какие там все самостоятельные, это что-то с чем-то! У меня автор был, историк, между прочим (хотя он новист, это многое объясняет), у которого главный герой, на минуточку, полковник, возглавляющий самостоятельно действующее подразделение, гордо отказался от услуг денщика - он, мол, сам за собой способен ухаживать. То есть чувак реально не догоняет, что денщик, да еще в походных условиях - это не раб, над которым можно безнаказанно издеваться; это человек, который будет обеспечивать твои повседневные бытовые нужды, пока ты сам занят куда более важными делами. Это человек, который подаст тебе чистую заштопанную сорочку взамен вчерашней пропотевшей и угвазданной; это человек, который будет чистить, седлать и расседлывать твоего коня (и нет, чувак, это не "пять минут утром и вечером", это как раз тот случай, когда умеючи долго, а не умеючи ты очень быстро останешься без коня). Это то, с чем ты не управишься сам, честно-честно, тебе не до того будет. Короче, большинство нормально воспитанных современных людей, как мне кажется, не готовы иметь дело со слугой-человеком. Это неловко, стыдновато и вообще неприятно. Нам даже с сиделкой неприятно дело иметь, когда мы уж точно объективно нуждаемся в заботе и уходе: это означает, что мы сами не справляемся, и фу такими быть. Отсюда же такое отношение, например, к громыкинским киборгам. Человек или человекообразное существо может быть сотрудником, коллегой, подчиненным, а вот слугой оно быть не должно. Это не норма, для нас такое неприемлемо. А вот умная собака - это как раз нормально и приемлемо. Когда собака живет только тобой, все ее интересы сосредоточены на тебе, а в твое отсутствие она просто ложится и засыпает - это нормально, это идеально, это именно то, чего хотелось бы достичь. Тут нам нигде не жмет. А уж если с этой собакой еще и поговорить можно будет... тогда, боюсь, всем нашим социальным связям окончательно придет конец. Потому что все хиккообразные окончательно замкнутся на своих говорящих псов и закуклятся внутри своих студий. Другой, весь смысл жизни которого в тебе - что еще нужно человеку? ;-)
Во-первых... а точнее, в-нулевых (потому что это преамбула, в смысле, присказка, сказка будет впереди), один из признаков интеллекта - это способность делать глупости и совершать ошибки. В смысле, вести себя неразумно. Потому что "неразумно" - это как раз и значит "вопреки разуму" (который, по умолчанию, имеется в наличии). Ну, то есть неодушевленные предметы глупостей делать не могут - если мы сами их не одушевим. Они ведут себя так, как то свойственно их природе. Ребенок может сказать: "Вот глупая чашка, взяла и разбилась!", но на самом деле глупая тут не чашка, а кто-то другой, верно? Не надо было ее так ставить, не надо было ее ронять и т.д. Глупая муха бьется об стекло рядом с распахнутой форточкой - но такова ее природа (а вот шершень может побиться об стекло - а может посидеть, подумать и эту форточку все же отыскать, причем некоторые это делают почти сразу, не тратя времени на биение об стекло; то есть у шершня есть такая опция - и это говорит о том, что нечто вроде интеллекта там все же наличествует). Ну, а если лошадь отперла и открыла свой денник и два соседних, тут уж никто не усомнится, что эта лошадь умная (средняя лошадь обычно не способна даже отодвинуть незапертую дверь денника). И то, что она, дура, обожралась комбикорма и едва не подохла, совершенно ничему не противоречит. Умная, но дура, конечно. Как будто бы человек на ее месте такого сделать не мог.
Ну, а теперь во-первых. В смысле, переходим к основному сюжету. Я буду говорить на примере животных, потому что мне так проще и понятнее. И, на самом деле, именно животные - единственный существующий и доступный, отнюдь не гипотетический пример нечеловеческого разума, в который мы, увы, изнутри заглянуть не можем, и судить о его существовании, устройстве и действии можем только по внешним признакам и проявлениям. [Здесь был длинный прогон об интеллекте животных, я его похерил, потому что он точно уведет обсуждение в сторону.] И если смотреть именно на примере животных, можно в качестве рабочего определения интеллекта сказать, что интеллект - это способность вести себя адекватно в соответствии с обстоятельствами, менять свое поведение в зависимости от изменения обстоятельств и добиваться того, что соответствует твоим интересам. [А как отличить, интеллект это или что другое?]А как отличить, интеллект это или что другое? А никак. По умолчанию - никак. Чтобы отличить проявления интеллекта от сложного инстинктивного поведения или других врожденных приспособлений, требуются особые приемы исследования, которые нужны ученым (потому что ученым нужно знать, как и почему) и не особо нужны обывателю, который сталкивается с этим в повседневной жизни. Если у северного оленя меняется цвет глаз в зависимости от времени года, это "разумно" (ибо полезно), а то, что олени не нарочно это делают, это сложный физиологический механизм, который работает так-то и так-то - а не пофиг ли? Такое-то поведение муравья инстинктивно, а такое-то может быть проявлением интеллекта - ну и что? Кому это важно, кроме Жанны Резниковой и ее коллег? С нашей точки зрения это поведение выглядит разумным - и дело с концом. Главное, чтобы эти разумные существа не завелись у вас в огороде или в ванной, и как их оттуда потом выжить, вот это действительно вопрос.
И вот уже исходя из этого имеет смысл обсуждать, чего мы все-таки ждем от искусственного интеллекта. В смысле, зачем нам искусственный интеллект, отличный от естественных, которых кругом и так уже восемь миллиардов наплодилось? Мне кажется, что мы на самом деле хотим "умную собаку". Ну знаете, есть такой книжно-киношный штамп. Мне лично он запал в душу на примере Лесси. Это был такой сериал, который у нас показывали по телевизору, когда мне было лет шесть (я безумно хотел его посмотреть, но мне самому к телевизору даже близко подходить не разрешали, и так я его целиком и не видел; так что у меня лет до двадцати был незакрытый гештальт, "посмотреть "Лесси", а потом я его посмотрел, оказалась скучища жуткая). Но на самом деле таких фильмов и книг тьма-тьмущая. Суть в том, что умная собака в каких-то сложных обстоятельствах (например, хозяин болен, хозяин попал в беду, хозяин погиб, остался маленький ребенок, и т.п.) самостоятельно действует, принимая разумные решения, чтобы спасти себя и хозяев. И весь сюжет в том, как эта собака приключается, находя выход из ситуаций, где и человек бы растерялся. А она вот не теряется, и все заканчивается хорошо. Вот, всякий хочет себе такую собаку, как Лесси! (Все эти злосчастные сериалы имеют самые неприятные последствия для породы, которая в них снималась: например, после "Лесси" в моду вошли колли, и вполне приличная до того порода сделалась абсолютно невыносимой. Ну, потому что как эту Лесси дрессировали, в сериале же не показывали, верно? Она же сама по себе умная?) Вообще, любой, кто мало-мальски разбирается в животных, сразу скажет, что вот это "хочу такую собаку, как Лесси!" - это не взгляд собачника. Это не взгляд человека, который разбирается в собаках. Это не взгляд Конрада Лоренца (который нарочно немецких овчарок сводил с чау-чау, потому что чистые немцы на его вкус были слишком покладисты и завязаны на хозяина, а ему хотелось более независимую собаку). Это взгляд наивного и эгоистичного ребенка, шести или сорока шести лет, неважно, который мечтает о сказочном волшебном помощнике, разумном и послушном одновременно. Как Сивка-Бурка, как Серый Волк у Иван-Царевича. Взгляд линдгреновского Малыша, который больше всего на свете хочет собаку, потому что у родителей и сиблингов - своя жизнь, свои интересы, а ему хочется, чтобы был кто-то, целиком и полностью завязанный только на него. Не просто Другой, а Другой, весь смысл жизни которого - в тебе. Опытный собачник вам сразу скажет, что с собакой, скорее всего, тоже так не выйдет - или, если и выйдет, то далеко не сразу, сперва придется приложить массу усилий, куда больше, чем обычно готово прикладывать наивное дитя (мы не говорим о прирожденных собачниках, таких все же не большинство, и далеко не каждый из тех, кто "мечтает о собаке", готов хотя бы вставать раньше на полчаса, чтобы ее выгулять, я уж не говорю - возить ее на дрессплощадку через полгорода). Потому что собака, внезапно, тоже личность, и у нее (хотя она в самом деле от природы завязана на человека, наши предки десять тысяч лет отбирали собак именно по этому признаку) тоже есть свои интересы, зачастую прямо противоречащие интересам хозяина, и вы в этом убедитесь сразу же, как ваш щенок, отпущенный с поводка, изваляется в говне или усвистит за течной сукой. Умная лошадь заинтересована в том, чтобы выйти из денника и нажраться мюслей от пуза, дальнейшие последствия ее мало волнуют. Умная собака заинтересована в том, чтобы чем-то себя занять, пока хозяев нету дома; а то, что хозяева вернутся в квартиру, идеально подготовленную для капитального ремонта и полной замены интерьера, абсолютно не ее проблемы.
То есть, повторю еще раз, говоря об "искусственном интеллекте", которого бы хотелось лично ему, человек, скорее всего, представляет себе нечто вроде такой идеальной "умной собаки" (которой, повторю еще раз, в природе не существует). То есть чтобы это была отдельная разумная личность, друг, помощник и слуга одновременно, у которой - внимание, это ключевой момент! - место собственных интересов занимали бы твои. Искусственному интеллекту для разумности недостает собственных интересов? А они ему и не нужны. У него есть мои. Пусть он интересуется тем, чем интересуюсь я, пусть он говорит о том, о чем хочется поговорить мне, пусть он ревностно и добросовестно преследует мои цели. И пусть лучшей наградой для него будет то, что он угадал и правильно решил поставленную задачу. Именно так, как мне надо.
И именно поэтому - собака, а не человек. Человек - это не то. Мы слишком приучены к тому, что человек - это партнер, а не слуга. Ситуация, когда человек беспрекословно повинуется и стремится только угодить, для нас неестественна: у нас даже чат-боты, и те капризничают, хамят и обижаются. Двести лет назад нормально прокатило бы: двести лет назад всякий образованный человек приучен был к тому, что рядом есть другой человек, основное назначение которого - обслуживать твои потребности, вплоть до самых интимных и бытовых, хотя бы ночной горшок выносить; и да, идеальный слуга был незаметен, покладист и при этом умен и находчив, когда надо. Семнадцатилетней Танюше Лариной ничего не стоит среди ночи разбудить старуху-няню только потому, что ей как-то душно, скучно, не спится и хочется поболтать. Таня не видит в этом ничего такого, Пушкин в этом ничего такого не видит, и сама няня в этом ничего такого не видит, няни для этого и существуют. В моем поколении, воспитанном замудоханными работающими мамами, большинство еще десять раз подумает, стоит ли маму среди ночи будить, когда ты болеешь и хочешь пить, или уж как-нибудь сам на кухню доползешь, невзирая на тридцать девять с копейками. Мы с детства приучены гордиться тем, что мы самостоятельные и обслуживаем себя сами (потому что большую часть той работы, которую в девятнадцатом веке выполняла прислуга, нынче выполняет техника). [Прогон о слугах]Не надо идти и просить Дашу поставить самовар, если захотелось чаю: налить и поставить электрический чайник в состоянии любой ребенок старше пяти лет. На этом, кстати, большинство современных авторов прокалывается капитально, когда пишет исторические романы или фэнтези в средневековом антураже: какие там все самостоятельные, это что-то с чем-то! У меня автор был, историк, между прочим (хотя он новист, это многое объясняет), у которого главный герой, на минуточку, полковник, возглавляющий самостоятельно действующее подразделение, гордо отказался от услуг денщика - он, мол, сам за собой способен ухаживать. То есть чувак реально не догоняет, что денщик, да еще в походных условиях - это не раб, над которым можно безнаказанно издеваться; это человек, который будет обеспечивать твои повседневные бытовые нужды, пока ты сам занят куда более важными делами. Это человек, который подаст тебе чистую заштопанную сорочку взамен вчерашней пропотевшей и угвазданной; это человек, который будет чистить, седлать и расседлывать твоего коня (и нет, чувак, это не "пять минут утром и вечером", это как раз тот случай, когда умеючи долго, а не умеючи ты очень быстро останешься без коня). Это то, с чем ты не управишься сам, честно-честно, тебе не до того будет. Короче, большинство нормально воспитанных современных людей, как мне кажется, не готовы иметь дело со слугой-человеком. Это неловко, стыдновато и вообще неприятно. Нам даже с сиделкой неприятно дело иметь, когда мы уж точно объективно нуждаемся в заботе и уходе: это означает, что мы сами не справляемся, и фу такими быть. Отсюда же такое отношение, например, к громыкинским киборгам. Человек или человекообразное существо может быть сотрудником, коллегой, подчиненным, а вот слугой оно быть не должно. Это не норма, для нас такое неприемлемо. А вот умная собака - это как раз нормально и приемлемо. Когда собака живет только тобой, все ее интересы сосредоточены на тебе, а в твое отсутствие она просто ложится и засыпает - это нормально, это идеально, это именно то, чего хотелось бы достичь. Тут нам нигде не жмет. А уж если с этой собакой еще и поговорить можно будет... тогда, боюсь, всем нашим социальным связям окончательно придет конец. Потому что все хиккообразные окончательно замкнутся на своих говорящих псов и закуклятся внутри своих студий. Другой, весь смысл жизни которого в тебе - что еще нужно человеку? ;-)