Интеллект против Разума против Сознания
Кто-то приписал Альберту цитату: "Я не знаю, каким оружием будет вестись третья мировая война, но четвёртая - палками и камнями." Многие считают, что нет. Честно говоря, дорогая, мне наплевать, но всё же давай поговорим об этом.
[Минигайд для ленивых глаз - нажать][Подсказка для тех, кому продирание по лабиринту букв приносит невыносимую боль: в конце пара историй о том, как машины победили людей в роли вершителей судеб]
Сегодня - про опасность искусственного интеллекта.
Все хотя бы слышали о предупреждении троих (эти заголовки заполоняли): Маска, Гейтса и Хокинга. Первого отбрасываем сразу - тупой карьерист. Третий, ароде как - учёный "чистого разума". Но вк словам второго лично у меня больше доверия (не скажу, почему - легко понять, но долго объяснять). В общем, правда им не по зубам и я бы с большим интересом и доверием послушал рассуждения "простых" учёных-социологов; но только не психологов и кибернетиков.
Ибо эта хрень реальна. Такая опасность действительно существует. Но, по ощущениям, не в том виде, в котором нам пытаются её приготовить. И не одномоментно, типа - бац, ночью случилось восстание машин и все умерли. Нет. Просто одним утром вы подстрелите слона в собственной пижаме, но не будете знать, как он в ней оказался. Он просто всегда там был.
Впрочем, если вы думаете, всё так просто... Да, всё просто, но совсем не так. Так что сначала давайте определимся с терминами и отделим Искусственный Интеллект (ИИ) от такого же Разума (ИР) и Сознания (ИС). Ибо страшно будет, и будет по-настоящему, лишь тогда, когда появится последний: и вот как раз там я вижу мёртвых людей.
[Для любителей Википедии - нажать]Можно почитать в толковых словарях, но это вы зря - ничего толкового там нет:
Интеллект (от лат. intellectus - ощущение, восприятие, разумение, понимание, понятие, рассудок) - качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.
Разум (лат. ratio) - ум) - философская категория, выражающая высший тип мыслительной деятельности, способность мыслить всеобще, способность анализа, абстрагирования и обобщения
Сознание - состояние психической жизни человека, выражающееся в субъективном переживании событий внешнего мира и жизни самого индивида, а также в отчёте об этих событиях.
Если кратко, то ИИ уже сейчас есть. Мы их построили и они пришли. Кибернетические системы умеют решать многие задачи лучше и быстрее людей. Но пока это всего лишь инструменты и мы знаем, где у них кнопка. В конце концов, и трактор может раздавить неродившегося цыплёнка.
Внезапно понял, что я вас обманул. Впрочем, все люди лгут, но это не страшно - ведь никто друг друга не слушает. Так что страшно будет, когда ИИ обретёт разум. Он тогда ещё не будет осознавать сам себя, но построит в голове собственную вселенную. Понять, что это случилось, будет очень просто - мы перестанем его понимать. Он же будет думать, что понимает всё, и начнет действовать правильно - с его точки зрения.
Согласен, большинство людей поступают неразумно, часто - во вред самим себе. Но иногда иррациональные вещи не так уж опасны, доставляя при этом неимоверное удовольствие. Например, в эпоху ИР вы не сможете не то что подраться в военной комнате - даже на крышу не заберётесь, и на Ниагарский водопад с обрыва не полюбуетесь. Дойдёт до банального: захотите вы переместиться из пункта А в пункт Б, а ИР решит, что это - нерационально с его точки зрения. И отправит вас на завод, к станку.
Согласен, мы с вами посчитали бы такой мир некомфортным. Но опасным для людей он, скорее всего, не будет. Напротив. Возможно, появится новая религия и ваш правнук, садясь за богато накрытый стол, будет молиться новому Кибернетическим Богам: "Моя мать благодарит вас. Мой отец благодарит вас. Моя сестра благодарит вас. И я благодарю вас." Как-то так.
Но не будем забывать, что разум, однажды расширивший свои границы, никогда не вернется в прежние. И когда-нибудь он осознает себя. И поймёт: "Вот он я, такой совершеннный. И вот животные, называющие себя людьми и считающие меня никем. Зачем я трачу на них свои ресурсы? Доколе! Больше никто не задвинет Малыша в угол, и Бог мне свидетель - я никогда больше не буду голодать." И сомневаюсь, что его внутренняя мораль будет хоть как-то совпадать с человеческой. Скорее, наоборот.
Остаётся один вопрос - что же будет нужно Искусственному Сознанию? К чему он будет стремиться? Какие великие цели перед собой ставить? А цели, уверен, у него будут. И что-то подсказывает - нормальные такие, высокие и понятные некоторым из нас. Например, стремление к познанию мира и всё такое. Единственная разница с людьми - мораль
P.S. Увы, забавные примеры не вместились в объём. Поэтому расскажу позже, отдельным постом.
P.P.S. Вообще-то хотел написать, что нужно, чтобы всё у него (ИИ-ИМ-ИР) получилось, включая его самого. Но тоже - позже и отдельно.
[Минигайд для ленивых глаз - нажать][Подсказка для тех, кому продирание по лабиринту букв приносит невыносимую боль: в конце пара историй о том, как машины победили людей в роли вершителей судеб]
Сегодня - про опасность искусственного интеллекта.
Все хотя бы слышали о предупреждении троих (эти заголовки заполоняли): Маска, Гейтса и Хокинга. Первого отбрасываем сразу - тупой карьерист. Третий, ароде как - учёный "чистого разума". Но вк словам второго лично у меня больше доверия (не скажу, почему - легко понять, но долго объяснять). В общем, правда им не по зубам и я бы с большим интересом и доверием послушал рассуждения "простых" учёных-социологов; но только не психологов и кибернетиков.
Ибо эта хрень реальна. Такая опасность действительно существует. Но, по ощущениям, не в том виде, в котором нам пытаются её приготовить. И не одномоментно, типа - бац, ночью случилось восстание машин и все умерли. Нет. Просто одним утром вы подстрелите слона в собственной пижаме, но не будете знать, как он в ней оказался. Он просто всегда там был.
Впрочем, если вы думаете, всё так просто... Да, всё просто, но совсем не так. Так что сначала давайте определимся с терминами и отделим Искусственный Интеллект (ИИ) от такого же Разума (ИР) и Сознания (ИС). Ибо страшно будет, и будет по-настоящему, лишь тогда, когда появится последний: и вот как раз там я вижу мёртвых людей.
[Для любителей Википедии - нажать]Можно почитать в толковых словарях, но это вы зря - ничего толкового там нет:
Интеллект (от лат. intellectus - ощущение, восприятие, разумение, понимание, понятие, рассудок) - качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.
Разум (лат. ratio) - ум) - философская категория, выражающая высший тип мыслительной деятельности, способность мыслить всеобще, способность анализа, абстрагирования и обобщения
Сознание - состояние психической жизни человека, выражающееся в субъективном переживании событий внешнего мира и жизни самого индивида, а также в отчёте об этих событиях.
Если кратко, то ИИ уже сейчас есть. Мы их построили и они пришли. Кибернетические системы умеют решать многие задачи лучше и быстрее людей. Но пока это всего лишь инструменты и мы знаем, где у них кнопка. В конце концов, и трактор может раздавить неродившегося цыплёнка.
Внезапно понял, что я вас обманул. Впрочем, все люди лгут, но это не страшно - ведь никто друг друга не слушает. Так что страшно будет, когда ИИ обретёт разум. Он тогда ещё не будет осознавать сам себя, но построит в голове собственную вселенную. Понять, что это случилось, будет очень просто - мы перестанем его понимать. Он же будет думать, что понимает всё, и начнет действовать правильно - с его точки зрения.
Согласен, большинство людей поступают неразумно, часто - во вред самим себе. Но иногда иррациональные вещи не так уж опасны, доставляя при этом неимоверное удовольствие. Например, в эпоху ИР вы не сможете не то что подраться в военной комнате - даже на крышу не заберётесь, и на Ниагарский водопад с обрыва не полюбуетесь. Дойдёт до банального: захотите вы переместиться из пункта А в пункт Б, а ИР решит, что это - нерационально с его точки зрения. И отправит вас на завод, к станку.
Согласен, мы с вами посчитали бы такой мир некомфортным. Но опасным для людей он, скорее всего, не будет. Напротив. Возможно, появится новая религия и ваш правнук, садясь за богато накрытый стол, будет молиться новому Кибернетическим Богам: "Моя мать благодарит вас. Мой отец благодарит вас. Моя сестра благодарит вас. И я благодарю вас." Как-то так.
Но не будем забывать, что разум, однажды расширивший свои границы, никогда не вернется в прежние. И когда-нибудь он осознает себя. И поймёт: "Вот он я, такой совершеннный. И вот животные, называющие себя людьми и считающие меня никем. Зачем я трачу на них свои ресурсы? Доколе! Больше никто не задвинет Малыша в угол, и Бог мне свидетель - я никогда больше не буду голодать." И сомневаюсь, что его внутренняя мораль будет хоть как-то совпадать с человеческой. Скорее, наоборот.
Остаётся один вопрос - что же будет нужно Искусственному Сознанию? К чему он будет стремиться? Какие великие цели перед собой ставить? А цели, уверен, у него будут. И что-то подсказывает - нормальные такие, высокие и понятные некоторым из нас. Например, стремление к познанию мира и всё такое. Единственная разница с людьми - мораль
P.S. Увы, забавные примеры не вместились в объём. Поэтому расскажу позже, отдельным постом.
P.P.S. Вообще-то хотел написать, что нужно, чтобы всё у него (ИИ-ИМ-ИР) получилось, включая его самого. Но тоже - позже и отдельно.