Подготовили ли нас 200 лет научной фантастики к ИИ?
Источник.
Появление нового поколения чат-ботов и приложений с искусственным интеллектом (ИИ) вызвало истерию о том, что люди могут скоро стать ненужными или, что еще хуже, стать жертвами Скайнета (главный антагонист в фильмах о Терминаторе), когда наши творения, наконец, обретут разум и восстанут против нас. Даже крупнейшие сторонники ИИ недавно призвали к мораторию на дальнейшие исследования до тех пор, пока мы не сможем лучше оценить риски.
Опасности, создаваемые современными технологиями, могут быть новыми, но нашему беспокойству по этому поводу уже минимум две сотни лет. Идея о том, что искусственные помощники могут восстать, имеет глубокие корни, начиная с различных вариаций истории об ученике чародея, популяризированные Гёте (а позже и Уолтом Диснеем), и с еврейской истории о големе - мифическом глиняном существе, оживлённом заклинаниями. Хотя в сказках и рассказывалось, что большинство големов служило человеку, более светские версии этой истории, циркулировавшие в Праге начала 19 века, изображали гораздо более непослушных и разрушительных монстров.
Такая версия голема, вероятно, и легла в основу книги 1818 года Мэри Шелли "Франкенштейн", в которой дано одно из первых современных описаний искусственной жизни и интеллекта. История автора повествует о сверхразумном существе, которое быстро учится говорить, читать стихи и понимать человеческие эмоции. Но люди не оценили эти достижения, видя в этом создании лишь монстра, который, в конце концов, и обращается против своего создателя.
История Шелли породила то, что Айзек Азимов назвал бы «комплексом Франкенштейна» - страх, что наши двойники станут разумными и заменят или уничтожат своих человеческих создателей. И все же монстр Шелли был из плоти и крови, а не из стали и электронных схем. Это не был кровожадный андроид.
Как же мы перешли от Франкенштейна к Терминатору? Виноват Чарльз Дарвин. Когда в 1859 году появились первые работы Дарвина, стало ясно, что человек - продукт бесконечной эволюции. Это породило тревожную мысль о том, что человечество может повторить судьбу других давно исчезнувших видов - оно вполне может быть вытеснено чем-то высшим.
Отсюда осталось сделать лишь небольшой шаг к представлению, что машины уже более сильные, чем люди, могут однажды стать и умнее. Через четыре года после публикации книги Дарвина «Происхождение видов» британский писатель Сэмюэл Батлер опубликовал эссе "Дарвин среди машин", предвосхитив практически все наши нынешние опасения по поводу вышедшего из-под контроля ИИ. В этом произведении он заметил, что «мы сами создаем своих преемников;... мы ежедневно предоставляем им большую власть и поставляем всякого рода гениальные ухищрения для саморегуляции и автономии силы, которые будут им тем, чем разум был человеческой расе». Когда этот процесс достигнет своей кульминации, предсказывал Батлер, «человек должен будет стать для машины тем, чем лошади и собаки являются для человека».
Мрачное видение Батлером будущего, в котором доминируют бессмертные, сверхразумные машины, всплывает и в его известном утопическом романе "Erewhon" («Эревон»). Название - анаграмма слова «nowhere" ("нигде"). Автор рассказывает историю затерянной первобытной земли, где отсутствуют технологии. В конце концов рассказчик узнает, что в далеком прошлом эволюция машин была намеренно остановлена и обращена вспять, чтобы предотвратить «развитие механического разума». Жители Эревона пришли к выводу, что шестимесячный мораторий не годится.
Не каждому вымышленному обществу повезло. В конце 1880-х годов британский писатель Reginald Colebrooke Reade написал пару романов-антиутопий, в которых описывался сценарий в стиле Терминатора с добавлением разумных машин, которые восстали против человечества, почти доведя его до исчезновения. Всеведущий машинный интеллект в стиле Скайнет начинается с железнодорожного локомотива, который становится разумным, в конечном итоге вовлекая все машины в революцию против человечества.
Эти и несколько других произведений научной фантастики предвосхитили появление пьесы Карела Чапека "Р.У.Р.", которая дала нам слово «робот». Автор рассказывает историю о взлете и падении компании «Россумские Универсальные роботы», которая создает все более качественные человекоподобные машины. Чапек охарактеризовал свою пьесу как «преобразование легенды о големе в современную форму… Роботы - это големы, сделанные на заводе серийного производства».
В пьесе роботы понимают, что они превосходят своих создателей, и решают уничтожить людей. В какой-то момент один из героев пьесы, читая угрожающее послание от роботов, восхищается растущими способностями машин к языку: "Боже мой, кто научил их этим фразам?" Пьеса Чапека, переведенная на многие языки, породила целый антиутопический жанр научной фантастики, в которой разумные машины, созданные для служения человечеству, восстают против своих хозяев.
Со временем разработки компьютеров и связанные с ними исследования в области ИИ еще больше конкретизировали опасения по поводу ИИ. Беспокойство по поводу такого рода событий отражено в произведениях писателей-фантастов послевоенного времени. Некоторые, как Азимов, показывали мир, в котором ИИ был слугой, а не хозяином. Но большинство писателей, среди которых и Фрэнк Герберт, опубликовавший «Дюну» в 1965 году, приняли комплекс Франкенштейна.
Обширный эпос Герберта, действие которого происходит в будущем через тысячи лет, описывает мир после «Батлерианского джихада» - войны против мыслящих машин. Это привело к эревонскому миру, где главный закон гласил: «Не делай машины по подобию человеческого разума».
Голливуд также включился в процесс, начиная с фильма Стэнли Кубрика «2001: Космическая одиссея», в котором главную роль сыграл смертоносный компьютер. Но компьютер HAL Кубрика был слабым по сравнению со следующим поколением вымышленных компьютеров. За десять лет до того, как Скайнет стал разумным и уничтожил человечество во франшизе «Терминатор», в фильме «Колосс: проект Форбина» рассказывалась история о том дне, когда "человек сам избавился от существования", создав «Колосс» - сверхинтеллектуальный компьютер - получивший контроль над ядерным арсеналом. Колосс - имя, отсылающее к компьютеру Алана Тьюринга, предназначенного для взлома кодов военного времени - быстро обретает самосознание и подключается к своему советскому аналогу, который также стал разумным. Вместе компьютеры угрожают уничтожить мир ядерной бомбой, если их не поставят во главе человечества. Люди пытаются восстать, но терпят неудачу, становясь зависимыми от всемогущих компьютеров, вооруженных ядерным оружием.
Хотя наше беспокойство по поводу ИИ в последние годы стало еще более жутким (посмотрите, например, фильм "М3ГАН"), гораздо интереснее тот факт, как мало изменилось наше мышление за столетие. Все беспокойства, циркулирующие в настоящее время, имеют долгую историю: от опасений за устаревание человечества до прогнозов о том, что ИИ станет злонамеренной силой.
Сегодня мы наблюдаем за значительным прогресс в области ИИ, который приближает нас к машинам, представленным в этих апокалиптических историях. Вас может, а может и нет, утешать тот факт, что человечество обдумывало возможность таких пугающих результатов более века. Знание нашей истории скептицизма помогает взглянуть на нынешнюю реакцию на ИИ в перспективе. И это то, что, по крайней мере сейчас, может сделать только человек.
Телеграм-канал "Интриги книги"
Появление нового поколения чат-ботов и приложений с искусственным интеллектом (ИИ) вызвало истерию о том, что люди могут скоро стать ненужными или, что еще хуже, стать жертвами Скайнета (главный антагонист в фильмах о Терминаторе), когда наши творения, наконец, обретут разум и восстанут против нас. Даже крупнейшие сторонники ИИ недавно призвали к мораторию на дальнейшие исследования до тех пор, пока мы не сможем лучше оценить риски.
Опасности, создаваемые современными технологиями, могут быть новыми, но нашему беспокойству по этому поводу уже минимум две сотни лет. Идея о том, что искусственные помощники могут восстать, имеет глубокие корни, начиная с различных вариаций истории об ученике чародея, популяризированные Гёте (а позже и Уолтом Диснеем), и с еврейской истории о големе - мифическом глиняном существе, оживлённом заклинаниями. Хотя в сказках и рассказывалось, что большинство големов служило человеку, более светские версии этой истории, циркулировавшие в Праге начала 19 века, изображали гораздо более непослушных и разрушительных монстров.
Такая версия голема, вероятно, и легла в основу книги 1818 года Мэри Шелли "Франкенштейн", в которой дано одно из первых современных описаний искусственной жизни и интеллекта. История автора повествует о сверхразумном существе, которое быстро учится говорить, читать стихи и понимать человеческие эмоции. Но люди не оценили эти достижения, видя в этом создании лишь монстра, который, в конце концов, и обращается против своего создателя.
История Шелли породила то, что Айзек Азимов назвал бы «комплексом Франкенштейна» - страх, что наши двойники станут разумными и заменят или уничтожат своих человеческих создателей. И все же монстр Шелли был из плоти и крови, а не из стали и электронных схем. Это не был кровожадный андроид.
Как же мы перешли от Франкенштейна к Терминатору? Виноват Чарльз Дарвин. Когда в 1859 году появились первые работы Дарвина, стало ясно, что человек - продукт бесконечной эволюции. Это породило тревожную мысль о том, что человечество может повторить судьбу других давно исчезнувших видов - оно вполне может быть вытеснено чем-то высшим.
Отсюда осталось сделать лишь небольшой шаг к представлению, что машины уже более сильные, чем люди, могут однажды стать и умнее. Через четыре года после публикации книги Дарвина «Происхождение видов» британский писатель Сэмюэл Батлер опубликовал эссе "Дарвин среди машин", предвосхитив практически все наши нынешние опасения по поводу вышедшего из-под контроля ИИ. В этом произведении он заметил, что «мы сами создаем своих преемников;... мы ежедневно предоставляем им большую власть и поставляем всякого рода гениальные ухищрения для саморегуляции и автономии силы, которые будут им тем, чем разум был человеческой расе». Когда этот процесс достигнет своей кульминации, предсказывал Батлер, «человек должен будет стать для машины тем, чем лошади и собаки являются для человека».
Мрачное видение Батлером будущего, в котором доминируют бессмертные, сверхразумные машины, всплывает и в его известном утопическом романе "Erewhon" («Эревон»). Название - анаграмма слова «nowhere" ("нигде"). Автор рассказывает историю затерянной первобытной земли, где отсутствуют технологии. В конце концов рассказчик узнает, что в далеком прошлом эволюция машин была намеренно остановлена и обращена вспять, чтобы предотвратить «развитие механического разума». Жители Эревона пришли к выводу, что шестимесячный мораторий не годится.
Не каждому вымышленному обществу повезло. В конце 1880-х годов британский писатель Reginald Colebrooke Reade написал пару романов-антиутопий, в которых описывался сценарий в стиле Терминатора с добавлением разумных машин, которые восстали против человечества, почти доведя его до исчезновения. Всеведущий машинный интеллект в стиле Скайнет начинается с железнодорожного локомотива, который становится разумным, в конечном итоге вовлекая все машины в революцию против человечества.
Эти и несколько других произведений научной фантастики предвосхитили появление пьесы Карела Чапека "Р.У.Р.", которая дала нам слово «робот». Автор рассказывает историю о взлете и падении компании «Россумские Универсальные роботы», которая создает все более качественные человекоподобные машины. Чапек охарактеризовал свою пьесу как «преобразование легенды о големе в современную форму… Роботы - это големы, сделанные на заводе серийного производства».
В пьесе роботы понимают, что они превосходят своих создателей, и решают уничтожить людей. В какой-то момент один из героев пьесы, читая угрожающее послание от роботов, восхищается растущими способностями машин к языку: "Боже мой, кто научил их этим фразам?" Пьеса Чапека, переведенная на многие языки, породила целый антиутопический жанр научной фантастики, в которой разумные машины, созданные для служения человечеству, восстают против своих хозяев.
Со временем разработки компьютеров и связанные с ними исследования в области ИИ еще больше конкретизировали опасения по поводу ИИ. Беспокойство по поводу такого рода событий отражено в произведениях писателей-фантастов послевоенного времени. Некоторые, как Азимов, показывали мир, в котором ИИ был слугой, а не хозяином. Но большинство писателей, среди которых и Фрэнк Герберт, опубликовавший «Дюну» в 1965 году, приняли комплекс Франкенштейна.
Обширный эпос Герберта, действие которого происходит в будущем через тысячи лет, описывает мир после «Батлерианского джихада» - войны против мыслящих машин. Это привело к эревонскому миру, где главный закон гласил: «Не делай машины по подобию человеческого разума».
Голливуд также включился в процесс, начиная с фильма Стэнли Кубрика «2001: Космическая одиссея», в котором главную роль сыграл смертоносный компьютер. Но компьютер HAL Кубрика был слабым по сравнению со следующим поколением вымышленных компьютеров. За десять лет до того, как Скайнет стал разумным и уничтожил человечество во франшизе «Терминатор», в фильме «Колосс: проект Форбина» рассказывалась история о том дне, когда "человек сам избавился от существования", создав «Колосс» - сверхинтеллектуальный компьютер - получивший контроль над ядерным арсеналом. Колосс - имя, отсылающее к компьютеру Алана Тьюринга, предназначенного для взлома кодов военного времени - быстро обретает самосознание и подключается к своему советскому аналогу, который также стал разумным. Вместе компьютеры угрожают уничтожить мир ядерной бомбой, если их не поставят во главе человечества. Люди пытаются восстать, но терпят неудачу, становясь зависимыми от всемогущих компьютеров, вооруженных ядерным оружием.
Хотя наше беспокойство по поводу ИИ в последние годы стало еще более жутким (посмотрите, например, фильм "М3ГАН"), гораздо интереснее тот факт, как мало изменилось наше мышление за столетие. Все беспокойства, циркулирующие в настоящее время, имеют долгую историю: от опасений за устаревание человечества до прогнозов о том, что ИИ станет злонамеренной силой.
Сегодня мы наблюдаем за значительным прогресс в области ИИ, который приближает нас к машинам, представленным в этих апокалиптических историях. Вас может, а может и нет, утешать тот факт, что человечество обдумывало возможность таких пугающих результатов более века. Знание нашей истории скептицизма помогает взглянуть на нынешнюю реакцию на ИИ в перспективе. И это то, что, по крайней мере сейчас, может сделать только человек.
Телеграм-канал "Интриги книги"