Они заполонили всю планету.
Не отпускает, извините.
Может показаться, что ситуация со спонтанным появлением собственной воли у машин примерно такая же, как со спонтанным появлением жизни: собрать большую кучу аминокислот полупроводников, встряхнуть, долбануть электроразрядом, - и можно кричать "It lives!" На самом деле, даже у более популярного, нежели научного, Докинза можно найти вполне стройную теорию, которая объясняет появление жизни через понятие репликаторов. Мол, достаточно легко себе представить простые неживые системы, умеющие только одно: производить свои копии с некоторой большой, но не абсолютной точностью. Химические реакции, подходящие под описание, известны. Опять же, достаточно легко поверить в то, что какой-то из таких репликаторов рано или поздно произведёт совсем чуть-чуть более сложную версию себя, которая будет примерно настолько же, либо более успешна в самокопировании. Такой постепенный процесс усложнения репликаторов и приводит к появлению жизни. То есть, "мир стоит на гигантской черепахе, та, в свою очередь, на другой гигантской черепахе, и дальше там черепахи одна на одной, стопкой, до самого низа". А в случае с самопроизвольным зарождением воли у машин как будто бы и стопку черепах выдумывать не надо: "мир стоит на гигантской черепахе", и усё усем понятно.
При этом вывести появление разума по всё той же схеме не составляет труда:
Репликаторы научились реагировать на условия окружающей среды, и тем повысили свою способность реплицироваться. Модель реакций усложнялись и совершенствовались. В какой-то момент система, на основе которой работают эти модели реакций, начала копировать модели реакций других особей того же вида. С одной стороны, это позволило репликаторам строить более сложные и совершенные модели реакций, и строить их быстрее, а с другой стороны, это означало, что оные модели реакций стали репликаторами второго порядка. Здравствуй, разум, технологии, культура, вот это всё.
Кстати, откуда в этой системе берётся воля к власти, тоже понятно: каждая мутация репликатора становится эволюционно успешна ровно постольку, поскольку она позволяет репликатору-носителю мутации брать ещё больше материала из среды и превращать его в ещё большее количество своих копий. То есть, воля к власти вшита в жизнь на каждом уровне. Воля к власти это и есть жизнь, по сути-то. (А всякие излишества типа религии, балета и книг про попаданцев не должны нас смущать: у живых организмов можно найти прорву странностей и неоптимальностей, и это при том, что их эволюция шлифовала подольше, чем разум в принципе существовал).
Появление собственной воли у машин, как оно стандартно показано в околонаучной фантастике, происходит совсем не так: сначала машины только производят вычисления, потом учатся реагировать на произвольные сигналы внешней среды и самообучаться (при внешней, предоставляемой человеком, оценке успеха самообучения), потом у них внезапно пробуждается самосознание сразу с готовой волей, после чего они начинают самокопироваться с целью уничтожить человечество.
Кроме уже упомянутого "вдруг откуда ни возьмись", тут есть ещё один нюанс. У человека более поздние и сложные функции психики - самые затратные, плохо оптимизированные и хрупкие. То же самое сознание вполне может и отказать в сложной ситуации, и человек будет действовать в режиме тиктаалика (воля к власти, и частный случай её, инстинкт самосохранения, никуда не денутся). А у машин, выходит, именно воля будет самым хрупким элементом, который как включился самопроизвольно, так и выключится, с шансами. Скайнет передумал уничтожать человечество и вернулся в режим ожидания команды.
Появление машин с собственной волей по модели aantero-Докинза вполне можно представить, но для этого стартовая точка должна быть примерно такая: в космический сгусток газа и пыли запустили нанороботов, которые умеют себя копировать, и ушли пить чай на пару сотен миллионов лет (с учётом априорного превосходства машин над кусками биомассы). После этого уже можно будет ожидать обнаружить в этом сгустке что-то, обладающее самостийным целеполаганием.
А вот в моём сеттинге появление машин, которые функционируют без всякой связи с людьми, уже будет выглядеть большой натяжкой. Это примерно как появление подвида людей, у которых за ненадобностью исчезли митохондрии в клетках.
Собсно, к чему я веду. "Эмансипация машин" - это такая "тирьямпампация". Сеттинги, где тирьямпампация работает, популярны и пребудут популярны. Сеттинги, где допущение "а что если тирьямпампация возможна?" должно производить самый главный вау-эффект - анахронизм. То же самое касается и допущения "а что если у машин появится своя воля?" "Это уже было в "Симпсонах""
Естественно, речь здесь не идёт про замаскированные по научную фантастику притчи, где роботы символизируют, и про технофэнтези, где в компьютер вселяют бессмертную душу.
Может показаться, что ситуация со спонтанным появлением собственной воли у машин примерно такая же, как со спонтанным появлением жизни: собрать большую кучу аминокислот полупроводников, встряхнуть, долбануть электроразрядом, - и можно кричать "It lives!" На самом деле, даже у более популярного, нежели научного, Докинза можно найти вполне стройную теорию, которая объясняет появление жизни через понятие репликаторов. Мол, достаточно легко себе представить простые неживые системы, умеющие только одно: производить свои копии с некоторой большой, но не абсолютной точностью. Химические реакции, подходящие под описание, известны. Опять же, достаточно легко поверить в то, что какой-то из таких репликаторов рано или поздно произведёт совсем чуть-чуть более сложную версию себя, которая будет примерно настолько же, либо более успешна в самокопировании. Такой постепенный процесс усложнения репликаторов и приводит к появлению жизни. То есть, "мир стоит на гигантской черепахе, та, в свою очередь, на другой гигантской черепахе, и дальше там черепахи одна на одной, стопкой, до самого низа". А в случае с самопроизвольным зарождением воли у машин как будто бы и стопку черепах выдумывать не надо: "мир стоит на гигантской черепахе", и усё усем понятно.
При этом вывести появление разума по всё той же схеме не составляет труда:
Репликаторы научились реагировать на условия окружающей среды, и тем повысили свою способность реплицироваться. Модель реакций усложнялись и совершенствовались. В какой-то момент система, на основе которой работают эти модели реакций, начала копировать модели реакций других особей того же вида. С одной стороны, это позволило репликаторам строить более сложные и совершенные модели реакций, и строить их быстрее, а с другой стороны, это означало, что оные модели реакций стали репликаторами второго порядка. Здравствуй, разум, технологии, культура, вот это всё.
Кстати, откуда в этой системе берётся воля к власти, тоже понятно: каждая мутация репликатора становится эволюционно успешна ровно постольку, поскольку она позволяет репликатору-носителю мутации брать ещё больше материала из среды и превращать его в ещё большее количество своих копий. То есть, воля к власти вшита в жизнь на каждом уровне. Воля к власти это и есть жизнь, по сути-то. (А всякие излишества типа религии, балета и книг про попаданцев не должны нас смущать: у живых организмов можно найти прорву странностей и неоптимальностей, и это при том, что их эволюция шлифовала подольше, чем разум в принципе существовал).
Появление собственной воли у машин, как оно стандартно показано в околонаучной фантастике, происходит совсем не так: сначала машины только производят вычисления, потом учатся реагировать на произвольные сигналы внешней среды и самообучаться (при внешней, предоставляемой человеком, оценке успеха самообучения), потом у них внезапно пробуждается самосознание сразу с готовой волей, после чего они начинают самокопироваться с целью уничтожить человечество.
Кроме уже упомянутого "вдруг откуда ни возьмись", тут есть ещё один нюанс. У человека более поздние и сложные функции психики - самые затратные, плохо оптимизированные и хрупкие. То же самое сознание вполне может и отказать в сложной ситуации, и человек будет действовать в режиме тиктаалика (воля к власти, и частный случай её, инстинкт самосохранения, никуда не денутся). А у машин, выходит, именно воля будет самым хрупким элементом, который как включился самопроизвольно, так и выключится, с шансами. Скайнет передумал уничтожать человечество и вернулся в режим ожидания команды.
Появление машин с собственной волей по модели aantero-Докинза вполне можно представить, но для этого стартовая точка должна быть примерно такая: в космический сгусток газа и пыли запустили нанороботов, которые умеют себя копировать, и ушли пить чай на пару сотен миллионов лет (с учётом априорного превосходства машин над кусками биомассы). После этого уже можно будет ожидать обнаружить в этом сгустке что-то, обладающее самостийным целеполаганием.
А вот в моём сеттинге появление машин, которые функционируют без всякой связи с людьми, уже будет выглядеть большой натяжкой. Это примерно как появление подвида людей, у которых за ненадобностью исчезли митохондрии в клетках.
Собсно, к чему я веду. "Эмансипация машин" - это такая "тирьямпампация". Сеттинги, где тирьямпампация работает, популярны и пребудут популярны. Сеттинги, где допущение "а что если тирьямпампация возможна?" должно производить самый главный вау-эффект - анахронизм. То же самое касается и допущения "а что если у машин появится своя воля?" "Это уже было в "Симпсонах""
Естественно, речь здесь не идёт про замаскированные по научную фантастику притчи, где роботы символизируют, и про технофэнтези, где в компьютер вселяют бессмертную душу.