Философы против кибернетиков
Новый старый разговор
Можно ли создать искусственный разум, который будет превосходить человеческий? Какие опасности несет в себе этот «ящик Пандоры»? Что станет с миром победившего искусственного интеллекта? Эти и другие вопрос сейчас, когда некоторые технологии AI оказались на хайпе, вызывают особо острые дискуссии. На фоне победных реляций разработчиков новых технологий все чаще звучат тревожные предостережения. Из свежего это выступление Илона Маска, который провозгласил: «Запомните мои слова, AI намного опаснее ядерного оружия».
В этой связи мне было интересно погрузиться в дискуссии первой волны, когда только появилась кибернетика и тема AI впервые стала обсуждаться как научная. Отголоски одной из таких интеллектуальных битв можно наблюдать в статье 1966 года "Машина и человек, кибернетика и философия", написанной группой авторов, которых дальше я буду называть философы - А.С. Арсеньев, Э.В. Ильенков, В.В. Давыдов. Споры философов и кибернетиков наиболее интересны, ибо жрецы только что появившейся науки об общих закономерностях процессов управления и передачи информации в машинах, живых организмах и обществе покусились на то, что уже много столетий взращивали философы - на представления о мышлении. Пройдемся по некоторым положениям этой статьи.
Способы возникновения и угрозы машинной цивилизации
Сначала Эвальд Васильевич Ильенков со-товарищи уличают кибернетиков в том, что они исходят из представлений, будто мыслит мозг. "Увы, нет. Ибо мыслит не мозг, а человек с помощью мозга" - говорят они. Способность мыслить не «закодирована» в человеке генетически, биологически, она «наследуется», передается от поколения к поколению совсем другим путем - через формы предметного мира, созданного трудом, через тело цивилизации. Чтобы отдельный мозг обрел способность мыслить, его обладатель должен быть с детства включен в систему общественно-человеческих отношений и развит в согласии с ее требованиями и нормами. Функция мышления определяется не самой по себе морфологической организацией тела индивида, а организацией той грандиозно сложной системы, которая на языке науки именуется «совокупность общественных отношений между людьми».
Отсюда вывод - степень и мера развития способности мыслить в отдельном индивидууме определяются прежде всего объемом той сферы (области) культуры, которую этот индивидуум лично усвоил, превратил в личное достояние. Последнее же определяется опять-таки не биохимическими особенностями его тела, а только социальными условиями - формой разделения труда. Мышление всегда было и остается индивидуально осуществляемой функцией общего всем людям тела цивилизации.
Опираясь на введенное выше понятие мышления, философы делают логический переход от задачи создания искусственного интеллекта к задаче создания машинной цивилизации.
Чтобы создать искусственный разум, хотя бы равный человеческому, придется создавать не только и не столько модель отдельного человеческого существа, сколько модель всего грандиозного тела культуры, внутри которого весь индивид с его пятнадцатью миллиардами мозговых клеток сам представляет собой только одну «клетку», которая сама по себе мыслить способна так же мало, как и отдельный нейрон. Поэтому-то, если вы хотите сотворить искусственный ум, равный человеческому, вы должны создавать не одно-единственное искусственное существо, а целое сообщество таких существ, обладающее своей собственной культурой, т.е. целую машинную цивилизацию, столь же богатую и разветвленную, как и «естественная» - человеческая.
И эта система должна преследовать свои собственные цели, независимые от целей человека и человечества. Иными словами, она должна быть «самоцелью», должна рассматривать свое собственное «самоусовершенствование» как единственную задачу и цель, должна осуществлять расширенное воспроизводство самой себя. Она должна развивать внутри себя и свои внутренние противоречия, ибо иначе она будет лишена самодвижения, стимула к активности.
Этот вариант развития событий - появление рядом с человечеством машинной цивилизации, имеющей собственные цели, вселяет эсхатологический ужас как у просвещенных экспертов, так и у обывателей.
Философы видят и другой путь - попытаться создать такую машину, которую можно было бы включить в качестве полноправного члена в нашу, в готовую, в естественно развившуюся человеческую цивилизацию и развить в «мыслящее» существо на основе человеческой духовной культуры. Но тогда это существо пришлось бы сделать абсолютно подобным нам, живым людям. Его пришлось бы снабдить всеми без исключения органами, с помощью которых живой человек приобщается к готовой культуре и ассимилирует ее. Включая те органы, которые позволяют испытывать половую любовь к человеку противоположного пола и вызывать ответное чувство. Иначе для этого искусственного существа останется закрытой дверь в такую область человеческой духовной культуры, как поэзия и искусство. В результате мыслить на уровне живых людей оно не сможет и останется только ущербным уродцем в семье людей, ибо искусство и поэзия - это не праздная забава, а форма развития воображения. Но без воображения ни о каком подлинно творческом мышлении речи быть не может.
Авторам статьи кажется этих аргументов достаточно, чтобы закрыть тему сильного AI. Делать замкнутую на себя машинную цивилизацию - не факт что возможно, да и если и делать, то однозначно себе во вред. Воспроизвести в машине всю полноту восприятия человеческой культуры - не представляется реализуемым, ибо сознание человека - самая недоступная тайна природы.
Не думаю, что подобные умозаключения могут раз и навсегда разрешить спор философов и кибернетиков. Тем более, что наука за истекшие с момента выхода статьи 50 лет серьезно продвинулась и подбросила в «топку дискуссии» новые аргументы за и против.
Но я привел эти выдержки из статьи прошлого века не для подведения итога, а для того чтобы показать важность философского осмысления этого ключевого для судьбы человечества направления технологического развития. Взгляд с метафизических вершин позволяет лучше увидеть ситуацию, четче разделить понятия, лучше определить проблему.
Мы уже внутри машинной цивилизации
Философия отвечает на вопрос «Зачем?», наука - на вопрос «Почему?». Этим они различаются и дополняют друг друга. Именно попыткой очерчивания смысловой рамки для тематики AI интересна данная статья. Поразительна ее вторая часть. Она для меня была очень неожиданной и долгое время, в силу используемых политэкономических терминов советского периода, отталкивающей. Но чем больше я вчитывался в текст и размышлял, тем больше я находил там для себя полезных смыслов.
Парадокс в том, что вселяющий тревогу и страх многократно растиражированный фантастическими книгами и фильмами бунт машин, не желающих подчиняться разумной воле человека, уже давно произошел. Много лет существует «машина», которая не желает быть лишь орудием человека, а желает служить целям своего собственного самоусовершенствования. Она начинает осуществлять расширенное воспроизводство себе подобных и подчиняет все отрасли производства этой эгоистически-машинной цели. Она выходит из подчинения своему творцу и грозит его раздавить, если он попытается стать ей поперек дороги, помешать ей превратиться в цель и сердцевину всего производства, если он захочет напомнить ей, что она только средство и орган его воли. Что же это за "машина"?
Капитализм - это и есть производство ради производства, грандиозная машина, превратившаяся в самоцель, а человека превратившая в средство, в сырье производства и воспроизводства своего ненасытного организма. Эта грандиозная машина, состоящая из миллионов частичных машин, вышла из-под контроля человеческого разума и воли, она стала умнее и могущественней, чем любой отдельный человеческий индивидуум, играющий в ней незавидную роль винтика.
И тут друзья-философы делают смысловой кульбит. Они говорят, что в таких условиях речь должна идти не о том, чтобы сотворить машину, которая была бы умнее, сильнее и совершенней человека, а о том, чтобы самого живого человека снова сделать умнее и сильнее всего того созданного им мира машин, который вышел из-под его контроля и поработил его; чтобы превратить человека из сырья и средства технического прогресса, из детали «производства ради производства» в высшую цель этого производства, в самоцель, а социальную машину опять поставить на место - на роль средства и органа человеческой разумной воли. Это проблема социальная, и об этом забывать ни на секунду нельзя.
Задача в освобождении от гнета машин
Коммунистическое учение в общих чертах решало эту проблему. В частности, было обосновано то, что в будущем в результате социальных преобразований исчезает необходимость в особом, стоящем над обществом, аппарате управления людьми - в государственной машине и ее дочерних системах. Исчезает вообще особый аппарат управления людьми, а его место занимает управление вещами, машинами А люди, согласно той же теории, должны управлять собою сами, на началах полного самоуправления.
Это, кстати говоря, очень интересное утверждение достаточно точно указывает на современный нам смысл "цифровизации" в государственном управлении. Философы 60-х уже тогда видели заблуждения технократов. Когда некоторые люди думают, что вся проблема заключается в том, чтобы просто заменить нынешние государственные органы мыслящими - планирующими и управляющими - машинами, ящиками вроде холодильников, они становятся на почву своеобразной кибернетически-бюрократической иллюзии, мифологии. Они думают, что коммунизм можно построить путем математически-электронного усовершенствования нынешней системы отношений, т.е. путем увековечивания нынешнего положения дел, путем передачи нынешних управленческих функций государственной машины не демократически организованному человеческому коллективу, а другим машинам.
Прогресс состоит в том, чтобы на базе доформирования второй машинной природы осуществить преобразование социальных отношений, приводящее к освобождению людей от чисто машинных функций, возвращению им контроля над сферой социальной деятельности, всестороннему развитию каждого человека.
Эти мысли из прошлого о прекрасном будущем меня будоражат. Думаю, что это не ностальгия по советским временам, я совсем немного успел там пожить в нежном еще возрасте, не пропитался. Наверное меня трогает то, что в этих размышлениях о будущем есть позитивное начало, зовущий образ. Совсем недавно, во время пребывания в Японии, один японец сетовал мне, что в стране нет позитивного образа будущего. Кажется, что все развитие возникает как реакция на угрозы: кончится нефть, потеплеет климат, испортится экология, придут китайцы или африканцы, налетит комета на земную ось, взбунтуются машины. А хотелось бы созидать лучший мир!
И меня эта цель, предложенная философами (прежде всего, Эвальдом Ильенковым) из 60-х, греет. Надо поскорее освободить живого человека от тяжести однообразно-машинного труда, от работы по штампу, по шаблону, по жестко закодированной программе. Надо выпустить человека из тисков бюрократических и экономических машин, дать ему возможность самому эти социальные машины проектировать и развивать. Надо чтобы живой человек мог посвятить все освободившееся время труду подлинно человеческому, труду в плане научного, технического, художественного, социального творчества. Надо чтобы каждый живой человеческий мозг работал бы на уровне подлинно современной человеческой культуры, чего он сейчас еще, к сожалению, не может делать, будучи загружен машинной работой.
P.S.
Это хороший образец позитивного целеполагания. Что-то мне подсказывает, что скоро такая или подобная постановка цели будет миром востребована.