Что станет с человеком? Речь в защиту Нового Гуманизма
Оригинал этой статьи, вместе с переводом, я нашёл у юзера ЖЖ de_leser : Глава из статьи Thomas Fuchs - Was wird aus dem Menschen? Plädoyer für einen neuen Humanismus (Что станет с человеком? Речь в защиту Нового Гуманизма).
"Первый принцип embodiment гласит, что люди не являются ни программами, ни алгоритмами, как считает Харари. Потому что сознательный опыт требует телесности и, следовательно, биологических процессов в живом теле. Только живые существа обладают сознанием, ощущениями, чувствами и желаниями, а не мозг, системы искусственного интеллекта или роботы. Давайте снова возьмем пример Google-LaMDA: ни искусственный интеллект, ни робот на самом деле не могут чувствовать страх, они в лучшем случае могут его имитировать.
Потому что страх может испытывать только существо, которое заботится о своем самосохранении и сохранность которого находится под угрозой, то есть живое существо. Или другими словами: Страх может испытывать только то, что может умереть.
Органической основой этого в конечном счете является внутренний гомеостаз организма, и стремление поддерживать его - первичная функция сознания. Он проявляется в таких побуждениях и чувствах, как голод, жажда, страх, гнев, желание или неудовольствие. Без жизни нет переживания. Только через влечения и чувства организм становится существом, для которого ситуации приобретают значение и актуальность, а именно, прежде всего, как полезные или опасные для его самосохранения, как привлекательные или отталкивающие, как хорошие или плохие. Таким образом, embodiment является основой всякого чувственного, значимого и оценочного отношения к окружающей среде. С другой стороны, искусственная система не заботится о своем сохранении; ее ничто не заботит. Ничто не имеет смысла для системы, и поэтому она не может ничего чувствовать: ни страха, ни боли, ни удовольствия.
Отсутствие релевантности, смысла и значимости также относится к когнитивным характеристикам искусственных систем. Трудно понять, как мы можем приписать разум машинам, которые понятия не имеют, что делают. Система глубокого обучения Alpha-Go может победить лучших игроков в го в мире, но она не знает, что играет, и даже не знает, что такое игра. Должны ли мы назвать это разумным? Настоящий интеллект требует самосознания, то есть знания того, что вы думаете и что делаете. Особенно когда речь идет о значении и релевантности жизненных ситуаций и решений, они должны оставаться недоступными для ИИ. Потому что в жизненных ситуациях, например, будучи врачами, терапевтами или судьями, мы судим и принимаем решения, основываясь на воспринимаемых ценностях, интуиции и опыте, и для всего этого не существует алгоритмов.
Утописты ИИ, верховные жрецы чистой информации, хотят убедить нас, что мы всего лишь несовершенные машины. Если мы действительно соизмеряем себя с машинами, если мы хотим быть их отражением, то нам придется постоянно оптимизировать себя, чтобы не остаться на обочине - безнадежная битва. На самом деле искусственный интеллект ничуть нас не превосходит, поскольку его производительность ограничивается узкими вычислительными задачами. Он не может заменить нас, а скорее позволяет нам осознать то, что в нас незаменимо - а именно все физическое, живое, качественное и субъективное в своей сложности и неисчерпаемом богатстве.
Так что нет никаких оснований для прометеева стыда и чувства неполноценности перед нашими машинами. С другой стороны, embodiment означает отказ от нарциссических надежд на освобождение от земного и бренного тела. Чистый дух никогда не будет отделен от тела и передан в компьютеры в качестве информации. Потому что в информации отсутствует именно то, что имеет решающее значение для существования, а именно живая индивидуальность. Информация не знает ни индивидуальной точки зрения, ни места, из которого мир мог бы предстать перед субъектом, потому что это место - не что иное, как тело. Разум жив, и он не смог бы выжить в мертвых схемах компьютера. Наш сознательный опыт, а также наша личная идентичность основаны на физическом существовании. Эта воплощенная и, следовательно, смертная индивидуация является ценой, которую мы должны заплатить, чтобы испытать возможности, свободу и чудо земного существования."
Источник: https://de-leser.livejournal.com/1676458.html