Упорство в бытии
«Если люди начнут использовать ChatGPT для поиска истины, мы окажемся в беде»
Летом 2023 года в издательстве Individuum вышла книга философа Гаспара Кенига «Конец индивидуума» в переводе на русский язык (оригинал опубликован в 2019 году). В своей работе философ изучает взаимоотношения человека и искусственного интеллекта (ИИ).
Интервью с Г. Кенигом
- Какую позицию вы сейчас занимаете по вопросу свободы воли?
- Недавно я перечитал «Этику» Спинозы и в очередной раз убедился в его глубокой правоте. Безусловно, нужно принять тот факт, что свобода человека как данность - это иллюзия. Согласно нейронаукам, реакции человека зависят о того, какая информация попадает в его мозг. Технически сегодня уже возможно предугадать решение человека еще до того, как он его сам осознает. Но все это не значит, что свободы воли не существует. Об этом писал и Спиноза: нет, мы не рождаемся со свободой воли, но мы являемся звеном в цепи причин и следствий. И мы можем обрести свободу, упражняя свои мысли, беря себя в руки, повелевая своими эмоциями и чувствами.
Если вы возьмете известных нейробиологов-детерминистов, например Станисласа Деана, которого я цитирую в своей книге, то они отвергают свободу воли как теологическую концепцию, которая будто бы волшебным образом присуща людям. Но в то же время Деас не отвергает того, что вы можете действовать самостоятельно. Важно то, как вы заставляете себя что-то сделать, как вы принимаете решения, взвешиваете за и против и пытаетесь представить последствия. Это то, что делает нас людьми.
- Могу я предложить вам небольшой мысленный эксперимент? Представьте, что технология, позволяющая людям телепортироваться из места А в место Б, существует. Она зависит исключительно от воссоздания всей системы атомов и молекул вашего тела в другом месте. Но вначале ваше тело стирается, как бы уничтожается. Как вы думаете, если вы, например, совершите телепортацию, то человек, который окажется в месте Б, будет по-прежнему вами или ваше сознание будет стерто и в вашем теле до конца жизни будет ходить кто-то другой?
- Это именно тот мысленный эксперимент, который Рэй Курцвейл предложил в одной из своих книг о сингулярности. Он говорит: если вы примете тот факт, что ваше тело ежесекундно теряет молекулы, а потом приобретает другие, что ваша личность постоянно меняется вместе с этими элементами, то вы должны, в принципе, согласиться «умереть» в такой телепортации. Я склоняюсь к тому, что практически никто этого не сделает.
В каком-то смысле это достаточно хорошо обосновывает, что у нас есть такая форма conatus, возвращаясь к Спинозе, которая заставляет вас упорствовать в своем бытии. Упорство в бытии делает нас активными по отношению к обстоятельствам. И если вы добровольно отказываетесь от этого конатуса - это, на мой взгляд, признак глубокой экзистенциальной слабости. Ведь это значит, что вы не очень хотите упорствовать в своем бытии.
- Возможности искусственного интеллекта часто рассматриваются в контексте того, что он может изменить целую вселенную до неузнаваемости. Как вы считаете, в этих разговорах проявляется тоска человечества по существованию всемогущего бога?
- В последней книге [американского антрополога и анархиста] Дэвида Грэбера и [британского археолога] Дэвида Венгроу «Рассвет всего» показано, насколько много в истории человечества было религий - наше стремление к осмыслению мира могло принимать очень разные формы. Мы и сейчас пытаемся осмыслить происходящее вокруг - люди чувствуют себя крайне неуютно, когда не находят в жизни смысла, особенно такого, который был бы гарантирован неким высшим и абсолютным авторитетом.
В прошлые века этот смысл давали в школе и церкви, но сегодня каждый вынужден искать его самостоятельно. Для меня таким смыслом стала забота об окружающем мире. Для других людей это, безусловно, вера в искусственный интеллект. Но дискуссии об ИИ мне представляются ретроградными. Во-первых, потому что, говоря об искусственном интеллекте, мы подразумеваем интеллект без тела - подобный дуализм уже сам по себе довольно ненадежная штука. Если мы ненадолго вернемся к Спинозе, то как раз он и показал, что разум и тело - это просто две грани одной и той же сущности. А значит, если нет тела, то и интеллектом называть предсказывающие что-либо на основе больших данных алгоритмы тоже неверно.
Во-вторых, одержимость сингулярностью отражает еще и настроения людей, которые хотят, чтобы существовала некая всеведущая сущность, которая бы зафиксировала их прожитый опыт. Чтобы все было где-то зарегистрировано. Собственно, этот порыв толкает людей отдавать все свои данные технологическим компаниям. Конечно, никакой вечностью тут и не пахнет - через 50 лет все эти данные испарятся, не останется и следа от многих дата-центров.
Не оставлять следов - это одна из великих перспектив экзистенциализма. Я не очень люблю Сартра, но он пишет крайне интересные вещи в книге «Бытие и ничто»: быть зрелым значит принять, что снегопад заметет следы от ваших лыж, как будто их и не было. Такое принятие и есть подлинный способ жить. В Библии сказано: знаете ли, все, что вы делаете, будет где-то записано. И это вызывает тревогу, потому что в конце тебя будут судить. Но в то же время это очень обнадеживает, потому есть надежда на то, что кто-то еще будет копаться в нашей жизни. Но намного честнее принять, что никто разбираться не будет. И что мы не оставляем следов на снегу. Эта мысль может пугать, но это шаг к лучшему пониманию человеческой природы.
- Весной 2023 года широкий круг пользователей получил доступ к ChatGPT от OpenAI. Пишущие люди - в диапазоне от копирайтеров до писателей - сразу забеспокоились, что их стиль можно легко скопировать с помощью нейросетей и использовать в неподходящем контексте или же что новая технология и вовсе лишит их работы. Что вы думаете по этому поводу как автор?
- Во-первых, если вы боитесь, что творчество имитирует ваш стиль, значит, у вас он есть. И это отличная новость, потому что это означает, что вы полноценная личность. Французский мыслитель Жорж-Луи Леклерк де Бюффон говорил, что цель жизни любого человека - выработать уникальный и принадлежащий только вам стиль. Так что если вам подражают, то это замечательно, вы уже сделали себя.
Не думаю, что тут есть какая-то угроза. Алгоритмы заменят тех, кто уже ведет себя как машина. Мы живем в очень бюрократизированных обществах, и машины могут помочь снизить эту бессмысленную нагрузку на людей. Также важно помнить, что для полноценной работы алгоритмов нужны постоянные творческие усилия людей, создающих данные, которые затем «скармливают» нейросетям инженеры. Без этого сырья ни одна нейросеть не сможет развиваться.
Это действительно необходимо как-то регулировать, но я уверен, что решение не за горами. Куда больше я беспокоюсь о том, что эти инструменты попадут в руки миллиардов людей, которые станут использовать их не для творческих нужд, а для поиска истины. Вот тут начинаются настоящие проблемы. «Википедия» при всех своих недостатках создана людьми, которые отчаянно спорят о достоверности источников и в этих дебатах приходят к консенсусу, тщательно проверяя предпосылки каждого утверждения. Обращение к источнику - это основа западной концепции истины и знания. ChatGPT не может цитировать источник, он может только «предсказывать» нечто похожее на истину, он использует только «вероятные источники».
В этом свете понятие истины, которая является чем-то опровержимым и проверяемым, испаряется. На ее место приходит то, что [бывший госсекретарь США и Нобелевский лауреат] Генри Киссинджер - он написал очень хорошую статью об искусственном интеллекте - называет «накоплением двусмысленностей». Все вероятно, но не до конца верно, но мы об этом не знаем и находимся словно в тумане. И если люди действительно начнут широко использовать ChatGPT или подобные инструменты для повседневного исследования мироустройства и поиска истины, то, я думаю, мы окажемся в беде. Исчезнет само представление о том, что существуют какие-то объективные и общепринятые истины.
Поэтому я думаю, что на сайтах вроде ChatGPT и подобных должно стоять предупреждение: «Осторожно! Перед вами великое изобретение, но все, что оно производит, - это подделка. Вы можете использовать его для искусства, для вдохновения, но не для поиска знаний».
Летом 2023 года в издательстве Individuum вышла книга философа Гаспара Кенига «Конец индивидуума» в переводе на русский язык (оригинал опубликован в 2019 году). В своей работе философ изучает взаимоотношения человека и искусственного интеллекта (ИИ).
Интервью с Г. Кенигом
- Какую позицию вы сейчас занимаете по вопросу свободы воли?
- Недавно я перечитал «Этику» Спинозы и в очередной раз убедился в его глубокой правоте. Безусловно, нужно принять тот факт, что свобода человека как данность - это иллюзия. Согласно нейронаукам, реакции человека зависят о того, какая информация попадает в его мозг. Технически сегодня уже возможно предугадать решение человека еще до того, как он его сам осознает. Но все это не значит, что свободы воли не существует. Об этом писал и Спиноза: нет, мы не рождаемся со свободой воли, но мы являемся звеном в цепи причин и следствий. И мы можем обрести свободу, упражняя свои мысли, беря себя в руки, повелевая своими эмоциями и чувствами.
Если вы возьмете известных нейробиологов-детерминистов, например Станисласа Деана, которого я цитирую в своей книге, то они отвергают свободу воли как теологическую концепцию, которая будто бы волшебным образом присуща людям. Но в то же время Деас не отвергает того, что вы можете действовать самостоятельно. Важно то, как вы заставляете себя что-то сделать, как вы принимаете решения, взвешиваете за и против и пытаетесь представить последствия. Это то, что делает нас людьми.
- Могу я предложить вам небольшой мысленный эксперимент? Представьте, что технология, позволяющая людям телепортироваться из места А в место Б, существует. Она зависит исключительно от воссоздания всей системы атомов и молекул вашего тела в другом месте. Но вначале ваше тело стирается, как бы уничтожается. Как вы думаете, если вы, например, совершите телепортацию, то человек, который окажется в месте Б, будет по-прежнему вами или ваше сознание будет стерто и в вашем теле до конца жизни будет ходить кто-то другой?
- Это именно тот мысленный эксперимент, который Рэй Курцвейл предложил в одной из своих книг о сингулярности. Он говорит: если вы примете тот факт, что ваше тело ежесекундно теряет молекулы, а потом приобретает другие, что ваша личность постоянно меняется вместе с этими элементами, то вы должны, в принципе, согласиться «умереть» в такой телепортации. Я склоняюсь к тому, что практически никто этого не сделает.
В каком-то смысле это достаточно хорошо обосновывает, что у нас есть такая форма conatus, возвращаясь к Спинозе, которая заставляет вас упорствовать в своем бытии. Упорство в бытии делает нас активными по отношению к обстоятельствам. И если вы добровольно отказываетесь от этого конатуса - это, на мой взгляд, признак глубокой экзистенциальной слабости. Ведь это значит, что вы не очень хотите упорствовать в своем бытии.
- Возможности искусственного интеллекта часто рассматриваются в контексте того, что он может изменить целую вселенную до неузнаваемости. Как вы считаете, в этих разговорах проявляется тоска человечества по существованию всемогущего бога?
- В последней книге [американского антрополога и анархиста] Дэвида Грэбера и [британского археолога] Дэвида Венгроу «Рассвет всего» показано, насколько много в истории человечества было религий - наше стремление к осмыслению мира могло принимать очень разные формы. Мы и сейчас пытаемся осмыслить происходящее вокруг - люди чувствуют себя крайне неуютно, когда не находят в жизни смысла, особенно такого, который был бы гарантирован неким высшим и абсолютным авторитетом.
В прошлые века этот смысл давали в школе и церкви, но сегодня каждый вынужден искать его самостоятельно. Для меня таким смыслом стала забота об окружающем мире. Для других людей это, безусловно, вера в искусственный интеллект. Но дискуссии об ИИ мне представляются ретроградными. Во-первых, потому что, говоря об искусственном интеллекте, мы подразумеваем интеллект без тела - подобный дуализм уже сам по себе довольно ненадежная штука. Если мы ненадолго вернемся к Спинозе, то как раз он и показал, что разум и тело - это просто две грани одной и той же сущности. А значит, если нет тела, то и интеллектом называть предсказывающие что-либо на основе больших данных алгоритмы тоже неверно.
Во-вторых, одержимость сингулярностью отражает еще и настроения людей, которые хотят, чтобы существовала некая всеведущая сущность, которая бы зафиксировала их прожитый опыт. Чтобы все было где-то зарегистрировано. Собственно, этот порыв толкает людей отдавать все свои данные технологическим компаниям. Конечно, никакой вечностью тут и не пахнет - через 50 лет все эти данные испарятся, не останется и следа от многих дата-центров.
Не оставлять следов - это одна из великих перспектив экзистенциализма. Я не очень люблю Сартра, но он пишет крайне интересные вещи в книге «Бытие и ничто»: быть зрелым значит принять, что снегопад заметет следы от ваших лыж, как будто их и не было. Такое принятие и есть подлинный способ жить. В Библии сказано: знаете ли, все, что вы делаете, будет где-то записано. И это вызывает тревогу, потому что в конце тебя будут судить. Но в то же время это очень обнадеживает, потому есть надежда на то, что кто-то еще будет копаться в нашей жизни. Но намного честнее принять, что никто разбираться не будет. И что мы не оставляем следов на снегу. Эта мысль может пугать, но это шаг к лучшему пониманию человеческой природы.
- Весной 2023 года широкий круг пользователей получил доступ к ChatGPT от OpenAI. Пишущие люди - в диапазоне от копирайтеров до писателей - сразу забеспокоились, что их стиль можно легко скопировать с помощью нейросетей и использовать в неподходящем контексте или же что новая технология и вовсе лишит их работы. Что вы думаете по этому поводу как автор?
- Во-первых, если вы боитесь, что творчество имитирует ваш стиль, значит, у вас он есть. И это отличная новость, потому что это означает, что вы полноценная личность. Французский мыслитель Жорж-Луи Леклерк де Бюффон говорил, что цель жизни любого человека - выработать уникальный и принадлежащий только вам стиль. Так что если вам подражают, то это замечательно, вы уже сделали себя.
Не думаю, что тут есть какая-то угроза. Алгоритмы заменят тех, кто уже ведет себя как машина. Мы живем в очень бюрократизированных обществах, и машины могут помочь снизить эту бессмысленную нагрузку на людей. Также важно помнить, что для полноценной работы алгоритмов нужны постоянные творческие усилия людей, создающих данные, которые затем «скармливают» нейросетям инженеры. Без этого сырья ни одна нейросеть не сможет развиваться.
Это действительно необходимо как-то регулировать, но я уверен, что решение не за горами. Куда больше я беспокоюсь о том, что эти инструменты попадут в руки миллиардов людей, которые станут использовать их не для творческих нужд, а для поиска истины. Вот тут начинаются настоящие проблемы. «Википедия» при всех своих недостатках создана людьми, которые отчаянно спорят о достоверности источников и в этих дебатах приходят к консенсусу, тщательно проверяя предпосылки каждого утверждения. Обращение к источнику - это основа западной концепции истины и знания. ChatGPT не может цитировать источник, он может только «предсказывать» нечто похожее на истину, он использует только «вероятные источники».
В этом свете понятие истины, которая является чем-то опровержимым и проверяемым, испаряется. На ее место приходит то, что [бывший госсекретарь США и Нобелевский лауреат] Генри Киссинджер - он написал очень хорошую статью об искусственном интеллекте - называет «накоплением двусмысленностей». Все вероятно, но не до конца верно, но мы об этом не знаем и находимся словно в тумане. И если люди действительно начнут широко использовать ChatGPT или подобные инструменты для повседневного исследования мироустройства и поиска истины, то, я думаю, мы окажемся в беде. Исчезнет само представление о том, что существуют какие-то объективные и общепринятые истины.
Поэтому я думаю, что на сайтах вроде ChatGPT и подобных должно стоять предупреждение: «Осторожно! Перед вами великое изобретение, но все, что оно производит, - это подделка. Вы можете использовать его для искусства, для вдохновения, но не для поиска знаний».