Почему ИИ не будет создавать произведения искусства. Часть II.
Часть I
Часть II
Некоторые утверждают, что большие языковые модели не отмывают тексты, на которых они обучены, а, скорее, учатся на них, так же, как люди-писатели учатся на прочитанных книгах. Но большая языковая модель не является писателем; она даже не является пользователем языка. Язык, по определению, является системой общения, и модель намерена общаться. Автозаполнение, настроенное на вашем телефоне, может предлагать хорошие варианты или плохие, но ни в том, ни в другом случае оно не пытается что-либо сказать вам или человеку, которому вы пишете. Тот факт, что ChatGPT может генерировать связные предложения, побуждает нас думать, что он понимает язык в отличие от автозаполнения, которым владеет ваш телефон, но у которого нет намерения общаться.
Очень легко заставить ChatGPT выстроить ряд осмысленных слов, например, «Я рад тебя видеть». Мы многого не понимаем в том, как работают большие языковые модели, но одно мы можем сказать наверняка: ChatGPT на самом деле не рад тебя видеть. Собака может сообщить, что она рада тебя видеть, ребенок, не умеющий говорить, тоже может, хотя они оба не умеют использовать слова. ChatGPT ничего не чувствует и ничего не желает, и это отсутствие намерения является причиной того, что ChatGPT на самом деле не использует язык. Слова «Я рад тебя видеть» делаются лингвистическим высказыванием не потому, что последовательность текстовых токенов, из которых они состоят, хорошо сформирована; лингвистическим высказыванием их делает намерение что-то сообщить.
Поскольку язык дается нам легко, можно забыть, что он лежит поверх других человеческих переживаний и желания передать эти чувства. Мы испытываем искушение спроецировать наши переживания на большую языковую модель, которая легко выдает связные предложения, но сделать это - значит стать жертвой мимикрии; это то же самое явление, что и у бабочек, у которых появились большие темные пятна на крыльях, позволяющие обмануть птиц, заставив их думать, что они не бабочки, а хищники с большими глазами. Есть контекст, когда темных пятен достаточно; птицы с меньшей вероятностью съедят бабочку, у которой они есть, и бабочке на самом деле все равно, почему ее не едят, пока она живет. Потому и есть большая разница между бабочкой и хищником, который представляет угрозу для птицы.
Человек, использующий генеративный ИИ для помощи в написании, может утверждать, что он черпает вдохновение из текстов, на которых обучалась модель, но я бы снова утверждал, что это отличается от того, что мы обычно имеем в виду, когда говорим, что один писатель черпает вдохновение у другого. Рассмотрим студента колледжа, который сдает работу, состоящую исключительно из пятистраничной цитаты из книги, утверждая, что эта цитата передает именно то, что он хотел сказать, лучше, чем он мог бы сказать сам. Даже если студент полностью откровенен с преподавателем о том, что он сделал, неверно говорить, что он черпает вдохновение из книги, которую он цитирует. Тот факт, что большая языковая модель может перефразировать цитату настолько, что источник станет неидентифицируемым, не меняет фундаментальной природы происходящего.
Как заметила лингвист Эмили М. Бендер, учителя не просят студентов писать эссе, потому что миру нужно больше студенческих эссе. Цель написания эссе - укрепить навыки критического мышления у студентов; так же, как поднятие тяжестей полезно для большинства спортсменов вне зависимости от вида спорта, написание эссе развивает навыки, необходимые для любой работы, которую в конечном итоге получит выпускник колледжа. Использовать ChatGPT для выполнения заданий - это как использовать погрузчик в тренажерном зале; таким образом вы никогда не улучшите свою когнитивную подготовку.
Не все тексты должны быть творческими, искренними или даже особенно хорошими; иногда они просто должны существовать. Такие тексты могут быть использованы для других целей, например, для привлечения к просмотру рекламы или для удовлетворения бюрократических требований. Когда от человека требуют создания такого текста, можем ли мы их винить за использование любых доступных инструментов для ускорения процесса. Но стал ли мир лучше с большим количеством документов, на которые было затрачено минимальное количество усилий? Было бы нереалистично утверждать, что если мы откажемся от использования больших языковых моделей, то требования к созданию низкокачественного текста исчезнут. Однако, я думаю, чем больше мы используем языковые модели для выполнения таких требований, тем выше будут в конечном итоге эти требования. Мы вступаем в эпоху, когда кто-то может использовать большую языковую модель для создания документа из промаркированного списка и отправить его человеку, который будет использовать большую языковую модель для сжатия этого документа в свой маркированный список. Может ли кто-то серьезно утверждать, что это улучшение?
Не исключено, что однажды у нас появятся компьютерные программы, которые смогут делать все, что может делать человек, но, вопреки заявлениям компаний, продвигающих ИИ, мы не увидим этого в ближайшие несколько лет. Даже в областях, которые не имеют абсолютно никакого отношения к творчеству, текущие программы ИИ имеют серьезные ограничения, которые дают нам законные основания сомневаться, могут ли они вообще называться интеллектуальными.
Ученый-компьютерщик Франсуа Шолле предложил следующее различие: мастерство - это то, насколько хорошо вы справляетесь с задачей, а интеллект - это то, насколько эффективно вы приобретаете новые навыки. Я думаю, это довольно хорошо отражает наши интуитивные представления о людях. Большинство людей могут освоить новый навык при достаточной практике, но чем быстрее человек усваивает этот навык, тем более умным мы его считаем. Интересно в этом определении то, что - в отличие от тестов на IQ - оно применимо и к нечеловеческим существам; когда собака быстро усваивает новый трюк, мы считаем это признаком интеллекта...
Рассмотрим современные программы ИИ, широко известные своей производительностью. AlphaZero, программа, разработанная DeepMind от Google, играет в шахматы лучше любого человека, но во время своего обучения она сыграла 44 миллиона партий, гораздо больше, чем любой человек может сыграть за всю жизнь. Чтобы освоить другую игру, ей придется пройти такой же огромный объем обучения. По определению Шолле, программы, подобные AlphaZero, обладают высокой квалификацией, но они не особенно умны, потому что они неэффективны в приобретении новых навыков. В настоящее время невозможно написать компьютерную программу, способную выучить даже простую задачу всего за двадцать четыре попытки, если программисту заранее не предоставлена информация о задаче...
Несмотря на годы шумихи, способность генеративного ИИ резко повысить производительность труда остается теоретической. Задача, в которой генеративный ИИ преуспел больше всего, - это снижение наших ожиданий как от того, что мы читаем, так и от того, что мы пишем для кого-то другого. Это фундаментально дегуманизирующая технология, поскольку она относится к нам как к чему-то меньшему, чем мы есть: создателям и постигателям смысла. Она уменьшает количество желаний в мире.
Некоторые люди защищали большие языковые модели, утверждая, что большая часть того, что говорят или пишут люди, не является особенно оригинальной. Это правда, но это также не имеет значения. Когда кто-то говорит вам «Простите», то неважно, что другие люди уже в прошлом это говорили; неважно, что «Простите» - это строка текста, которая статистически ничем не примечательна. Если кто-то искренен, то его извинения ценны и значимы, даже если такого рода извинения уже были произнесены ранее. Аналогично, когда вы говорите кому-то, что вы рады его видеть, вы говорите что-то значимое, даже если в этом нет новизны.
Нечто подобное справедливо и для искусства. Создаете ли вы роман, картину или фильм, вы вовлечены в акт общения между вами и вашей аудиторией. То, что вы создаете, чтобы быть ценным, не обязательно должно быть совершенно непохожим на все предыдущие произведения искусства; тот факт, что говорите это именно вы, тот факт, что это высказано на основе вашего уникального жизненного опыта и происходит в определенный момент жизни того, кто изучает вашу работу, делает ее новой. Мы все являемся продуктами того, что было до нас, но именно проживая свою жизнь во взаимодействии с другими, мы привносим смысл в этот мир. Это то, чего алгоритм автозаполнения никогда не сможет сделать, и не позволяйте никому говорить вам обратное."
Телеграм-канал "Интриги книги"
Часть II
Некоторые утверждают, что большие языковые модели не отмывают тексты, на которых они обучены, а, скорее, учатся на них, так же, как люди-писатели учатся на прочитанных книгах. Но большая языковая модель не является писателем; она даже не является пользователем языка. Язык, по определению, является системой общения, и модель намерена общаться. Автозаполнение, настроенное на вашем телефоне, может предлагать хорошие варианты или плохие, но ни в том, ни в другом случае оно не пытается что-либо сказать вам или человеку, которому вы пишете. Тот факт, что ChatGPT может генерировать связные предложения, побуждает нас думать, что он понимает язык в отличие от автозаполнения, которым владеет ваш телефон, но у которого нет намерения общаться.
Очень легко заставить ChatGPT выстроить ряд осмысленных слов, например, «Я рад тебя видеть». Мы многого не понимаем в том, как работают большие языковые модели, но одно мы можем сказать наверняка: ChatGPT на самом деле не рад тебя видеть. Собака может сообщить, что она рада тебя видеть, ребенок, не умеющий говорить, тоже может, хотя они оба не умеют использовать слова. ChatGPT ничего не чувствует и ничего не желает, и это отсутствие намерения является причиной того, что ChatGPT на самом деле не использует язык. Слова «Я рад тебя видеть» делаются лингвистическим высказыванием не потому, что последовательность текстовых токенов, из которых они состоят, хорошо сформирована; лингвистическим высказыванием их делает намерение что-то сообщить.
Поскольку язык дается нам легко, можно забыть, что он лежит поверх других человеческих переживаний и желания передать эти чувства. Мы испытываем искушение спроецировать наши переживания на большую языковую модель, которая легко выдает связные предложения, но сделать это - значит стать жертвой мимикрии; это то же самое явление, что и у бабочек, у которых появились большие темные пятна на крыльях, позволяющие обмануть птиц, заставив их думать, что они не бабочки, а хищники с большими глазами. Есть контекст, когда темных пятен достаточно; птицы с меньшей вероятностью съедят бабочку, у которой они есть, и бабочке на самом деле все равно, почему ее не едят, пока она живет. Потому и есть большая разница между бабочкой и хищником, который представляет угрозу для птицы.
Человек, использующий генеративный ИИ для помощи в написании, может утверждать, что он черпает вдохновение из текстов, на которых обучалась модель, но я бы снова утверждал, что это отличается от того, что мы обычно имеем в виду, когда говорим, что один писатель черпает вдохновение у другого. Рассмотрим студента колледжа, который сдает работу, состоящую исключительно из пятистраничной цитаты из книги, утверждая, что эта цитата передает именно то, что он хотел сказать, лучше, чем он мог бы сказать сам. Даже если студент полностью откровенен с преподавателем о том, что он сделал, неверно говорить, что он черпает вдохновение из книги, которую он цитирует. Тот факт, что большая языковая модель может перефразировать цитату настолько, что источник станет неидентифицируемым, не меняет фундаментальной природы происходящего.
Как заметила лингвист Эмили М. Бендер, учителя не просят студентов писать эссе, потому что миру нужно больше студенческих эссе. Цель написания эссе - укрепить навыки критического мышления у студентов; так же, как поднятие тяжестей полезно для большинства спортсменов вне зависимости от вида спорта, написание эссе развивает навыки, необходимые для любой работы, которую в конечном итоге получит выпускник колледжа. Использовать ChatGPT для выполнения заданий - это как использовать погрузчик в тренажерном зале; таким образом вы никогда не улучшите свою когнитивную подготовку.
Не все тексты должны быть творческими, искренними или даже особенно хорошими; иногда они просто должны существовать. Такие тексты могут быть использованы для других целей, например, для привлечения к просмотру рекламы или для удовлетворения бюрократических требований. Когда от человека требуют создания такого текста, можем ли мы их винить за использование любых доступных инструментов для ускорения процесса. Но стал ли мир лучше с большим количеством документов, на которые было затрачено минимальное количество усилий? Было бы нереалистично утверждать, что если мы откажемся от использования больших языковых моделей, то требования к созданию низкокачественного текста исчезнут. Однако, я думаю, чем больше мы используем языковые модели для выполнения таких требований, тем выше будут в конечном итоге эти требования. Мы вступаем в эпоху, когда кто-то может использовать большую языковую модель для создания документа из промаркированного списка и отправить его человеку, который будет использовать большую языковую модель для сжатия этого документа в свой маркированный список. Может ли кто-то серьезно утверждать, что это улучшение?
Не исключено, что однажды у нас появятся компьютерные программы, которые смогут делать все, что может делать человек, но, вопреки заявлениям компаний, продвигающих ИИ, мы не увидим этого в ближайшие несколько лет. Даже в областях, которые не имеют абсолютно никакого отношения к творчеству, текущие программы ИИ имеют серьезные ограничения, которые дают нам законные основания сомневаться, могут ли они вообще называться интеллектуальными.
Ученый-компьютерщик Франсуа Шолле предложил следующее различие: мастерство - это то, насколько хорошо вы справляетесь с задачей, а интеллект - это то, насколько эффективно вы приобретаете новые навыки. Я думаю, это довольно хорошо отражает наши интуитивные представления о людях. Большинство людей могут освоить новый навык при достаточной практике, но чем быстрее человек усваивает этот навык, тем более умным мы его считаем. Интересно в этом определении то, что - в отличие от тестов на IQ - оно применимо и к нечеловеческим существам; когда собака быстро усваивает новый трюк, мы считаем это признаком интеллекта...
Рассмотрим современные программы ИИ, широко известные своей производительностью. AlphaZero, программа, разработанная DeepMind от Google, играет в шахматы лучше любого человека, но во время своего обучения она сыграла 44 миллиона партий, гораздо больше, чем любой человек может сыграть за всю жизнь. Чтобы освоить другую игру, ей придется пройти такой же огромный объем обучения. По определению Шолле, программы, подобные AlphaZero, обладают высокой квалификацией, но они не особенно умны, потому что они неэффективны в приобретении новых навыков. В настоящее время невозможно написать компьютерную программу, способную выучить даже простую задачу всего за двадцать четыре попытки, если программисту заранее не предоставлена информация о задаче...
Несмотря на годы шумихи, способность генеративного ИИ резко повысить производительность труда остается теоретической. Задача, в которой генеративный ИИ преуспел больше всего, - это снижение наших ожиданий как от того, что мы читаем, так и от того, что мы пишем для кого-то другого. Это фундаментально дегуманизирующая технология, поскольку она относится к нам как к чему-то меньшему, чем мы есть: создателям и постигателям смысла. Она уменьшает количество желаний в мире.
Некоторые люди защищали большие языковые модели, утверждая, что большая часть того, что говорят или пишут люди, не является особенно оригинальной. Это правда, но это также не имеет значения. Когда кто-то говорит вам «Простите», то неважно, что другие люди уже в прошлом это говорили; неважно, что «Простите» - это строка текста, которая статистически ничем не примечательна. Если кто-то искренен, то его извинения ценны и значимы, даже если такого рода извинения уже были произнесены ранее. Аналогично, когда вы говорите кому-то, что вы рады его видеть, вы говорите что-то значимое, даже если в этом нет новизны.
Нечто подобное справедливо и для искусства. Создаете ли вы роман, картину или фильм, вы вовлечены в акт общения между вами и вашей аудиторией. То, что вы создаете, чтобы быть ценным, не обязательно должно быть совершенно непохожим на все предыдущие произведения искусства; тот факт, что говорите это именно вы, тот факт, что это высказано на основе вашего уникального жизненного опыта и происходит в определенный момент жизни того, кто изучает вашу работу, делает ее новой. Мы все являемся продуктами того, что было до нас, но именно проживая свою жизнь во взаимодействии с другими, мы привносим смысл в этот мир. Это то, чего алгоритм автозаполнения никогда не сможет сделать, и не позволяйте никому говорить вам обратное."
Телеграм-канал "Интриги книги"