Почему ИИ не будет создавать произведения искусства. Часть I.
Часть I
Часть II
Американский писатель-фантаст китайского происхождения Ted Chiang считает, что при создании романа или картины, художник постоянно делает выбор, который в корне чужд ИИ:
"В 1953 году Роальд Даль опубликовал небольшой рассказ «Автоматический сочинитель» об инженере-электрике, который тайно мечтает стать писателем. Однажды, после завершения строительства самой быстрой в мире вычислительной машины, он понимает, что «английская грамматика подчиняется практически математически строгим правилам». Он конструирует машину для написания художественной литературы, которая может выдать короткий рассказ в 5000 слов за 30 секунд; на роман уходит 15 минут, что требует от оператора для регулирования уровня юмора и патетики манипулирования ручками и педалями, будто управляешь машиной или играешь на органе. Получившиеся произведения становятся настолько популярными, что в течение года половина художественной литературы, опубликованной на английском языке, оказывается созданными этим аппаратом.
Есть ли в произведениях искусства что-то такое, заставляющее нас думать, что их нельзя создать нажатием кнопок, как в воображении Даля? Прямо сейчас художественная литература, созданная большими языковыми моделями, такими как ChatGPT, ужасна, но можно предположить, что со временем такие программы будут улучшаться. Насколько качественными они могут стать? Могут ли такие модели сочинять художественные произведения, рисовать картины, снимать фильмы лучше людей, так же как калькуляторы лучше людей складывают и вычитают?
Искусство, также как и различия между хорошими и плохими произведениями, как известно, трудно определимы. Но позвольте мне предложить обобщение: искусство - это то, что является результатом выбора из множества вариантов. Возможно, проще всего это объяснить, если использовать в качестве примера литературное художественное произведение. Когда вы его пишете, вы - осознанно или нет - делаете выбор почти по каждому используемому слову; проще говоря, можно представить, что короткий рассказ из десяти тысяч слов требует от вас сделать порядка десяти тысяч предпочтений. Когда вы даете программе генеративного ИИ подсказку, вы создаете гораздо меньше предпочтений: если ваша подсказка состоит из ста слов, вы попросту выбираете сто слов.
Если ИИ на основе вашего запроса генерирует историю в десять тысяч слов, он должен за вас заполнить пустые места, которые вы сами не определили. Для ИИ есть несколько способов это сделать. Один из них - взять в текстах, найденных в Интернете, среднее значение из альтернатив, сделанных другими писателями; это среднее значение является наименее интересным выбором из возможных, поэтому текст, сгенерированный ИИ, часто получается действительно пресным. Другой способ - поручить программе заняться стилевым подражанием, основываясь на отборе, который сделал конкретный писатель, что неизбежно создает вторичное произведение. Ни в том, ни в другом случае процесс не создаст интересное произведение искусства...
Труднее представить себе программу, которая на протяжении нескольких сеансов поможет вам написать хороший роман. Эта гипотетическая программа-сочинитель может потребовать от вас ввести сто тысяч слов-подсказок, чтобы сгенерировать совершенно другие сто тысяч слов, образующие роман, который вы себе представляете. Мне не ясно, как такая программа будет выглядеть. Теоретически, если бы такая программа существовала, пользователя, возможно, можно было бы назвать автором. Но, опять же, я не думаю, что компании вроде OpenAI хотят создавать версии ChatGPT, которые требуют от пользователей столько же усилий, сколько требует написание романа с нуля. Коммерческое достоинство генеративного ИИ заключается в том, что эти программы генерируют гораздо больше, чем вы в них вкладываете.
Компании, продвигающие программы генеративного ИИ, утверждают, что они высвобождают креативность. По сути, они говорят, что искусство может быть сплошным вдохновением без капли пота, но эти вещи нелегко разделить. Я не говорю, что искусство должно включать в себя скуку. Я говорю, что искусство требует от создателя делать выбор на каждом шагу: бесчисленные мелкие предпочтения, сделанные во время реализации, так же важны для конечного продукта, как и несколько крупных решений, сделанных во время разработки концепции. Ошибочно приравнивать «крупномасштабное» и «важное», когда речь идет о выборе, который делается при создании произведения искусства; взаимосвязь между крупным и мелким масштабом - вот где заключается художество.
Как я подозреваю, вера в то, что вдохновение перевешивает все остальное, является признаком того, что не все знакомы с промежуточными звеньями. Я утверждаю, что этот принцип верен, даже если цель автора - создавать развлекательный продукт, а не высокое искусство. Люди часто недооценивают усилия, необходимые для разработки развлечения; триллер может не соответствовать идеалу книги с точки зрения Кафки - «топор, способный разрубить замерзшее море внутри нас», - но он все равно может быть сделан столь же искусно, как и швейцарские часы. И эффектный триллер - это больше, чем его предпосылка или сюжет. Я сомневаюсь, что вы могли бы заменить каждое предложение в триллере на другое, семантически эквивалентное начальному, и сделать так, чтобы получившийся роман был настолько же развлекательным. Это означает, что предложения в нем - и мелкомасштабные предпочтения, которые они представляют, - помогают достичь эффективности.
Многие писатели сталкивались с ситуацией, когда к ним обращались люди, убежденные, что у них есть отличная идея для романа, которой они готовы поделиться в обмен на получение своей доли прибыли. Такой человек непреднамеренно показывает, что считает формулирование предложений досадной помехой, а не основополагающей частью прозаического произведения. Генеративный ИИ привлекает людей, которые думают, что могут выразить себя в среде, фактически не работая в ней. Но создатели традиционных романов, картин и фильмов тянутся к этим формам искусства, потому что видят уникальный выразительный потенциал, который предоставляет каждая среда. Именно их стремление в полной мере использовать эти возможности делает работу качественной, будь то развлечение или искусство.
Конечно, большинство текстов - статьи, отчеты или электронные письма - не предполагают, что они содержат выбор из тысячи вариантов. Есть ли какой-либо вред в автоматизации такого рода задач? Позвольте мне предложить еще одно обобщение: любой текст, который заслуживает вашего внимания как читателя, является результатом усилий, затраченных тем, кто его написал. Усилия в процессе написания не гарантируют, что конечный продукт будет достоин прочтения, но без них нельзя сделать стоящую работу. Объем внимания, который вы уделяете чтению личного электронного письма, отличается от внимания, которое вы уделяете чтению делового отчета, но в обоих случаях внимание оправдано только тогда, когда автор вложил в него немного мыслей.
Во время Парижской Олимпиады Google выпустил рекламу Gemini - своего аналога GPT-4 от OpenAI. В рекламе отец использует Gemini для написания письма от лица фаната, которое его дочь отправит вдохновляющему ее олимпийскому спортсмену. Google перестал показывать рекламу после широкой негативной реакции зрителей; профессор СМИ назвал ее «одним из самых тревожных рекламных роликов, которые я когда-либо видел». Примечательно, что люди отреагировали именно так, хотя художественная креативность не была вытесняемым атрибутом. Никто не ожидает, что детское письмо фаната спортсмену будет выдающимся; если бы маленькая девочка сама написала письмо, оно, вероятно, было бы неотличимо от бесчисленного множества других. Значимость фанатского детского письма - как для ребенка, который его пишет, так и для спортсмена, который его получает, - заключается в его искренности, а не в красноречивости.
Многие из нас отправляли купленные в магазине поздравительные открытки, зная, что получателю будет ясно, что не мы сами придумали слова. Мы не копируем слова с открытки Hallmark собственной рукой, потому что это было бы нечестно. Программист Саймон Уиллисон описал обучение для больших языковых моделей как «отмывание денег за данные, защищенные авторским правом», что я считаю полезным способом осмысления привлекательности программ генеративного ИИ: они позволяют вам заниматься чем-то вроде плагиата, но при этом нет никакого чувства вины, поскольку даже вам не ясно, что вы копируете.
Телеграм-канал "Интриги книги"
Часть II
Американский писатель-фантаст китайского происхождения Ted Chiang считает, что при создании романа или картины, художник постоянно делает выбор, который в корне чужд ИИ:
"В 1953 году Роальд Даль опубликовал небольшой рассказ «Автоматический сочинитель» об инженере-электрике, который тайно мечтает стать писателем. Однажды, после завершения строительства самой быстрой в мире вычислительной машины, он понимает, что «английская грамматика подчиняется практически математически строгим правилам». Он конструирует машину для написания художественной литературы, которая может выдать короткий рассказ в 5000 слов за 30 секунд; на роман уходит 15 минут, что требует от оператора для регулирования уровня юмора и патетики манипулирования ручками и педалями, будто управляешь машиной или играешь на органе. Получившиеся произведения становятся настолько популярными, что в течение года половина художественной литературы, опубликованной на английском языке, оказывается созданными этим аппаратом.
Есть ли в произведениях искусства что-то такое, заставляющее нас думать, что их нельзя создать нажатием кнопок, как в воображении Даля? Прямо сейчас художественная литература, созданная большими языковыми моделями, такими как ChatGPT, ужасна, но можно предположить, что со временем такие программы будут улучшаться. Насколько качественными они могут стать? Могут ли такие модели сочинять художественные произведения, рисовать картины, снимать фильмы лучше людей, так же как калькуляторы лучше людей складывают и вычитают?
Искусство, также как и различия между хорошими и плохими произведениями, как известно, трудно определимы. Но позвольте мне предложить обобщение: искусство - это то, что является результатом выбора из множества вариантов. Возможно, проще всего это объяснить, если использовать в качестве примера литературное художественное произведение. Когда вы его пишете, вы - осознанно или нет - делаете выбор почти по каждому используемому слову; проще говоря, можно представить, что короткий рассказ из десяти тысяч слов требует от вас сделать порядка десяти тысяч предпочтений. Когда вы даете программе генеративного ИИ подсказку, вы создаете гораздо меньше предпочтений: если ваша подсказка состоит из ста слов, вы попросту выбираете сто слов.
Если ИИ на основе вашего запроса генерирует историю в десять тысяч слов, он должен за вас заполнить пустые места, которые вы сами не определили. Для ИИ есть несколько способов это сделать. Один из них - взять в текстах, найденных в Интернете, среднее значение из альтернатив, сделанных другими писателями; это среднее значение является наименее интересным выбором из возможных, поэтому текст, сгенерированный ИИ, часто получается действительно пресным. Другой способ - поручить программе заняться стилевым подражанием, основываясь на отборе, который сделал конкретный писатель, что неизбежно создает вторичное произведение. Ни в том, ни в другом случае процесс не создаст интересное произведение искусства...
Труднее представить себе программу, которая на протяжении нескольких сеансов поможет вам написать хороший роман. Эта гипотетическая программа-сочинитель может потребовать от вас ввести сто тысяч слов-подсказок, чтобы сгенерировать совершенно другие сто тысяч слов, образующие роман, который вы себе представляете. Мне не ясно, как такая программа будет выглядеть. Теоретически, если бы такая программа существовала, пользователя, возможно, можно было бы назвать автором. Но, опять же, я не думаю, что компании вроде OpenAI хотят создавать версии ChatGPT, которые требуют от пользователей столько же усилий, сколько требует написание романа с нуля. Коммерческое достоинство генеративного ИИ заключается в том, что эти программы генерируют гораздо больше, чем вы в них вкладываете.
Компании, продвигающие программы генеративного ИИ, утверждают, что они высвобождают креативность. По сути, они говорят, что искусство может быть сплошным вдохновением без капли пота, но эти вещи нелегко разделить. Я не говорю, что искусство должно включать в себя скуку. Я говорю, что искусство требует от создателя делать выбор на каждом шагу: бесчисленные мелкие предпочтения, сделанные во время реализации, так же важны для конечного продукта, как и несколько крупных решений, сделанных во время разработки концепции. Ошибочно приравнивать «крупномасштабное» и «важное», когда речь идет о выборе, который делается при создании произведения искусства; взаимосвязь между крупным и мелким масштабом - вот где заключается художество.
Как я подозреваю, вера в то, что вдохновение перевешивает все остальное, является признаком того, что не все знакомы с промежуточными звеньями. Я утверждаю, что этот принцип верен, даже если цель автора - создавать развлекательный продукт, а не высокое искусство. Люди часто недооценивают усилия, необходимые для разработки развлечения; триллер может не соответствовать идеалу книги с точки зрения Кафки - «топор, способный разрубить замерзшее море внутри нас», - но он все равно может быть сделан столь же искусно, как и швейцарские часы. И эффектный триллер - это больше, чем его предпосылка или сюжет. Я сомневаюсь, что вы могли бы заменить каждое предложение в триллере на другое, семантически эквивалентное начальному, и сделать так, чтобы получившийся роман был настолько же развлекательным. Это означает, что предложения в нем - и мелкомасштабные предпочтения, которые они представляют, - помогают достичь эффективности.
Многие писатели сталкивались с ситуацией, когда к ним обращались люди, убежденные, что у них есть отличная идея для романа, которой они готовы поделиться в обмен на получение своей доли прибыли. Такой человек непреднамеренно показывает, что считает формулирование предложений досадной помехой, а не основополагающей частью прозаического произведения. Генеративный ИИ привлекает людей, которые думают, что могут выразить себя в среде, фактически не работая в ней. Но создатели традиционных романов, картин и фильмов тянутся к этим формам искусства, потому что видят уникальный выразительный потенциал, который предоставляет каждая среда. Именно их стремление в полной мере использовать эти возможности делает работу качественной, будь то развлечение или искусство.
Конечно, большинство текстов - статьи, отчеты или электронные письма - не предполагают, что они содержат выбор из тысячи вариантов. Есть ли какой-либо вред в автоматизации такого рода задач? Позвольте мне предложить еще одно обобщение: любой текст, который заслуживает вашего внимания как читателя, является результатом усилий, затраченных тем, кто его написал. Усилия в процессе написания не гарантируют, что конечный продукт будет достоин прочтения, но без них нельзя сделать стоящую работу. Объем внимания, который вы уделяете чтению личного электронного письма, отличается от внимания, которое вы уделяете чтению делового отчета, но в обоих случаях внимание оправдано только тогда, когда автор вложил в него немного мыслей.
Во время Парижской Олимпиады Google выпустил рекламу Gemini - своего аналога GPT-4 от OpenAI. В рекламе отец использует Gemini для написания письма от лица фаната, которое его дочь отправит вдохновляющему ее олимпийскому спортсмену. Google перестал показывать рекламу после широкой негативной реакции зрителей; профессор СМИ назвал ее «одним из самых тревожных рекламных роликов, которые я когда-либо видел». Примечательно, что люди отреагировали именно так, хотя художественная креативность не была вытесняемым атрибутом. Никто не ожидает, что детское письмо фаната спортсмену будет выдающимся; если бы маленькая девочка сама написала письмо, оно, вероятно, было бы неотличимо от бесчисленного множества других. Значимость фанатского детского письма - как для ребенка, который его пишет, так и для спортсмена, который его получает, - заключается в его искренности, а не в красноречивости.
Многие из нас отправляли купленные в магазине поздравительные открытки, зная, что получателю будет ясно, что не мы сами придумали слова. Мы не копируем слова с открытки Hallmark собственной рукой, потому что это было бы нечестно. Программист Саймон Уиллисон описал обучение для больших языковых моделей как «отмывание денег за данные, защищенные авторским правом», что я считаю полезным способом осмысления привлекательности программ генеративного ИИ: они позволяют вам заниматься чем-то вроде плагиата, но при этом нет никакого чувства вины, поскольку даже вам не ясно, что вы копируете.
Телеграм-канал "Интриги книги"