Опять же, здѣсь проблема въ томъ, что мы не умѣемъ четко и надежно протестировать, "вышелъ" ли кто-то за предѣлы комбинацiй извѣстнаго или "не вышелъ".
У насъ (людей) принято говорить, что "творчество" это выходъ за рамки стандартнаго, извѣстнаго, и мы знаемъ, что лишь нѣкоторымъ людямъ это дано, эти люди называются "талантливыми" и т.д. Все это наши условности, такъ принято говорить, и мы дѣлаемъ видъ, что эти слова имѣютъ четкiй смыслъ. Но это - ошибка. Утвержденiя о "талантахъ" и "творчествѣ" не имѣютъ четкаго смысла, не поддаются стандартизованной провѣркѣ.
Въ математикѣ все же легче, тамъ есть жесткiй критерiй истинности и методы провѣрки. Поэтому мы считаемъ, что если теорема доказана, то это куда болѣе надежно, чѣмъ просто чье-то "обоснованное мнѣнiе". Есть уже компьютерныя программы, способныя однозначно провѣрить доказательство теоремы (хотя пока что не для всѣхъ областей математики).
Въ другихъ видахъ человѣческой дѣятельности такихъ методовъ нѣтъ. Остается лишь экспертное мнѣнiе. И оно зачастую таково, что chatgpt уже превзошелъ ихъ науку. Вотъ примѣръ.
Роботу (chatgpt 3.5) сказали "напиши эссе о философскихъ общихъ пунктахъ даоистской морально-этической системы и христiанскихъ завѣтовъ Нагорной проповеди". Эссе было готово черезъ 10 секундъ. Профессоръ-экспертъ оцѣнилъ это эссе какъ "блестящiй отвѣтъ... онъ попалъ абсолютно въ точку". Дальше тамъ разсказывается о томъ, что chatgpt 3.5 не только пишетъ студенческiя сочиненiя на уровнѣ какъ минимумъ среднихъ студентовъ колледжа, но также можетъ самъ оцѣнивать такiя сочиненiя, т.е. генерировать тексты съ подробнымъ анализомъ студенческихъ сочиненiй. ("Роботъ можетъ замѣнить и студента, и профессора гуманитарныхъ наукъ.")
То же самое относится къ художественному творчеству. Раньше считалось, что лишь человѣкъ-творецъ можетъ написать художественное полотно, картину масломъ, или разсказъ, повѣсть, или музыкальное произведенiе, спѣть пѣсню. Сегодня появились десятки программъ, дѣлающiя все это, достаточно попросить "нарисуй то-то въ такомъ-то стилѣ" или "напиши разсказъ о томъ-то и томъ-то". Поэтому немедленно пошли разговоры о томъ, что результаты работы этихъ программъ - "не настоящее" творчество, что это халтура, что тамъ нѣтъ "правильнаго взгляда художника" и т.д. Но проблема въ томъ, что четкихъ критерiевъ не было и нѣтъ. Просто намъ не нравится, что компьютеръ можетъ замѣнить человѣка.
Раньше считалось, что игра въ шахматы, шашки, го-моку является признакомъ интеллекта. Поэтому ученые старались сдѣлать компьютерныя программы для этихъ игръ - это считалось работой надъ искусственнымъ интеллектомъ. Но когда компьютеры превзошли человѣка въ этихъ играхъ, почему-то больше не считается, что эти компьютеры надѣлены интеллектомъ, потому что "это другое".
У насъ нѣтъ и не было критерiевъ того, что такое "интеллектъ", "пониманiе", "умъ". Вотъ мы и извиваемся ужомъ на сковородкѣ, медленно подогрѣваемой нейронными сѣтями.
У насъ нѣтъ и не было критерiевъ того, что такое "интеллектъ", "пониманiе", "умъ".
Если Вы о чём-то не знаете, совершенно не обязательно этого нет.
Интеллект это всего лишь способность решать интеллектуальные задачи. То есть, задачи в области информации. В этом смысле некоторым интеллектом обладает и калькулятор.
Понимание это освоение за пределами опыта. Правильная индукция, экстраполяция и т.д.
Ум - это интеллект, распространённый на выбор задач. То есть, не только способность решать задачи, но и способность удачно их выбирать (какие решать, а какие нет, и почему).
Но проблема въ томъ, что четкихъ критерiевъ не было и нѣтъ.
Есть. Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить. А пока что их предел - SEO-контент и гуманитарщина ни о чём.
Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить.
Я думаю, уже скоро, лѣтъ черезъ 5-10, бестселлеръ (превосходящiй по качеству типичную современную литературу бестселлернаго типа) будетъ написанъ отъ начала и до конца роботомъ. Я уже видѣлъ статью о томъ, какъ расширить количество токеновъ вывода для GPT до 50-60 тысячъ. (А среднiй романъ содержитъ около 100 тыс. слов.) И когда этотъ бестселлеръ будетъ написанъ, то, я увѣренъ, опять начнутся разговоры о томъ, что это все равно не "настоящее" творчество, а лишь имитацiя креативности, это не считается.
Чтобы подтвердить мое мнѣнiе, достаточно процитировать Вашу реплику. "Будетъ о чёмъ поспорить". Т.е. мы сегодня говоримъ, что компьютеръ не обладаетъ интеллектомъ, потому что не можетъ написать бестселлеръ, а если сможетъ, то мы и тогда не согласимся, что у компьютера появился интеллектъ, поскольку мы "будемъ еще спорить". Вотъ это какъ разъ ясно показываетъ, что у насъ нѣтъ четкихъ критерiевъ. Были бы четкiе критерiи, не было бы предмета для спора.
Напримѣръ, въ математикѣ нѣтъ споровъ о томъ, доказалъ ли компьютеръ теорему и правильное ли доказательство. Либо доказалъ, либо нѣтъ, есть четкiй критерiй. Существуютъ языки программированiя, гдѣ правильность программы доказывается компьютеромъ, и опять-таки нѣтъ предмета для спора.
Не путайте правдоподобное с достоверным, а достоверное с правдивым. Очень часто разница не особо принципиальна, но как раз бестселлеры именно тот случай. Чтобы имин написала бестселлер нужно не чтобы она поумнела - а чтобы люди безнадёжно поглупели и выродились.
Но при таком развитии событий они вообще вряд ли будут что-либо читать.
А когда напишетъ, тогда "будемъ спорить дальше". Это я уже понялъ.
Причину объяснять не то, чтобы долго - просто немного лень.
Причину Вы не можете объяснить. Я тоже не могу. Но не раздѣляю Вашего оптимизма.
Сегодня компьютеры могутъ рисовать на порядокъ лучше, чѣмъ всего 2-3 года назадъ. А то, что дѣлаетъ ChatGPT, еще 5 лѣтъ назадъ никто и не представлялъ. Прогрессъ идетъ очень быстро.
Бестселлер = оригинальность + достоверность. Нейросеть такого не может и никогда не сможет. Даже по-отдельности у имины с этими вещами плохо. А уж совместить их...
А вот плагиатить и повторюшничать - это сколько угодно. «Напиши рассказ про Шерлока Холмса в стиле Конана Дойля». Напишет. С годами у неё это будет получаться всё лучше и лучше, охотно в это верю.
А вот новым Конаном Дойлем имина не станет. Дело даже не в том, что датасет гениев и их работ невелик. Дело в том, что на нём обучиться невозможно. Там всё разное. И более того - чтобы туда попасть, надо быть непохожим на то, что там уже есть. Причём это необходимое условие, а не достаточное.
У насъ нѣтъ четкихъ критерiевъ того, что такое "оригинальный и достовѣрный" романъ, кто "генiй", а кто лишь "большой талантъ" и т.д. Искусствовѣды спорятъ объ этомъ вѣками и такъ ни о чемъ не договорились однозначно. У насъ нѣтъ стандартныхъ, провѣренныхъ и надежныхъ тестовъ или экзаменовъ, выясняющихъ, кто "настоящiй" художникъ (писатель, композиторъ...), а кто "лишь ремесленникъ" или "лишь любитель искусства", или "графоманъ".
Да, конечно, принято говорить объ этомъ такими словами, что, молъ, "генiй - это оригинальность" и т.д.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Но эти утвержденiя ничего опредѣленнаго не означаютъ и ихъ нельзя эмпирически провѣрить. Это чистая игра словами.
Вы увѣрены, что роботъ никогда не сможетъ стать творцомъ. Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ", Ваша увѣренность не можетъ быть провѣрена на практикѣ. Что бы ни сгенерировалъ роботъ и на какихъ бы принципахъ ни была основана его программа, Вы всегда можете заявить, что это "не настоящее творчество". Невозможно ни доказать, ни опровергнуть это утвержденiе.
Для примѣра, утвержденiе о томъ, что роботъ доказалъ ту или иную математическую теорему, подлежитъ однозначной провѣркѣ.
У насъ нѣтъ четкихъ критерiевъ того, что такое "оригинальный и достовѣрный" романъ, кто "генiй", а кто лишь "большой талантъ" и т.д.
Они и не требуются. Есть тиражи и продажи, их достаточно.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Напишет бестселлер на 100 тысяч слов (стандартный объём романа, плюс-минус) - продолжим дискуссию. Сейчас спорить просто не о чем, даже сборников рассказов от нейросетей в продаже просто нет.
Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ",
Есть. Эффективная оригинальность - новые методы, жанры, рецепты, подходы, концепции и т.д. - которые при этом ещё и успешны.
Для примѣра, утвержденiе о томъ, что роботъ доказалъ ту или иную математическую теорему, подлежитъ однозначной провѣркѣ.
Пока таких просто нет. С помощью алгоритмов доказывали теоремы (некоторые весьма специфического типа, например, теоремы возможности или т.п., где всё решал мощный быстрый брутфорс). Но это делали люди по алгоритмам (с помощью программ), а не имины.
// тиражи и продажи pulp fiction, комиксы, бульварное чтиво
у нас просто никогда не было по настоящему дешевого чтива, а в Штатах и Японии и сейчас на этом кто-то делает обороты.
Вообще вы спорите о чистой нейронке. Союз нейронки и человека с годами будет становиться крепче и все более неразличимым для пользователя. И человек с нейронкой может дать искру, а нейронка даст все остальное.
Так я ж не спорю с тем, что нейронка - хороший инструмент, в некоторых ситуациях просто ну очень хороший, прорывной. Мы сами в работе постоянно используем нейросети, с большим успехом.
Я спорю с тем, что это нечто большее, чем инструмент. Нет, не нечто большее. Это инструмент.
осталось построить иерархию терминов - инструмент - станок - станок с ЧПУ - завод - завод с конвейером - автономный завод - автономный исследовательский аппарат - и двигать технологию по этой иерархии
Да всё проще. Инструмент не автономен как минимум в плане целеположения (сам себе задачи не ставит) - а как максимум в плане инициации (не дашь команды, работать не будет). Нейронки именно инструмент.
Опять же, здѣсь проблема въ томъ, что мы не умѣемъ четко и надежно протестировать, "вышелъ" ли кто-то за предѣлы комбинацiй извѣстнаго или "не вышелъ".
У насъ (людей) принято говорить, что "творчество" это выходъ за рамки стандартнаго, извѣстнаго, и мы знаемъ, что лишь нѣкоторымъ людямъ это дано, эти люди называются "талантливыми" и т.д. Все это наши условности, такъ принято говорить, и мы дѣлаемъ видъ, что эти слова имѣютъ четкiй смыслъ. Но это - ошибка. Утвержденiя о "талантахъ" и "творчествѣ" не имѣютъ четкаго смысла, не поддаются стандартизованной провѣркѣ.
Въ математикѣ все же легче, тамъ есть жесткiй критерiй истинности и методы провѣрки. Поэтому мы считаемъ, что если теорема доказана, то это куда болѣе надежно, чѣмъ просто чье-то "обоснованное мнѣнiе". Есть уже компьютерныя программы, способныя однозначно провѣрить доказательство теоремы (хотя пока что не для всѣхъ областей математики).
Въ другихъ видахъ человѣческой дѣятельности такихъ методовъ нѣтъ. Остается лишь экспертное мнѣнiе. И оно зачастую таково, что chatgpt уже превзошелъ ихъ науку. Вотъ примѣръ.
Роботу (chatgpt 3.5) сказали "напиши эссе о философскихъ общихъ пунктахъ
даоистской морально-этической системы и христiанскихъ завѣтовъ Нагорной
проповеди". Эссе было готово черезъ 10 секундъ. Профессоръ-экспертъ
оцѣнилъ это эссе какъ "блестящiй отвѣтъ... онъ попалъ абсолютно въ
точку". Дальше тамъ разсказывается о томъ, что chatgpt 3.5 не только
пишетъ студенческiя сочиненiя на уровнѣ какъ минимумъ среднихъ
студентовъ колледжа, но также можетъ самъ оцѣнивать такiя сочиненiя,
т.е. генерировать тексты съ подробнымъ анализомъ студенческихъ
сочиненiй. ("Роботъ можетъ замѣнить и студента, и профессора
гуманитарныхъ наукъ.")
То же самое относится къ художественному
творчеству. Раньше считалось, что лишь человѣкъ-творецъ можетъ написать
художественное полотно, картину масломъ, или разсказъ, повѣсть, или
музыкальное произведенiе, спѣть пѣсню. Сегодня появились десятки
программъ, дѣлающiя все это, достаточно попросить "нарисуй то-то въ
такомъ-то стилѣ" или "напиши разсказъ о томъ-то и томъ-то". Поэтому
немедленно пошли разговоры о томъ, что результаты работы этихъ программъ
- "не настоящее" творчество, что это халтура, что тамъ нѣтъ
"правильнаго взгляда художника" и т.д. Но проблема въ томъ, что четкихъ
критерiевъ не было и нѣтъ. Просто намъ не нравится, что компьютеръ
можетъ замѣнить человѣка.
Раньше считалось, что игра въ шахматы, шашки, го-моку является признакомъ интеллекта. Поэтому ученые старались сдѣлать компьютерныя программы для этихъ игръ - это считалось работой надъ искусственнымъ интеллектомъ. Но когда компьютеры превзошли человѣка въ этихъ играхъ, почему-то больше не считается, что эти компьютеры надѣлены интеллектомъ, потому что "это другое".
У насъ нѣтъ и не было критерiевъ того, что такое "интеллектъ", "пониманiе", "умъ". Вотъ мы и извиваемся ужомъ на сковородкѣ, медленно подогрѣваемой нейронными сѣтями.
Reply
Если Вы о чём-то не знаете, совершенно не обязательно этого нет.
Интеллект это всего лишь способность решать интеллектуальные задачи. То есть, задачи в области информации. В этом смысле некоторым интеллектом обладает и калькулятор.
Понимание это освоение за пределами опыта. Правильная индукция, экстраполяция и т.д.
Ум - это интеллект, распространённый на выбор задач. То есть, не только способность решать задачи, но и способность удачно их выбирать (какие решать, а какие нет, и почему).
Но проблема въ томъ, что четкихъ критерiевъ не было и нѣтъ.
Есть. Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить. А пока что их предел - SEO-контент и гуманитарщина ни о чём.
Reply
Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить.
Я думаю, уже скоро, лѣтъ черезъ 5-10, бестселлеръ (превосходящiй по качеству типичную современную литературу бестселлернаго типа) будетъ написанъ отъ начала и до конца роботомъ. Я уже видѣлъ статью о томъ, какъ расширить количество токеновъ вывода для GPT до 50-60 тысячъ. (А среднiй романъ содержитъ около 100 тыс. слов.) И когда этотъ бестселлеръ будетъ написанъ, то, я увѣренъ, опять начнутся разговоры о томъ, что это все равно не "настоящее" творчество, а лишь имитацiя креативности, это не считается.
Чтобы подтвердить мое мнѣнiе, достаточно процитировать Вашу реплику. "Будетъ о чёмъ поспорить". Т.е. мы сегодня говоримъ, что компьютеръ не обладаетъ интеллектомъ, потому что не можетъ написать бестселлеръ, а если сможетъ, то мы и тогда не согласимся, что у компьютера появился интеллектъ, поскольку мы "будемъ еще спорить". Вотъ это какъ разъ ясно показываетъ, что у насъ нѣтъ четкихъ критерiевъ. Были бы четкiе критерiи, не было бы предмета для спора.
Напримѣръ, въ математикѣ нѣтъ споровъ о томъ, доказалъ ли компьютеръ теорему и правильное ли доказательство. Либо доказалъ, либо нѣтъ, есть четкiй критерiй. Существуютъ языки программированiя, гдѣ правильность программы доказывается компьютеромъ, и опять-таки нѣтъ предмета для спора.
Reply
https://www.sostav.ru/publication/problemy-nejrosetej-58502.html
Не путайте правдоподобное с достоверным, а достоверное с правдивым. Очень часто разница не особо принципиальна, но как раз бестселлеры именно тот случай. Чтобы имин написала бестселлер нужно не чтобы она поумнела - а чтобы люди безнадёжно поглупели и выродились.
Но при таком развитии событий они вообще вряд ли будут что-либо читать.
Reply
Компьютер не напишет бестселлер.
А когда напишетъ, тогда "будемъ спорить дальше". Это я уже понялъ.
Причину объяснять не то, чтобы долго - просто немного лень.
Причину Вы не можете объяснить. Я тоже не могу. Но не раздѣляю Вашего оптимизма.
Сегодня компьютеры могутъ рисовать на порядокъ лучше, чѣмъ всего 2-3 года назадъ. А то, что дѣлаетъ ChatGPT, еще 5 лѣтъ назадъ никто и не представлялъ. Прогрессъ идетъ очень быстро.
Reply
Бестселлер = оригинальность + достоверность. Нейросеть такого не может и никогда не сможет. Даже по-отдельности у имины с этими вещами плохо. А уж совместить их...
А вот плагиатить и повторюшничать - это сколько угодно. «Напиши рассказ про Шерлока Холмса в стиле Конана Дойля». Напишет. С годами у неё это будет получаться всё лучше и лучше, охотно в это верю.
А вот новым Конаном Дойлем имина не станет. Дело даже не в том, что датасет гениев и их работ невелик. Дело в том, что на нём обучиться невозможно. Там всё разное. И более того - чтобы туда попасть, надо быть непохожим на то, что там уже есть. Причём это необходимое условие, а не достаточное.
Reply
Хорошо, я тоже сдѣлаю послѣднюю попытку.
У насъ нѣтъ четкихъ критерiевъ того, что такое "оригинальный и достовѣрный" романъ, кто "генiй", а кто лишь "большой талантъ" и т.д. Искусствовѣды спорятъ объ этомъ вѣками и такъ ни о чемъ не договорились однозначно. У насъ нѣтъ стандартныхъ, провѣренныхъ и надежныхъ тестовъ или экзаменовъ, выясняющихъ, кто "настоящiй" художникъ (писатель, композиторъ...), а кто "лишь ремесленникъ" или "лишь любитель искусства", или "графоманъ".
Да, конечно, принято говорить объ этомъ такими словами, что, молъ, "генiй - это оригинальность" и т.д.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Но эти утвержденiя ничего опредѣленнаго не означаютъ и ихъ нельзя эмпирически провѣрить. Это чистая игра словами.
Вы увѣрены, что роботъ никогда не сможетъ стать творцомъ. Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ", Ваша увѣренность не можетъ быть провѣрена на практикѣ. Что бы ни сгенерировалъ роботъ и на какихъ бы принципахъ ни была основана его программа, Вы всегда можете заявить, что это "не настоящее творчество". Невозможно ни доказать, ни опровергнуть это утвержденiе.
Для примѣра, утвержденiе о томъ, что роботъ доказалъ ту или иную математическую теорему, подлежитъ однозначной провѣркѣ.
Reply
Они и не требуются. Есть тиражи и продажи, их достаточно.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Напишет бестселлер на 100 тысяч слов (стандартный объём романа, плюс-минус) - продолжим дискуссию. Сейчас спорить просто не о чем, даже сборников рассказов от нейросетей в продаже просто нет.
Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ",
Есть. Эффективная оригинальность - новые методы, жанры, рецепты, подходы, концепции и т.д. - которые при этом ещё и успешны.
Для примѣра, утвержденiе о томъ, что роботъ доказалъ ту или иную математическую теорему, подлежитъ однозначной провѣркѣ.
Пока таких просто нет. С помощью алгоритмов доказывали теоремы (некоторые весьма специфического типа, например, теоремы возможности или т.п., где всё решал мощный быстрый брутфорс). Но это делали люди по алгоритмам (с помощью программ), а не имины.
Reply
// тиражи и продажи
pulp fiction, комиксы, бульварное чтиво
у нас просто никогда не было по настоящему дешевого чтива, а в Штатах и Японии и сейчас на этом кто-то делает обороты.
Вообще вы спорите о чистой нейронке.
Союз нейронки и человека с годами будет становиться крепче и все более неразличимым для пользователя. И человек с нейронкой может дать искру, а нейронка даст все остальное.
Reply
Я спорю с тем, что это нечто большее, чем инструмент. Нет, не нечто большее. Это инструмент.
Reply
осталось построить иерархию терминов - инструмент - станок - станок с ЧПУ - завод - завод с конвейером - автономный завод - автономный исследовательский аппарат - и двигать технологию по этой иерархии
Reply
Reply
Leave a comment