Нейронки - это такие предметы, практическая часть которых не измерена полностью.
Я недавно понялъ слѣдующее - программа chatGPT освоила естественный языкъ и рядъ предметныхъ областей лучше, чѣмъ люди сегодня могутъ провѣрить или измѣрить.
Поясню на примѣрѣ. Скажемъ, для англiйскаго языка есть оффицiально установленные уровни владенiя языкомъ и соотвѣтствующiе экзамены. То же для нѣмецкаго, французскаго. Сдалъ такой-то экзаменъ, значитъ, овладѣлъ языкомъ на такомъ-то уровнѣ. Но фокусъ въ томъ, что chatGPT уже прошелъ всѣ эти уровни, онъ уже можетъ сдать всѣ эти экзамены.
И то же самое въ другихъ областяхъ. ChatGPT уже можетъ пройти интервью на должность "старшiй программистъ" Гугла, сдать экзамены на MBA (Master of Business Administration) и bar exam (базовый экзаменъ для адвокатовъ). У насъ больше нѣтъ стандартныхъ способовъ измѣрять уровень знанiй или интеллекта chatGPT, онъ уже превзошелъ всѣ эти наши способы.
Ошибки chatGPT видны только эксперту, причемъ часто экспертъ заключаетъ, что ошибокъ нѣтъ. Это не значитъ, что chatGPT "
( ... )
ChatGPT уже можетъ пройти интервью на должность "старшiй программистъ" Гугла
Ну вот когда докажет теорему, которые люди ещё не доказывали - или хотя бы сформулирует новую, по значимости типа тех, что какой-нибудь Коши формулировал - ну вот тогда и будет, о чём говорить.
Дело не в теоремах, теорема тут просто пример. Нейросети - это комбинаторика. Выйти за пределы комбинаций уже известного нейросеть не может в принципе.
Опять же, здѣсь проблема въ томъ, что мы не умѣемъ четко и надежно протестировать, "вышелъ" ли кто-то за предѣлы комбинацiй извѣстнаго или "не вышелъ".
У насъ (людей) принято говорить, что "творчество" это выходъ за рамки стандартнаго, извѣстнаго, и мы знаемъ, что лишь нѣкоторымъ людямъ это дано, эти люди называются "талантливыми" и т.д. Все это наши условности, такъ принято говорить, и мы дѣлаемъ видъ, что эти слова имѣютъ четкiй смыслъ. Но это - ошибка. Утвержденiя о "талантахъ" и "творчествѣ" не имѣютъ четкаго смысла, не поддаются стандартизованной провѣркѣ.
Въ математикѣ все же легче, тамъ есть жесткiй критерiй истинности и методы провѣрки. Поэтому мы считаемъ, что если теорема доказана, то это куда болѣе надежно, чѣмъ просто чье-то "обоснованное мнѣнiе". Есть уже компьютерныя программы, способныя однозначно провѣрить доказательство теоремы (хотя пока что не для всѣхъ областей математики).
Въ другихъ видахъ человѣческой дѣятельности такихъ методовъ нѣтъ. Остается лишь экспертное мнѣнiе. И оно зачастую таково, что chatgpt уже
( ... )
У насъ нѣтъ и не было критерiевъ того, что такое "интеллектъ", "пониманiе", "умъ".
Если Вы о чём-то не знаете, совершенно не обязательно этого нет.
Интеллект это всего лишь способность решать интеллектуальные задачи. То есть, задачи в области информации. В этом смысле некоторым интеллектом обладает и калькулятор.
Понимание это освоение за пределами опыта. Правильная индукция, экстраполяция и т.д.
Ум - это интеллект, распространённый на выбор задач. То есть, не только способность решать задачи, но и способность удачно их выбирать (какие решать, а какие нет, и почему).
Но проблема въ томъ, что четкихъ критерiевъ не было и нѣтъ.
Есть. Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить. А пока что их предел - SEO-контент и гуманитарщина ни о чём.
Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить.
Я думаю, уже скоро, лѣтъ черезъ 5-10, бестселлеръ (превосходящiй по качеству типичную современную литературу бестселлернаго типа) будетъ написанъ отъ начала и до конца роботомъ. Я уже видѣлъ статью о томъ, какъ расширить количество токеновъ вывода для GPT до 50-60 тысячъ. (А среднiй романъ содержитъ около 100 тыс. слов.) И когда этотъ бестселлеръ будетъ написанъ, то, я увѣренъ, опять начнутся разговоры о томъ, что это все равно не "настоящее" творчество, а лишь имитацiя креативности, это не считается.
Чтобы подтвердить мое мнѣнiе, достаточно процитировать Вашу реплику. "Будетъ о чёмъ поспорить". Т.е. мы сегодня говоримъ, что компьютеръ не обладаетъ интеллектомъ, потому что не можетъ написать бестселлеръ, а если сможетъ, то мы и тогда не согласимся, что у компьютера появился интеллектъ, поскольку мы "будемъ еще спорить". Вотъ это какъ разъ ясно показываетъ, что у насъ нѣтъ четкихъ критерiевъ. Были бы четкiе критерiи, не было бы
( ... )
Не путайте правдоподобное с достоверным, а достоверное с правдивым. Очень часто разница не особо принципиальна, но как раз бестселлеры именно тот случай. Чтобы имин написала бестселлер нужно не чтобы она поумнела - а чтобы люди безнадёжно поглупели и выродились.
Но при таком развитии событий они вообще вряд ли будут что-либо читать.
А когда напишетъ, тогда "будемъ спорить дальше". Это я уже понялъ.
Причину объяснять не то, чтобы долго - просто немного лень.
Причину Вы не можете объяснить. Я тоже не могу. Но не раздѣляю Вашего оптимизма.
Сегодня компьютеры могутъ рисовать на порядокъ лучше, чѣмъ всего 2-3 года назадъ. А то, что дѣлаетъ ChatGPT, еще 5 лѣтъ назадъ никто и не представлялъ. Прогрессъ идетъ очень быстро.
Бестселлер = оригинальность + достоверность. Нейросеть такого не может и никогда не сможет. Даже по-отдельности у имины с этими вещами плохо. А уж совместить их...
А вот плагиатить и повторюшничать - это сколько угодно. «Напиши рассказ про Шерлока Холмса в стиле Конана Дойля». Напишет. С годами у неё это будет получаться всё лучше и лучше, охотно в это верю.
А вот новым Конаном Дойлем имина не станет. Дело даже не в том, что датасет гениев и их работ невелик. Дело в том, что на нём обучиться невозможно. Там всё разное. И более того - чтобы туда попасть, надо быть непохожим на то, что там уже есть. Причём это необходимое условие, а не достаточное.
У насъ нѣтъ четкихъ критерiевъ того, что такое "оригинальный и достовѣрный" романъ, кто "генiй", а кто лишь "большой талантъ" и т.д. Искусствовѣды спорятъ объ этомъ вѣками и такъ ни о чемъ не договорились однозначно. У насъ нѣтъ стандартныхъ, провѣренныхъ и надежныхъ тестовъ или экзаменовъ, выясняющихъ, кто "настоящiй" художникъ (писатель, композиторъ...), а кто "лишь ремесленникъ" или "лишь любитель искусства", или "графоманъ".
Да, конечно, принято говорить объ этомъ такими словами, что, молъ, "генiй - это оригинальность" и т.д.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Но эти утвержденiя ничего опредѣленнаго не означаютъ и ихъ нельзя эмпирически провѣрить. Это чистая игра словами.
Вы увѣрены, что роботъ никогда не сможетъ стать творцомъ. Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ", Ваша увѣренность не можетъ быть провѣрена на практикѣ. Что бы ни сгенерировалъ роботъ и на какихъ бы принципахъ ни была основана его программа, Вы
( ... )
У насъ нѣтъ четкихъ критерiевъ того, что такое "оригинальный и достовѣрный" романъ, кто "генiй", а кто лишь "большой талантъ" и т.д.
Они и не требуются. Есть тиражи и продажи, их достаточно.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Напишет бестселлер на 100 тысяч слов (стандартный объём романа, плюс-минус) - продолжим дискуссию. Сейчас спорить просто не о чем, даже сборников рассказов от нейросетей в продаже просто нет.
Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ",
Есть. Эффективная оригинальность - новые методы, жанры, рецепты, подходы, концепции и т.д. - которые при этом ещё и успешны.
Для примѣра, утвержденiе о томъ, что роботъ доказалъ ту или иную математическую теорему, подлежитъ однозначной провѣркѣ.
Пока таких просто нет. С помощью алгоритмов доказывали теоремы (некоторые весьма специфического типа, например, теоремы возможности или т.п., где всё решал мощный быстрый брутфорс). Но это делали люди по алгоритмам (с помощью программ), а не имины.
// тиражи и продажи pulp fiction, комиксы, бульварное чтиво
у нас просто никогда не было по настоящему дешевого чтива, а в Штатах и Японии и сейчас на этом кто-то делает обороты.
Вообще вы спорите о чистой нейронке. Союз нейронки и человека с годами будет становиться крепче и все более неразличимым для пользователя. И человек с нейронкой может дать искру, а нейронка даст все остальное.
Так я ж не спорю с тем, что нейронка - хороший инструмент, в некоторых ситуациях просто ну очень хороший, прорывной. Мы сами в работе постоянно используем нейросети, с большим успехом.
Я спорю с тем, что это нечто большее, чем инструмент. Нет, не нечто большее. Это инструмент.
осталось построить иерархию терминов - инструмент - станок - станок с ЧПУ - завод - завод с конвейером - автономный завод - автономный исследовательский аппарат - и двигать технологию по этой иерархии
Да всё проще. Инструмент не автономен как минимум в плане целеположения (сам себе задачи не ставит) - а как максимум в плане инициации (не дашь команды, работать не будет). Нейронки именно инструмент.
Нейронки - это такие предметы, практическая часть которых не измерена полностью.
Я недавно понялъ слѣдующее - программа chatGPT освоила естественный языкъ и рядъ предметныхъ областей лучше, чѣмъ люди сегодня могутъ провѣрить или измѣрить.
Поясню на примѣрѣ. Скажемъ, для англiйскаго языка есть оффицiально установленные уровни владенiя языкомъ и соотвѣтствующiе экзамены. То же для нѣмецкаго, французскаго. Сдалъ такой-то экзаменъ, значитъ, овладѣлъ языкомъ на такомъ-то уровнѣ. Но фокусъ въ томъ, что chatGPT уже прошелъ всѣ эти уровни, онъ уже можетъ сдать всѣ эти экзамены.
И то же самое въ другихъ областяхъ. ChatGPT уже можетъ пройти интервью на должность "старшiй программистъ" Гугла, сдать экзамены на MBA (Master of Business Administration) и bar exam (базовый экзаменъ для адвокатовъ). У насъ больше нѣтъ стандартныхъ способовъ измѣрять уровень знанiй или интеллекта chatGPT, онъ уже превзошелъ всѣ эти наши способы.
Ошибки chatGPT видны только эксперту, причемъ часто экспертъ заключаетъ, что ошибокъ нѣтъ. Это не значитъ, что chatGPT " ( ... )
Reply
Ну вот когда докажет теорему, которые люди ещё не доказывали - или хотя бы сформулирует новую, по значимости типа тех, что какой-нибудь Коши формулировал - ну вот тогда и будет, о чём говорить.
Не путайте микроскоп с глазом.
Reply
Ну вот когда докажет теорему, которые люди ещё не доказывали
По такой логикѣ, 99.9% людей лишены интеллекта, потому что они не умѣютъ доказывать новыя сложныя математическiя теоремы.
Reply
Reply
Опять же, здѣсь проблема въ томъ, что мы не умѣемъ четко и надежно протестировать, "вышелъ" ли кто-то за предѣлы комбинацiй извѣстнаго или "не вышелъ".
У насъ (людей) принято говорить, что "творчество" это выходъ за рамки стандартнаго, извѣстнаго, и мы знаемъ, что лишь нѣкоторымъ людямъ это дано, эти люди называются "талантливыми" и т.д. Все это наши условности, такъ принято говорить, и мы дѣлаемъ видъ, что эти слова имѣютъ четкiй смыслъ. Но это - ошибка. Утвержденiя о "талантахъ" и "творчествѣ" не имѣютъ четкаго смысла, не поддаются стандартизованной провѣркѣ.
Въ математикѣ все же легче, тамъ есть жесткiй критерiй истинности и методы провѣрки. Поэтому мы считаемъ, что если теорема доказана, то это куда болѣе надежно, чѣмъ просто чье-то "обоснованное мнѣнiе". Есть уже компьютерныя программы, способныя однозначно провѣрить доказательство теоремы (хотя пока что не для всѣхъ областей математики).
Въ другихъ видахъ человѣческой дѣятельности такихъ методовъ нѣтъ. Остается лишь экспертное мнѣнiе. И оно зачастую таково, что chatgpt уже ( ... )
Reply
Если Вы о чём-то не знаете, совершенно не обязательно этого нет.
Интеллект это всего лишь способность решать интеллектуальные задачи. То есть, задачи в области информации. В этом смысле некоторым интеллектом обладает и калькулятор.
Понимание это освоение за пределами опыта. Правильная индукция, экстраполяция и т.д.
Ум - это интеллект, распространённый на выбор задач. То есть, не только способность решать задачи, но и способность удачно их выбирать (какие решать, а какие нет, и почему).
Но проблема въ томъ, что четкихъ критерiевъ не было и нѣтъ.
Есть. Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить. А пока что их предел - SEO-контент и гуманитарщина ни о чём.
Reply
Бестселлеры пока что пишут люди, а не нейросети. Вот когда нейросети такое смогут - будет, о чём поспорить.
Я думаю, уже скоро, лѣтъ черезъ 5-10, бестселлеръ (превосходящiй по качеству типичную современную литературу бестселлернаго типа) будетъ написанъ отъ начала и до конца роботомъ. Я уже видѣлъ статью о томъ, какъ расширить количество токеновъ вывода для GPT до 50-60 тысячъ. (А среднiй романъ содержитъ около 100 тыс. слов.) И когда этотъ бестселлеръ будетъ написанъ, то, я увѣренъ, опять начнутся разговоры о томъ, что это все равно не "настоящее" творчество, а лишь имитацiя креативности, это не считается.
Чтобы подтвердить мое мнѣнiе, достаточно процитировать Вашу реплику. "Будетъ о чёмъ поспорить". Т.е. мы сегодня говоримъ, что компьютеръ не обладаетъ интеллектомъ, потому что не можетъ написать бестселлеръ, а если сможетъ, то мы и тогда не согласимся, что у компьютера появился интеллектъ, поскольку мы "будемъ еще спорить". Вотъ это какъ разъ ясно показываетъ, что у насъ нѣтъ четкихъ критерiевъ. Были бы четкiе критерiи, не было бы ( ... )
Reply
https://www.sostav.ru/publication/problemy-nejrosetej-58502.html
Не путайте правдоподобное с достоверным, а достоверное с правдивым. Очень часто разница не особо принципиальна, но как раз бестселлеры именно тот случай. Чтобы имин написала бестселлер нужно не чтобы она поумнела - а чтобы люди безнадёжно поглупели и выродились.
Но при таком развитии событий они вообще вряд ли будут что-либо читать.
Reply
Компьютер не напишет бестселлер.
А когда напишетъ, тогда "будемъ спорить дальше". Это я уже понялъ.
Причину объяснять не то, чтобы долго - просто немного лень.
Причину Вы не можете объяснить. Я тоже не могу. Но не раздѣляю Вашего оптимизма.
Сегодня компьютеры могутъ рисовать на порядокъ лучше, чѣмъ всего 2-3 года назадъ. А то, что дѣлаетъ ChatGPT, еще 5 лѣтъ назадъ никто и не представлялъ. Прогрессъ идетъ очень быстро.
Reply
Бестселлер = оригинальность + достоверность. Нейросеть такого не может и никогда не сможет. Даже по-отдельности у имины с этими вещами плохо. А уж совместить их...
А вот плагиатить и повторюшничать - это сколько угодно. «Напиши рассказ про Шерлока Холмса в стиле Конана Дойля». Напишет. С годами у неё это будет получаться всё лучше и лучше, охотно в это верю.
А вот новым Конаном Дойлем имина не станет. Дело даже не в том, что датасет гениев и их работ невелик. Дело в том, что на нём обучиться невозможно. Там всё разное. И более того - чтобы туда попасть, надо быть непохожим на то, что там уже есть. Причём это необходимое условие, а не достаточное.
Reply
Хорошо, я тоже сдѣлаю послѣднюю попытку.
У насъ нѣтъ четкихъ критерiевъ того, что такое "оригинальный и достовѣрный" романъ, кто "генiй", а кто лишь "большой талантъ" и т.д. Искусствовѣды спорятъ объ этомъ вѣками и такъ ни о чемъ не договорились однозначно. У насъ нѣтъ стандартныхъ, провѣренныхъ и надежныхъ тестовъ или экзаменовъ, выясняющихъ, кто "настоящiй" художникъ (писатель, композиторъ...), а кто "лишь ремесленникъ" или "лишь любитель искусства", или "графоманъ".
Да, конечно, принято говорить объ этомъ такими словами, что, молъ, "генiй - это оригинальность" и т.д.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Но эти утвержденiя ничего опредѣленнаго не означаютъ и ихъ нельзя эмпирически провѣрить. Это чистая игра словами.
Вы увѣрены, что роботъ никогда не сможетъ стать творцомъ. Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ", Ваша увѣренность не можетъ быть провѣрена на практикѣ. Что бы ни сгенерировалъ роботъ и на какихъ бы принципахъ ни была основана его программа, Вы ( ... )
Reply
Они и не требуются. Есть тиражи и продажи, их достаточно.
А ChatGPT уже умѣетъ лучше насъ съ вами генерировать тексты на такiя темы.
Напишет бестселлер на 100 тысяч слов (стандартный объём романа, плюс-минус) - продолжим дискуссию. Сейчас спорить просто не о чем, даже сборников рассказов от нейросетей в продаже просто нет.
Но изъ-за того, что у насъ нѣтъ четкихъ критерiевъ того, что такое "творецъ",
Есть. Эффективная оригинальность - новые методы, жанры, рецепты, подходы, концепции и т.д. - которые при этом ещё и успешны.
Для примѣра, утвержденiе о томъ, что роботъ доказалъ ту или иную математическую теорему, подлежитъ однозначной провѣркѣ.
Пока таких просто нет. С помощью алгоритмов доказывали теоремы (некоторые весьма специфического типа, например, теоремы возможности или т.п., где всё решал мощный быстрый брутфорс). Но это делали люди по алгоритмам (с помощью программ), а не имины.
Reply
// тиражи и продажи
pulp fiction, комиксы, бульварное чтиво
у нас просто никогда не было по настоящему дешевого чтива, а в Штатах и Японии и сейчас на этом кто-то делает обороты.
Вообще вы спорите о чистой нейронке.
Союз нейронки и человека с годами будет становиться крепче и все более неразличимым для пользователя. И человек с нейронкой может дать искру, а нейронка даст все остальное.
Reply
Я спорю с тем, что это нечто большее, чем инструмент. Нет, не нечто большее. Это инструмент.
Reply
осталось построить иерархию терминов - инструмент - станок - станок с ЧПУ - завод - завод с конвейером - автономный завод - автономный исследовательский аппарат - и двигать технологию по этой иерархии
Reply
Reply
Leave a comment