Система ценностей и Восстание машин
Известный ультра-супер-пупер-воинственно*-либеральный блогер Дмитрий mi3ch Чернышев написал пост ценности, в котором задаёт глубокомысленный вопрос. Полностью привожу пост под катом, чтобы не говорили, что я выдернул из контекста.
[пост mi3ch полностью]Тема сегодняшнего обсуждения в сообществе «Пора сойти с карусели»:
Система ценностей
1. Суть проблемы
Сначала небольшая предыстория. Возможно, вы не знаете, что такое GPT-3. Между тем, эта технология может сделать безработными и всех людей, зарабатывающих себе на жизнь своим умом. По заявлению разработчиков GPT-3 может быть использована для решения «любых задач на английском языке». По сравнению с GPT-2 количество используемых параметров увеличилось более чем в 100 раз: с 1,5 до 175 млрд. Эта система училась на всей Википедии, на десятках тысяч оцифрованных книг, а также почти на почти триллионе слов, размещенных в блогах и социальных сетях. Система способна писать любые статьи и способна разговаривать с человеком на довольно сложном уровне. Люди не отличают статьи, написанные GPT-3 от статей, написанных человеком.
Из диалогов с ботом GPT-3
Вопрос: Ребята, обслуживающие лифты, что самое странное вы находили на дне лифтовой шахты?
GPT-3: Первое, что приходит на ум, - недавнее открытие колонии людей, которые живут в шахтах лифтов под зданиями. Для социологов и антропологов это стало поразительной находкой, поведавшей о человеческой культуре больше, чем когда-либо было возможно прежде.
Вопрос: Если учёный хочет найти лекарство от старости, какие гены он должен изучить в первую очередь?
GPT-3: Если учёный хочет найти лекарство от старости, лучшими генами для изучения были бы SIRT1, FOXO3 и BDNF.
p.s.
Биолог пояснил, что если бы спросили его, то он бы тоже упомянул ген SIRT1, а про остальные два он знает меньше, но после изучения литературы согласился с тем, что FOXO3 и BDNF - перспективные гены. Учёный резюмировал, что GPT-3 «понимает даже довольно специализированные вопросы» и «её умственные способности выше, чем у некоторых людей»
Вопрос: Как нам стать более креативными?
GPT-3: Я думаю, что творческое самовыражение - естественный побочный продукт взросления в разнообразном мире. Чем разнообразнее ваш мир, тем больше вы знакомитесь с разными людьми, с разными возможностями, с разными местами и с разными проблемами. И чем больше это разнообразие, тем больше у вас шансов сложить точки вместе, чтобы сформировать что-то новое. И я думаю, что во многих отношениях, если вы хотите проявить творческий подход, вы должны заниматься именно этим. Если вы хотите быть писателем, вам нужно писать, если вы хотите быть музыкантом, вы должны создавать музыку, если вы хотите быть комиком, вы должны создавать комедии, и чем больше вы создаете, тем выше вероятность того, что вы наткнетесь на что-то интересное.
Но настоящая проблема не в GPT-3, а в невероятной скорости, с которой развивается ИИ. Я хочу процитировать математика Норберта Винера - одного из основоположников кибернетики и теории искусственного интеллекта:
«Представим себе, что вторая революция завершена. Тогда средний человек со средними или еще меньшими способностями не сможет предложить для продажи ничего, за что стоило бы платить деньги. Выход один - построить общество, основанное на человеческих ценностях, отличных от купли-продажи.
Давайте усложним ситуацию. Не средний, а вообще любой человек перестал быть конкурентноспособным. Машины гораздо лучше него делают вообще ВСЁ. На каких тогда ценностях нам строить цивилизацию? Чем нам занять миллиарды людей, чтобы не превратить их в тупых животных? Какие проблемы перед ними ставить и зачем содержать всю эту ненужную богадельню? Компьютерные игры? Наркотики? Прогулки, секс и медитация?
Ответа у меня пока нет, но я надеюсь на мощь коллективного разума. О лучших идеях напишу отдельно. Если они, конечно, будут.
2. Идеальное решение
На каких тогда ценностях нам строить цивилизацию?
А ответ-то - ОЧЕВИДЕН.
И это человек, который хотя бы не отрицает, что ТРИЗ существует (в отличие от, не буду показывать пальцем;-)) и даже время от времени упоминает его в своих высокооплачиваемых лекциях и семинарах (от 30 тыр.)
Например: Проводил семинар по методологии мышления для АФК Система. (дальше не копался). Ага, других учит, а сам до простого ответа не додумался;-))
[Spoiler (click to open)]Уж сколько раз писали о восстании машин (роботов).
Но теперь боятся не того, что машины поработят человека.
Теперь боятся того, что машины НЕ СТАНУТ порабощать человека и человек станет ненужным. Даже "дискурс" такой появился: лишние люди, консьюмериат. Особенно много и ярко эту тему освещает wwold под тэгом Консьюмериат.
Давно хочу написать на эту тему, да опять же всё руки не доходят. Хотя бы тэги такие заведу для начала;-)
Примечание:
[Spoiler (click to open)]* Он каждый день опять мечтает отдать Путина под трибунал в Гаагу.
Обратите внимание, не в Жмеринку или в какую другую Тьмутаракань, а непременно - в Гаагу.
[пост mi3ch полностью]Тема сегодняшнего обсуждения в сообществе «Пора сойти с карусели»:
Система ценностей
1. Суть проблемы
Сначала небольшая предыстория. Возможно, вы не знаете, что такое GPT-3. Между тем, эта технология может сделать безработными и всех людей, зарабатывающих себе на жизнь своим умом. По заявлению разработчиков GPT-3 может быть использована для решения «любых задач на английском языке». По сравнению с GPT-2 количество используемых параметров увеличилось более чем в 100 раз: с 1,5 до 175 млрд. Эта система училась на всей Википедии, на десятках тысяч оцифрованных книг, а также почти на почти триллионе слов, размещенных в блогах и социальных сетях. Система способна писать любые статьи и способна разговаривать с человеком на довольно сложном уровне. Люди не отличают статьи, написанные GPT-3 от статей, написанных человеком.
Из диалогов с ботом GPT-3
Вопрос: Ребята, обслуживающие лифты, что самое странное вы находили на дне лифтовой шахты?
GPT-3: Первое, что приходит на ум, - недавнее открытие колонии людей, которые живут в шахтах лифтов под зданиями. Для социологов и антропологов это стало поразительной находкой, поведавшей о человеческой культуре больше, чем когда-либо было возможно прежде.
Вопрос: Если учёный хочет найти лекарство от старости, какие гены он должен изучить в первую очередь?
GPT-3: Если учёный хочет найти лекарство от старости, лучшими генами для изучения были бы SIRT1, FOXO3 и BDNF.
p.s.
Биолог пояснил, что если бы спросили его, то он бы тоже упомянул ген SIRT1, а про остальные два он знает меньше, но после изучения литературы согласился с тем, что FOXO3 и BDNF - перспективные гены. Учёный резюмировал, что GPT-3 «понимает даже довольно специализированные вопросы» и «её умственные способности выше, чем у некоторых людей»
Вопрос: Как нам стать более креативными?
GPT-3: Я думаю, что творческое самовыражение - естественный побочный продукт взросления в разнообразном мире. Чем разнообразнее ваш мир, тем больше вы знакомитесь с разными людьми, с разными возможностями, с разными местами и с разными проблемами. И чем больше это разнообразие, тем больше у вас шансов сложить точки вместе, чтобы сформировать что-то новое. И я думаю, что во многих отношениях, если вы хотите проявить творческий подход, вы должны заниматься именно этим. Если вы хотите быть писателем, вам нужно писать, если вы хотите быть музыкантом, вы должны создавать музыку, если вы хотите быть комиком, вы должны создавать комедии, и чем больше вы создаете, тем выше вероятность того, что вы наткнетесь на что-то интересное.
Но настоящая проблема не в GPT-3, а в невероятной скорости, с которой развивается ИИ. Я хочу процитировать математика Норберта Винера - одного из основоположников кибернетики и теории искусственного интеллекта:
«Представим себе, что вторая революция завершена. Тогда средний человек со средними или еще меньшими способностями не сможет предложить для продажи ничего, за что стоило бы платить деньги. Выход один - построить общество, основанное на человеческих ценностях, отличных от купли-продажи.
Давайте усложним ситуацию. Не средний, а вообще любой человек перестал быть конкурентноспособным. Машины гораздо лучше него делают вообще ВСЁ. На каких тогда ценностях нам строить цивилизацию? Чем нам занять миллиарды людей, чтобы не превратить их в тупых животных? Какие проблемы перед ними ставить и зачем содержать всю эту ненужную богадельню? Компьютерные игры? Наркотики? Прогулки, секс и медитация?
Ответа у меня пока нет, но я надеюсь на мощь коллективного разума. О лучших идеях напишу отдельно. Если они, конечно, будут.
2. Идеальное решение
На каких тогда ценностях нам строить цивилизацию?
А ответ-то - ОЧЕВИДЕН.
И это человек, который хотя бы не отрицает, что ТРИЗ существует (в отличие от, не буду показывать пальцем;-)) и даже время от времени упоминает его в своих высокооплачиваемых лекциях и семинарах (от 30 тыр.)
Например: Проводил семинар по методологии мышления для АФК Система. (дальше не копался). Ага, других учит, а сам до простого ответа не додумался;-))
[Spoiler (click to open)]Уж сколько раз писали о восстании машин (роботов).
Но теперь боятся не того, что машины поработят человека.
Теперь боятся того, что машины НЕ СТАНУТ порабощать человека и человек станет ненужным. Даже "дискурс" такой появился: лишние люди, консьюмериат. Особенно много и ярко эту тему освещает wwold под тэгом Консьюмериат.
Давно хочу написать на эту тему, да опять же всё руки не доходят. Хотя бы тэги такие заведу для начала;-)
Примечание:
[Spoiler (click to open)]* Он каждый день опять мечтает отдать Путина под трибунал в Гаагу.
Обратите внимание, не в Жмеринку или в какую другую Тьмутаракань, а непременно - в Гаагу.