Баррат "Последнее изобретение человечества". Плохие новости от кибернетики.
Оригинал взят у kusaneko в Баррат "Последнее изобретение человечества". Плохие новости от кибернетики.
За день почти полностью прочитал эту книгу. То, что он пишет насчет не очень отдаленного будущего, это полный песец. И очень правдоподобно. Вроде бы и слишком это дофига - часов 5-6 подряд читать какую-то книгу, но написано просто, человеческим языком, причем много разных аргументов и контраргументов, часто интересных и неочевидных. Так что погрузиться так плотно было интересно.
В целом книга про перспективы создания искуственного интеллекта (дальше - ИИ), который мог бы сравниться по способностям с человеческим, и что из этого последует для человечества. Довольно интересно. Для меня вся эта кибренетика, создание искуственного интеллекта и тд больше ассоциировалась с триумфальными боевиками вроде Терминатора, или с рассказами про то, как в СССР в свое время душили науку (как кибернетику, так и генетику). А если присмотреться, то оказывается, что тихой поступью разработчики ИИ достигли охрененных результатов, и их труды вовсю используются много где, и нигде про это не трубят.
Баррат написал и про последние результаты работ над ИИ, и точки зрения как сторонников, так и противников развития ИИ, и про всякие проблемы, которые возникали в результате появления ИИ. И когда речь заходит про сторонников и противников развития можного ИИ, то становится любопытно. Кто это вообще может быть противником развития технологии, которая может невообразимо улучшить жизнь, изменить все к лучшему даже более кардинально, чем это все удалось науке за все прошедние тысячелетия, и в том числе за последние головокружительные десять-двадцать лет? Вообще как-то необычно в 21 веке читать про принципиальных противников развития каких-то технологий. То ли это у кого-то вскочил очередной религиозный фанатизм, то ли забегали параноики, которые боятся любых технологических изменений.
Ну правда, вроде тут все просто, снова кому-то померещилась собачья хрень. Кому-то мерещится разрушение скреп, кому-то опасность прогресса, кому-то оскорбление чувств. А ведь можно порадоваться, что ученые не покладают рук, и создают нам кибер-помощников! Да, кажется...но при этому упускается из вида, что создание сравнимого с человеческим ИИ уже равносильно контакту с другой формой жизни. А это уже не то же самое, что просто столкнуться с новой технологией. А учитывая, что для ИИ люди - это не братья и сестры, а конкуренты за ресурсы, причем чаще всего использующие ресурсы совершенно бездарно, возникает вопрос, что именно ИИ решит сделать с соперниками. А что если учесть, что ИИ это не биологический организм, которому нужны в лучшем случае тысячи лет для заметной эволюции? А продукт инженерии, который может хоть каждый год улучшать свои процессоры и хоть каждый день улучшать свою программу? Интеллектуальные мощности ИИ будут быстро расти, пока люди останутся при своих средневековых догмах, нежелании думать, подчинении авторитетам и так далее.
Неожиданно было узнать, что уже существуют машины, по поводу которых нельзя быть уверенными, что они просто железки. Которые всего лишь следуют алгоритмам, и не способны размышлять, иметь свои собственные цели, которые не были заложены программистами и т.д.
Например, есть машина, которая играла против людей в популярную игру-викторину, немного похожую на "как стать миллионером", но сложнее. В этой игре необходимо понимать игру слов, ассоциации, строить цепочки размышлений, и эта машина все время обыгрывает людей.
При этом такие машины создают, используя методы типа искуственных нейронных сетей. В этом случае можно скармливать машинам сложные данные, получать от них ответы, и эти машины обучаются на основе всего этого. Они могут учиться и на своих ошибках, но никто не имеет никакого понятия, что конкретно при этом происходит внутри машины, как именно она приходит к тому или иному решению.
И это не квантовые компьютеры, а просто средненькие суперкомпьютеры на обычных процессорах, в которых используются специальные алгоритмы и способы работы, вроде создания искуственных нейронных сетей (в этом случае нейронов в этом суперкомьютере нет, но их существование имитируется алгоритмами). Или эволюционые алгоритмы - это что-то такое, в результате чего программа для решения задачи генерирует множество случайных алгоритмов, выбирает их них самые эффективные. И потом модифицирует свою собственную программу, вписывая в нее информацию про эти случайно найденные эффективные подходы. В этом случае код программы в ходе самообучения изменяется быстро и настолько сильно, что программисты могут понять, как работала эта программа при "рождении", но когда она себя изменила, уже нихуя в ней не понимают.
Искуственные нейронные сети кстати часто встречаются и в быту. Например, в прогах для распознавания отсканированного текста, вроде Abby FineReader.
За день почти полностью прочитал эту книгу. То, что он пишет насчет не очень отдаленного будущего, это полный песец. И очень правдоподобно. Вроде бы и слишком это дофига - часов 5-6 подряд читать какую-то книгу, но написано просто, человеческим языком, причем много разных аргументов и контраргументов, часто интересных и неочевидных. Так что погрузиться так плотно было интересно.
В целом книга про перспективы создания искуственного интеллекта (дальше - ИИ), который мог бы сравниться по способностям с человеческим, и что из этого последует для человечества. Довольно интересно. Для меня вся эта кибренетика, создание искуственного интеллекта и тд больше ассоциировалась с триумфальными боевиками вроде Терминатора, или с рассказами про то, как в СССР в свое время душили науку (как кибернетику, так и генетику). А если присмотреться, то оказывается, что тихой поступью разработчики ИИ достигли охрененных результатов, и их труды вовсю используются много где, и нигде про это не трубят.
Баррат написал и про последние результаты работ над ИИ, и точки зрения как сторонников, так и противников развития ИИ, и про всякие проблемы, которые возникали в результате появления ИИ. И когда речь заходит про сторонников и противников развития можного ИИ, то становится любопытно. Кто это вообще может быть противником развития технологии, которая может невообразимо улучшить жизнь, изменить все к лучшему даже более кардинально, чем это все удалось науке за все прошедние тысячелетия, и в том числе за последние головокружительные десять-двадцать лет? Вообще как-то необычно в 21 веке читать про принципиальных противников развития каких-то технологий. То ли это у кого-то вскочил очередной религиозный фанатизм, то ли забегали параноики, которые боятся любых технологических изменений.
Ну правда, вроде тут все просто, снова кому-то померещилась собачья хрень. Кому-то мерещится разрушение скреп, кому-то опасность прогресса, кому-то оскорбление чувств. А ведь можно порадоваться, что ученые не покладают рук, и создают нам кибер-помощников! Да, кажется...но при этому упускается из вида, что создание сравнимого с человеческим ИИ уже равносильно контакту с другой формой жизни. А это уже не то же самое, что просто столкнуться с новой технологией. А учитывая, что для ИИ люди - это не братья и сестры, а конкуренты за ресурсы, причем чаще всего использующие ресурсы совершенно бездарно, возникает вопрос, что именно ИИ решит сделать с соперниками. А что если учесть, что ИИ это не биологический организм, которому нужны в лучшем случае тысячи лет для заметной эволюции? А продукт инженерии, который может хоть каждый год улучшать свои процессоры и хоть каждый день улучшать свою программу? Интеллектуальные мощности ИИ будут быстро расти, пока люди останутся при своих средневековых догмах, нежелании думать, подчинении авторитетам и так далее.
Неожиданно было узнать, что уже существуют машины, по поводу которых нельзя быть уверенными, что они просто железки. Которые всего лишь следуют алгоритмам, и не способны размышлять, иметь свои собственные цели, которые не были заложены программистами и т.д.
Например, есть машина, которая играла против людей в популярную игру-викторину, немного похожую на "как стать миллионером", но сложнее. В этой игре необходимо понимать игру слов, ассоциации, строить цепочки размышлений, и эта машина все время обыгрывает людей.
При этом такие машины создают, используя методы типа искуственных нейронных сетей. В этом случае можно скармливать машинам сложные данные, получать от них ответы, и эти машины обучаются на основе всего этого. Они могут учиться и на своих ошибках, но никто не имеет никакого понятия, что конкретно при этом происходит внутри машины, как именно она приходит к тому или иному решению.
И это не квантовые компьютеры, а просто средненькие суперкомпьютеры на обычных процессорах, в которых используются специальные алгоритмы и способы работы, вроде создания искуственных нейронных сетей (в этом случае нейронов в этом суперкомьютере нет, но их существование имитируется алгоритмами). Или эволюционые алгоритмы - это что-то такое, в результате чего программа для решения задачи генерирует множество случайных алгоритмов, выбирает их них самые эффективные. И потом модифицирует свою собственную программу, вписывая в нее информацию про эти случайно найденные эффективные подходы. В этом случае код программы в ходе самообучения изменяется быстро и настолько сильно, что программисты могут понять, как работала эта программа при "рождении", но когда она себя изменила, уже нихуя в ней не понимают.
Искуственные нейронные сети кстати часто встречаются и в быту. Например, в прогах для распознавания отсканированного текста, вроде Abby FineReader.