Призрак бродит по инету, призрак ИИ (и всех пугает)
Из комментариев к полемике о возможности создания искусственного интеллекта, подобного человеческому, в блоге imperor-id (обновленный и расширенный вариант).
Я понимаю, что статья imperor-id полемическая, и создана она в ответ на не совсем адекватные высказывания известного сайенс-фрика, у которого есть свои причины так говорить, не имеющие никакого отношения к науке. Тем не менее, автор слишком увлекся полемикой и допустил, на мой взгляд, ряд поспешных суждений. В реальности же (если почитать современные источники) создание ИИ, достаточно близкого к человеческому, не такое уж несбыточное дело. С другой стороны, никто не будет полностью копировать человеческий интеллект, во-первых, по причине множества его недостатков, а во-вторых, в связи с тем, что человеку нужен помощник, а не конкурент (так же как наш Творец не стал создавать свое подобие, а ограничился довольно убогим образом).
1. Кажущееся снижение интереса к ИИ, упомянутое в интервью 7-летней свежести, на самом деле свидетельствует о частичном уходе этой темы в тень и ее засекречивании, ибо серьезный прорыв может обеспечить огромные преимущества первооткрывателям. Впрочем, открытых исследований, в которые вкладываются миллиарды долларов становится все больше, см. новую статью, только что выложенную тем же nature-wonder, и представляющую современный взгляд на проблему, радикально отличающийся от прежнего, и идущий гораздо дальше (создание нейроинтерфейсов).
2. В последние несколько десятков лет все мы стали свидетелями деградации образования и неуклонного снижения интеллектуального и творческого потенциала человечества как в науке, так и в остальных сферах деятельности. Если в ближайшее время мы не успеем изобрести себе помощника, неизбежная "мутационная деградация" популяции, дополненная деградацией интеллектуальной и социальной, приведет к обрушению технологической цивилизации, ибо некому будет ее поддерживать и тем более развивать. Маск убирает роботов со своих производств не потому, что они неэффективны, а потому, что нет достаточного количества квалифицированных кадров, чтобы заставить всё более усложняющиеся системы слаженно работать (соответственно, содержать таких высококвалифицированных специалистов очень накладно).
3. В ближайшее время прогресс в глубоком обучении нейронных сетей может пойти по экспоненте, т.к. найдены способы создания самообучающихся нейронных сетей (вспомним, почему компьютер победил чемпиона по Го - он играл сам с собой, а ведь тоже утверждали, что ИИ эта игра недоступна). ИИ давно уже перестал пользоваться тупым перебором вариантов.
4. Недостаток производительности и памяти на единицу объема вполне может быть компенсирован возможностью онлайновой связи с "центральным мозгом" и репозиторием информации, что недоступно человеческому мозгу.
5. Забавно слышать рассуждения о том, что у нынешнего ИИ нет воли и т.п., а значит и не будет. Мозг имеет модульное строение, добавить еще один блок и синхронизировать его с остальными не составит труда, просто на нынешнем этапе это еще не нужно. А ориентироваться разработчики поначалу будут на двухполушарный мозг, где каждое полушарие специализировано - правое выполняет черновую работу (подсознание), а левое осуществляет высшие функции. Впрочем, нет никаких ограничений на их количество, например, третьим (и главным) будет упомянутый "центральный мозг".
6. Никакой "проблемы выбора" у ИИ нет, тут помогут и нечеткая логика, и "эффект бабочки", и элементы случайного поведения в затруднительных ситуациях.
7. В том же древнем интервью утверждается, что человеческое мышление имеет неалгоритмический характер, что было сразу подхвачено и автором и комментаторами. А какой характер имеет современный ИИ, кто-нибудь знает? Нейронная сеть с глубоким обучением уже давно превратилась в черный ящик, и как она принимает решения, толком не знают даже сами создатели, у нее нет жестко зашитых алгоритмов, и в ее "мозги" залезть невозможно.
8. "Интеллект сам себя должен создать". Совершенно верно, для этого и существуют обучение и самообучение, без них и человеческий интеллект не может возникнуть и существовать. Нейронные сети - лишь инструмент, как собственно и человеческий мозг. Мышление и сознание эмерджентно рождаются на правильно разработанном субстрате, снабженном "органами чувств", которые сейчас активно разрабатываются. Исторически интеллект постепенно проявлялся в предшественниках человека. Уже о мозге гориллы вполне можно говорить как о "мыслящем", вспоминая недавно покинувшую нас Коко.
Такое впечатление, что комментирующие застряли на уровне персоналок нулевых годов. Поражает ссылка на интервью 2011 года, где высказываются часто правильные, но давно устаревшие утверждения типа: "Алгоритмический ИИ не способен решить задачу, решение которой потенциально не заложено в его алгоритме", "Компьютерная среда в этом плане - совершенно особая: там нет места неопределенностям", "Я думаю, что проблема понимания человеком ИИ-системы не сложнее проблемы понимания людьми друг друга или животных". Ясно, что о глубоком обучении и о нейронной сети как черном ящике автор в то время еще даже не слышал. Тем не менее, эти устаревшие положения всерьез обсуждаются комментаторами.
* * *Все вышеизложенное вовсе не означает, что я восхищен и очарован открывающимися перспективами в этой области и прочу новым технологиям блестящее будущее. Наоборот, при нынешнем духовном и нравственном состоянии цивилизации, все усиливающейся глобальной раздробленности и противостоянии, любые революционные прорывы в науке и технологиях приведут лишь к еще большим проблемам.
"Над чем бы ученые ни работали, у них все равно получается оружие" (К.Воннегут).
Но у нас нет выбора, и мы должны пройти этот путь до конца. И лучше, если на этом пути не будет одного лидера, который неизбежно может поддаться соблазну использовать открывающиеся возможности для доминирования во всем мире, как в свое время пытались это сделать США, первыми создавшие ядерное оружие.
Я понимаю, что статья imperor-id полемическая, и создана она в ответ на не совсем адекватные высказывания известного сайенс-фрика, у которого есть свои причины так говорить, не имеющие никакого отношения к науке. Тем не менее, автор слишком увлекся полемикой и допустил, на мой взгляд, ряд поспешных суждений. В реальности же (если почитать современные источники) создание ИИ, достаточно близкого к человеческому, не такое уж несбыточное дело. С другой стороны, никто не будет полностью копировать человеческий интеллект, во-первых, по причине множества его недостатков, а во-вторых, в связи с тем, что человеку нужен помощник, а не конкурент (так же как наш Творец не стал создавать свое подобие, а ограничился довольно убогим образом).
1. Кажущееся снижение интереса к ИИ, упомянутое в интервью 7-летней свежести, на самом деле свидетельствует о частичном уходе этой темы в тень и ее засекречивании, ибо серьезный прорыв может обеспечить огромные преимущества первооткрывателям. Впрочем, открытых исследований, в которые вкладываются миллиарды долларов становится все больше, см. новую статью, только что выложенную тем же nature-wonder, и представляющую современный взгляд на проблему, радикально отличающийся от прежнего, и идущий гораздо дальше (создание нейроинтерфейсов).
2. В последние несколько десятков лет все мы стали свидетелями деградации образования и неуклонного снижения интеллектуального и творческого потенциала человечества как в науке, так и в остальных сферах деятельности. Если в ближайшее время мы не успеем изобрести себе помощника, неизбежная "мутационная деградация" популяции, дополненная деградацией интеллектуальной и социальной, приведет к обрушению технологической цивилизации, ибо некому будет ее поддерживать и тем более развивать. Маск убирает роботов со своих производств не потому, что они неэффективны, а потому, что нет достаточного количества квалифицированных кадров, чтобы заставить всё более усложняющиеся системы слаженно работать (соответственно, содержать таких высококвалифицированных специалистов очень накладно).
3. В ближайшее время прогресс в глубоком обучении нейронных сетей может пойти по экспоненте, т.к. найдены способы создания самообучающихся нейронных сетей (вспомним, почему компьютер победил чемпиона по Го - он играл сам с собой, а ведь тоже утверждали, что ИИ эта игра недоступна). ИИ давно уже перестал пользоваться тупым перебором вариантов.
4. Недостаток производительности и памяти на единицу объема вполне может быть компенсирован возможностью онлайновой связи с "центральным мозгом" и репозиторием информации, что недоступно человеческому мозгу.
5. Забавно слышать рассуждения о том, что у нынешнего ИИ нет воли и т.п., а значит и не будет. Мозг имеет модульное строение, добавить еще один блок и синхронизировать его с остальными не составит труда, просто на нынешнем этапе это еще не нужно. А ориентироваться разработчики поначалу будут на двухполушарный мозг, где каждое полушарие специализировано - правое выполняет черновую работу (подсознание), а левое осуществляет высшие функции. Впрочем, нет никаких ограничений на их количество, например, третьим (и главным) будет упомянутый "центральный мозг".
6. Никакой "проблемы выбора" у ИИ нет, тут помогут и нечеткая логика, и "эффект бабочки", и элементы случайного поведения в затруднительных ситуациях.
7. В том же древнем интервью утверждается, что человеческое мышление имеет неалгоритмический характер, что было сразу подхвачено и автором и комментаторами. А какой характер имеет современный ИИ, кто-нибудь знает? Нейронная сеть с глубоким обучением уже давно превратилась в черный ящик, и как она принимает решения, толком не знают даже сами создатели, у нее нет жестко зашитых алгоритмов, и в ее "мозги" залезть невозможно.
8. "Интеллект сам себя должен создать". Совершенно верно, для этого и существуют обучение и самообучение, без них и человеческий интеллект не может возникнуть и существовать. Нейронные сети - лишь инструмент, как собственно и человеческий мозг. Мышление и сознание эмерджентно рождаются на правильно разработанном субстрате, снабженном "органами чувств", которые сейчас активно разрабатываются. Исторически интеллект постепенно проявлялся в предшественниках человека. Уже о мозге гориллы вполне можно говорить как о "мыслящем", вспоминая недавно покинувшую нас Коко.
Такое впечатление, что комментирующие застряли на уровне персоналок нулевых годов. Поражает ссылка на интервью 2011 года, где высказываются часто правильные, но давно устаревшие утверждения типа: "Алгоритмический ИИ не способен решить задачу, решение которой потенциально не заложено в его алгоритме", "Компьютерная среда в этом плане - совершенно особая: там нет места неопределенностям", "Я думаю, что проблема понимания человеком ИИ-системы не сложнее проблемы понимания людьми друг друга или животных". Ясно, что о глубоком обучении и о нейронной сети как черном ящике автор в то время еще даже не слышал. Тем не менее, эти устаревшие положения всерьез обсуждаются комментаторами.
* * *Все вышеизложенное вовсе не означает, что я восхищен и очарован открывающимися перспективами в этой области и прочу новым технологиям блестящее будущее. Наоборот, при нынешнем духовном и нравственном состоянии цивилизации, все усиливающейся глобальной раздробленности и противостоянии, любые революционные прорывы в науке и технологиях приведут лишь к еще большим проблемам.
"Над чем бы ученые ни работали, у них все равно получается оружие" (К.Воннегут).
Но у нас нет выбора, и мы должны пройти этот путь до конца. И лучше, если на этом пути не будет одного лидера, который неизбежно может поддаться соблазну использовать открывающиеся возможности для доминирования во всем мире, как в свое время пытались это сделать США, первыми создавшие ядерное оружие.