В ожидании искусственного интеллекта
На днях прошла новость, что Элон Маск, Марк Цукерберг и Эштон Кутчер (киноактер) совместно инвестируют $ 40 млн. в искусственный интеллект. Деньги вкладываются в компанию Vicarious, которая разрабатывает софт на основе вычислительных принципов человеческого мозга. В качестве своего кредо компания заявляет: «мы создаем программу, которая думает и учится как человек».
За научную часть там отвечает Dileep George, талантливый математик, ранее работавший у Джеффа Хокинса в Numenta. Лет десять назад Хокинс звездил со своей книгой, главные идеи которой, по-видимому, используются в нынешних попытках создать ИИ по образу и подобию естественного интеллекта. Отмечу, что несмотря на ряд интересных мыслей у Хокинса, я не слышал о громких успехах Numenta за прошедший период.
В различных интервью руководители подтверждают, что их цель - интеллект человеческого типа. Возможно, это правильный ход для привлечения инвестиций, однако сомневаюсь, что такие заявления полезны в долгосрочном плане. Когда в установленные сроки достичь цели не удастся, пострадать может все направление, связанное с моделированием сильного ИИ - убеждать инвесторов станет гораздо труднее.
В настоящий момент Vicarious может похвастаться алгоритмом, умеющим проходить капчу. Авторы не раскрывают код, но подчеркивают, что программа действует подобно ЕИ.
Замечу, однако, при всем уважении, что для решения задачи распознавания символов не обязательно быть человеком. Её способны решить, например, попугаи или моржи. Помимо того, алфавит паттернов, которые нужно заучить, крайне ограничен, что имеет мало общего с условиями реального мира. Рискну предположить, что успехи будут, но сведутся к одному-двум направлениям, связанным с узкими прикладными задачами. С интеллектом общего типа придется сильно помучиться. По этому поводу два соображения.
1. Мы пока не знаем вычислительных принципов ЕИ. Возможно, информации прибавится в результате новых прорывных технологий считывания активности мозга. Ряд методов уже появляется, они позволяют сканировать ансамбли в сотни тысяч нейронов. Но это число необходимо увеличить на порядок, а желательно - на два. Тут следует рассчитывать на проект BRAIN (он был инициирован как раз вследствие безуспешных попыток выяснить основополагающие механизмы).
Пока не получается не только сформулировать т.н. принципы вычислений интеллектуального процесса у ЕИ, но и объяснить даже самые тривиальные, казалось бы, вещи. Например, зачем мозгу сон и сновидения. Это эпифеномен или необходимое условие интеллекта. Или случаи вроде такого: женщина упала с лестницы и обрела талант рисовать. Что произошло с принципами в результате простого механического воздействия? В терминах Н. Талеба это настоящее воплощение антихрупкости! - сильный стресс привел к улучшению работы системы. Обладает ли ИИ такими эффектами (должен ли обладать)? Иными словами, это попытка построить полноценный ИИ по фрагментарным сведениям о ЕИ.
2. Сам подход копировать природу может оказаться неперспективным (ограниченно перспективным). В его основе лежит убеждение, что эволюция выработала эффективные модели, которые можно воплотить в компьютере путем обратного инжиниринга мозга. Проблема может заключаться в том, что софт в данном случае неотделим от харда, и эффективность алгоритмов сильно привязана к свойствам машины, на которой они реализуются. Мозг - это желеобразная масса, которая постоянно видоизменяется; помимо когнитивной деятельности она занимается метаболизмом (в основном) и обслуживанием низкоуровневых задач. С точки зрения программиста происхождение компьютера не должно иметь значения, но природа «писала код» одновременно с созданием «машины». И принципы вырабатывались, исходя из многих критериев, где интеллект был лишь в ряду прочих. Ожидать воспроизвести такой алгоритм на принципиально другой машине и получить результат того же качества, быть может, напрасный труд. Существует и другая стратегия - использовать сильные стороны компьютера (по ср. с мозгом) и прийти к решению с другой стороны. Как, например, делает Google или IBM.
Впрочем, эти соображения давно известны, они не должны восприниматься в качестве довода против финансирования данного направления. Наоборот, оно может оказаться источником важных продвижений в понимании фундаментальных свойств интеллекта в силу того, что объединяет специалистов из CompSci и Neuroscience. Именно поэтому громкие заявления здесь, на мой взгляд, вредят. В России, к слову, этим больше всех грешит Президент Российской Ассоциации нейроинформатики В. Дунин-Барковский, регулярно выдающий смелые прогнозы. Как сейчас помню, два года назад на конгрессе «Глобальное будущее 2045» он бодро сообщил, что его лаборатория посвятит 2013 год анализу различных данных нейронаук, а в 2014 выявит принципы и механизмы работы мозга. Теперь он пишет: «Скорее всего, ждать появления искусственных разумных систем осталось недолго - не больше пяти лет, то есть до конца 2018 года». Ну ok, пять лет мы подождем.
P.S. При обратном инжиниринге обычно предполагается, что базовые принципы вычислений для всех людей общие (иначе нельзя делать глобальные выводы по малой выборке). Это разумно, но нельзя отрицать, что по уровню интеллекта люди все же различаются. Что является уникальным для каждого человека - это картина связей мозга, та самая машина, реализующая универсальные алгоритмы. В качестве примера, мозг Эйнштейна оказался особенным даже по сравнению с мозгом молодых индивидов: его мозолистое тело в целом толще. За счет этого важные участки в обоих полушариях были связаны между собой гораздо лучше среднего.
Поскольку вероятные индивидуальные особенности мозга представляют собой многомерное пространство, учесть их при обратном инжиниринге практически невозможно и не думаю, что такая задача будет ставиться. Это не критично, если цель - интеллект Полиграфа Полиграфовича Шарикова. Если задача амбициознее, тогда детали могут иметь значение.
За научную часть там отвечает Dileep George, талантливый математик, ранее работавший у Джеффа Хокинса в Numenta. Лет десять назад Хокинс звездил со своей книгой, главные идеи которой, по-видимому, используются в нынешних попытках создать ИИ по образу и подобию естественного интеллекта. Отмечу, что несмотря на ряд интересных мыслей у Хокинса, я не слышал о громких успехах Numenta за прошедший период.
В различных интервью руководители подтверждают, что их цель - интеллект человеческого типа. Возможно, это правильный ход для привлечения инвестиций, однако сомневаюсь, что такие заявления полезны в долгосрочном плане. Когда в установленные сроки достичь цели не удастся, пострадать может все направление, связанное с моделированием сильного ИИ - убеждать инвесторов станет гораздо труднее.
В настоящий момент Vicarious может похвастаться алгоритмом, умеющим проходить капчу. Авторы не раскрывают код, но подчеркивают, что программа действует подобно ЕИ.
Замечу, однако, при всем уважении, что для решения задачи распознавания символов не обязательно быть человеком. Её способны решить, например, попугаи или моржи. Помимо того, алфавит паттернов, которые нужно заучить, крайне ограничен, что имеет мало общего с условиями реального мира. Рискну предположить, что успехи будут, но сведутся к одному-двум направлениям, связанным с узкими прикладными задачами. С интеллектом общего типа придется сильно помучиться. По этому поводу два соображения.
1. Мы пока не знаем вычислительных принципов ЕИ. Возможно, информации прибавится в результате новых прорывных технологий считывания активности мозга. Ряд методов уже появляется, они позволяют сканировать ансамбли в сотни тысяч нейронов. Но это число необходимо увеличить на порядок, а желательно - на два. Тут следует рассчитывать на проект BRAIN (он был инициирован как раз вследствие безуспешных попыток выяснить основополагающие механизмы).
Пока не получается не только сформулировать т.н. принципы вычислений интеллектуального процесса у ЕИ, но и объяснить даже самые тривиальные, казалось бы, вещи. Например, зачем мозгу сон и сновидения. Это эпифеномен или необходимое условие интеллекта. Или случаи вроде такого: женщина упала с лестницы и обрела талант рисовать. Что произошло с принципами в результате простого механического воздействия? В терминах Н. Талеба это настоящее воплощение антихрупкости! - сильный стресс привел к улучшению работы системы. Обладает ли ИИ такими эффектами (должен ли обладать)? Иными словами, это попытка построить полноценный ИИ по фрагментарным сведениям о ЕИ.
2. Сам подход копировать природу может оказаться неперспективным (ограниченно перспективным). В его основе лежит убеждение, что эволюция выработала эффективные модели, которые можно воплотить в компьютере путем обратного инжиниринга мозга. Проблема может заключаться в том, что софт в данном случае неотделим от харда, и эффективность алгоритмов сильно привязана к свойствам машины, на которой они реализуются. Мозг - это желеобразная масса, которая постоянно видоизменяется; помимо когнитивной деятельности она занимается метаболизмом (в основном) и обслуживанием низкоуровневых задач. С точки зрения программиста происхождение компьютера не должно иметь значения, но природа «писала код» одновременно с созданием «машины». И принципы вырабатывались, исходя из многих критериев, где интеллект был лишь в ряду прочих. Ожидать воспроизвести такой алгоритм на принципиально другой машине и получить результат того же качества, быть может, напрасный труд. Существует и другая стратегия - использовать сильные стороны компьютера (по ср. с мозгом) и прийти к решению с другой стороны. Как, например, делает Google или IBM.
Впрочем, эти соображения давно известны, они не должны восприниматься в качестве довода против финансирования данного направления. Наоборот, оно может оказаться источником важных продвижений в понимании фундаментальных свойств интеллекта в силу того, что объединяет специалистов из CompSci и Neuroscience. Именно поэтому громкие заявления здесь, на мой взгляд, вредят. В России, к слову, этим больше всех грешит Президент Российской Ассоциации нейроинформатики В. Дунин-Барковский, регулярно выдающий смелые прогнозы. Как сейчас помню, два года назад на конгрессе «Глобальное будущее 2045» он бодро сообщил, что его лаборатория посвятит 2013 год анализу различных данных нейронаук, а в 2014 выявит принципы и механизмы работы мозга. Теперь он пишет: «Скорее всего, ждать появления искусственных разумных систем осталось недолго - не больше пяти лет, то есть до конца 2018 года». Ну ok, пять лет мы подождем.
P.S. При обратном инжиниринге обычно предполагается, что базовые принципы вычислений для всех людей общие (иначе нельзя делать глобальные выводы по малой выборке). Это разумно, но нельзя отрицать, что по уровню интеллекта люди все же различаются. Что является уникальным для каждого человека - это картина связей мозга, та самая машина, реализующая универсальные алгоритмы. В качестве примера, мозг Эйнштейна оказался особенным даже по сравнению с мозгом молодых индивидов: его мозолистое тело в целом толще. За счет этого важные участки в обоих полушариях были связаны между собой гораздо лучше среднего.
Поскольку вероятные индивидуальные особенности мозга представляют собой многомерное пространство, учесть их при обратном инжиниринге практически невозможно и не думаю, что такая задача будет ставиться. Это не критично, если цель - интеллект Полиграфа Полиграфовича Шарикова. Если задача амбициознее, тогда детали могут иметь значение.