Что не так с нейросетями?
С ними,в общем-то, все хорошо.
Множество замечательных приложений, много проектов. Нейросеть - это хороший инструмент.
А что все-таки не так? Ну пустяк: нейросеть пока не стала человеком. Многое делает лучше человека (как всякий инструмент и многие машины), но человеком не стала. Хотя это было обещано уже к прошлому году (старыми прогнозами) и отодвигается лет на пять новыми.
В чем же дело?
В основе нейросети лежит модель нейрона: получает сигнал от сенсора, обрабатывает его и передает. другим нейронам. Соединяют выходы нейронов и входы нейронов следующего "этажа". При различных комбинациях входных сигналов с сенсоров на выходе появляются сообщения. Обученная нейросеть выдает правильные сообщения. Обученная нейросеть хранит в памяти структуру связей.
Программисты с гордостью говорят, что не имеют понятия, что происходит в нейросети в процессе ее обучения и работы. Впрочем, как можно этот процесс контролировать при миллионах и миллиардах связей? Но такая независимость дает надежды, что само что-то сделается, запустится наконец эволюция, и человеческий мозг наконец-то станет не нужен.
Была сделана ставка на то, что обучающаяся нейросеть, при очень большом объеме связей, заработает как мозг и лучше мозга. Начнет не просто самообучаться, но эволюционировать. Установка была такая: нейросеть доразвивается до того, будет нас понимать лучше чем мы сами, а мы ее понимать не будем. Этого не случилось.
Если мы не вполне понимаем, что именно происходит внутри нейросети при ее обучении и работе, то уж принцип протекания процессов в нейросети нам ясен.
А вот что происходит в человеческом мозгу в процессе его формирования, обучения, функционирования, мы еще сильнее не понимаем. И нейросеть этого тоже не понимает, вообще никак. Ее этому не обучили.
И есть подозрение, что принятая модель нейрона, как переключателя с ножками или реле, - это сильное упрощение, при котором теряется очень многое.
Но хотя работа мозга непонятна, идеологи искусственного интеллекта относятся к нему с привычным презрением. Заявлено, что нет ничего сложного в том, чтобы скопировать эту штуку, воспроизвести ее из электронных переключателей. Очень тщательно скопировать, заменить все нейроны электронными переключателями, и получится мозг как настоящий, но более лучший, быстродействующий.
Можно возразить: копия функионирующего устройства, сделанная из других материалов, обычно не работает. Например андроидные или зооморфные роботы: чем ближе к оригиналу, тем быстрее ломаются. Не нужно копировать лошадь для езды по дороге, лучше сделать автомобиль.
Кроме того, сделать копию функционирующего устройства, без отличного понимания оригинала, невозможно. А понимания нет.
Есть еще один интересный аспект в сравнении искусственного интеллекта и живой материи.
Сформулируем это так: интеллект - это не нейроны. Хотя да, они тоже есть, но интеллект - это гораздо больше, чем нейроны. Мозг - сложная штука, но это лишь одно из провялений живого интеллекта, и его функционирование во многом определяется его биологической природой.
Что такое "безмозлый интеллект"? А это множество удивительных, загадочных, невероятных вещей. Вы и сами можете привести примеры.
Но. как водится, об этом когда-нибудь потом.
Множество замечательных приложений, много проектов. Нейросеть - это хороший инструмент.
А что все-таки не так? Ну пустяк: нейросеть пока не стала человеком. Многое делает лучше человека (как всякий инструмент и многие машины), но человеком не стала. Хотя это было обещано уже к прошлому году (старыми прогнозами) и отодвигается лет на пять новыми.
В чем же дело?
В основе нейросети лежит модель нейрона: получает сигнал от сенсора, обрабатывает его и передает. другим нейронам. Соединяют выходы нейронов и входы нейронов следующего "этажа". При различных комбинациях входных сигналов с сенсоров на выходе появляются сообщения. Обученная нейросеть выдает правильные сообщения. Обученная нейросеть хранит в памяти структуру связей.
Программисты с гордостью говорят, что не имеют понятия, что происходит в нейросети в процессе ее обучения и работы. Впрочем, как можно этот процесс контролировать при миллионах и миллиардах связей? Но такая независимость дает надежды, что само что-то сделается, запустится наконец эволюция, и человеческий мозг наконец-то станет не нужен.
Была сделана ставка на то, что обучающаяся нейросеть, при очень большом объеме связей, заработает как мозг и лучше мозга. Начнет не просто самообучаться, но эволюционировать. Установка была такая: нейросеть доразвивается до того, будет нас понимать лучше чем мы сами, а мы ее понимать не будем. Этого не случилось.
Если мы не вполне понимаем, что именно происходит внутри нейросети при ее обучении и работе, то уж принцип протекания процессов в нейросети нам ясен.
А вот что происходит в человеческом мозгу в процессе его формирования, обучения, функционирования, мы еще сильнее не понимаем. И нейросеть этого тоже не понимает, вообще никак. Ее этому не обучили.
И есть подозрение, что принятая модель нейрона, как переключателя с ножками или реле, - это сильное упрощение, при котором теряется очень многое.
Но хотя работа мозга непонятна, идеологи искусственного интеллекта относятся к нему с привычным презрением. Заявлено, что нет ничего сложного в том, чтобы скопировать эту штуку, воспроизвести ее из электронных переключателей. Очень тщательно скопировать, заменить все нейроны электронными переключателями, и получится мозг как настоящий, но более лучший, быстродействующий.
Можно возразить: копия функионирующего устройства, сделанная из других материалов, обычно не работает. Например андроидные или зооморфные роботы: чем ближе к оригиналу, тем быстрее ломаются. Не нужно копировать лошадь для езды по дороге, лучше сделать автомобиль.
Кроме того, сделать копию функционирующего устройства, без отличного понимания оригинала, невозможно. А понимания нет.
Есть еще один интересный аспект в сравнении искусственного интеллекта и живой материи.
Сформулируем это так: интеллект - это не нейроны. Хотя да, они тоже есть, но интеллект - это гораздо больше, чем нейроны. Мозг - сложная штука, но это лишь одно из провялений живого интеллекта, и его функционирование во многом определяется его биологической природой.
Что такое "безмозлый интеллект"? А это множество удивительных, загадочных, невероятных вещей. Вы и сами можете привести примеры.
Но. как водится, об этом когда-нибудь потом.