Пенроуз о принципиальной разнице между сознанием человека и искусственным интеллектом
В чём суть этой разницы?
Философ может считать, что она очевидна: ИИ, имея огромный информационный запас, не обладает субъектностью, хотя и мимикрирует под неё. Говоря "я", машина не понимает сути этого слова.
Но ведь и ребёнок, будучи человеческим существом, тоже может не понимать, почему он называет себя "я" - он просто видит, что так делают все вокруг, выражая свои личные хотелки, т.е. это простое подражание.
Но так ли это даже в самом раннем возрасте?
Осознав себя как "я", ребёнок уже больше не ошибается, это серьёзный этап в его развитии.
Может ли искуственный интеллект вырасти до этого этапа?
Лично я думаю, что нет.
В чём же суть субъектности?
Об этом в философии немало рассуждений, но и физики-теоретики в связи с парадоксами квантовой механики тоже всерьёз задумались над этим, но на свой лад. Конечно, они ещё не готовы признать, что сознание настолько "вне" и "больше" мозга, что может иметь природу, недоступную физике как науке.
Роджер Пенроуз рассуждает так - привожу цитату из Wiki в оригинале, которую я в меру сил переведу:
A lot of what the brain does you could do on a computer. I'm not saying that all the brain's action is completely different from what you do on a computer. I am claiming that the actions of consciousness are something different. I'm not saying that consciousness is beyond physics, either-although I'm saying that it's beyond the physics we know now.... My claim is that there has to be something in physics that we don't yet understand, which is very important, and which is of a noncomputational character. It's not specific to our brains; it's out there, in the physical world. But it usually plays a totally insignificant role. It would have to be in the bridge between quantum and classical levels of behavior-that is, where quantum measurement comes in.
https://en.wikipedia.org/wiki/Quantum_mind
Очень многое из того, что способен сделать мозг, мы можем сделать и на компьютере. Я не говорю, что все действия мозга полностью отличаются от того, что мы делаем на компьютере. Я считаю, что действия сознания есть нечто другое. При этом я и не говорю, что сознание находится вне области физики, - просто оно находится вне того уровня физики, каким мы его знаем на сегодняшний день (...)
Я утверждаю, что в области структуры сознания должно быть нечто очень важное, чего мы ещё не понимаем, и что нельзя просто вычислить. Это не специфика нашего мозга; это где-то вне его в физическом мире. Обычно его действие трудно уловить - оно как бы служит мостом между квантовым и классическим уровнями поведения, т.е. там, где вступают в силу уже квантовые измерения.
Философ может считать, что она очевидна: ИИ, имея огромный информационный запас, не обладает субъектностью, хотя и мимикрирует под неё. Говоря "я", машина не понимает сути этого слова.
Но ведь и ребёнок, будучи человеческим существом, тоже может не понимать, почему он называет себя "я" - он просто видит, что так делают все вокруг, выражая свои личные хотелки, т.е. это простое подражание.
Но так ли это даже в самом раннем возрасте?
Осознав себя как "я", ребёнок уже больше не ошибается, это серьёзный этап в его развитии.
Может ли искуственный интеллект вырасти до этого этапа?
Лично я думаю, что нет.
В чём же суть субъектности?
Об этом в философии немало рассуждений, но и физики-теоретики в связи с парадоксами квантовой механики тоже всерьёз задумались над этим, но на свой лад. Конечно, они ещё не готовы признать, что сознание настолько "вне" и "больше" мозга, что может иметь природу, недоступную физике как науке.
Роджер Пенроуз рассуждает так - привожу цитату из Wiki в оригинале, которую я в меру сил переведу:
A lot of what the brain does you could do on a computer. I'm not saying that all the brain's action is completely different from what you do on a computer. I am claiming that the actions of consciousness are something different. I'm not saying that consciousness is beyond physics, either-although I'm saying that it's beyond the physics we know now.... My claim is that there has to be something in physics that we don't yet understand, which is very important, and which is of a noncomputational character. It's not specific to our brains; it's out there, in the physical world. But it usually plays a totally insignificant role. It would have to be in the bridge between quantum and classical levels of behavior-that is, where quantum measurement comes in.
https://en.wikipedia.org/wiki/Quantum_mind
Очень многое из того, что способен сделать мозг, мы можем сделать и на компьютере. Я не говорю, что все действия мозга полностью отличаются от того, что мы делаем на компьютере. Я считаю, что действия сознания есть нечто другое. При этом я и не говорю, что сознание находится вне области физики, - просто оно находится вне того уровня физики, каким мы его знаем на сегодняшний день (...)
Я утверждаю, что в области структуры сознания должно быть нечто очень важное, чего мы ещё не понимаем, и что нельзя просто вычислить. Это не специфика нашего мозга; это где-то вне его в физическом мире. Обычно его действие трудно уловить - оно как бы служит мостом между квантовым и классическим уровнями поведения, т.е. там, где вступают в силу уже квантовые измерения.