ИИ против человека. Особое мнение

[nature_wonder]

Многие наверняка знают, что в феврале этого года человечество было унижено компьютером по имени Watson, который в очной схватке обыграл чемпионов игры Jeopardy! (российский аналог - «Своя игра», принесшая известность А.Вассерману). После поражения Каспарова от Deep Blue это, пожалуй, вторая знаковая пощечина, которую нанес человеческому мозгу

Comments

[macroevolution]

"Предсказание, базирующееся на статистическом анализе первой стадии такой последовательности, опишет остальную часть неверно. Корреляции способны имитировать понимание, не создавая его реально. "

Здесь автор как будто забывает (или, скорее, делает вид, что забывает), что человеческому пониманию тоже свойственно ошибаться, и еще как.

[nature_wonder]

Нет, здесь речь идет не об ошибке, которую можно исправить. Это иллюстрация принципиальной разницы в методах достижения прогноза: один засчет понимания, другой засчет экстраполяции.

откуда вы знаете что мозг понимает?

[freedom_of_sea]

Всё что мы знаем о мозге, говорит что нейроны ничего не понимают, а как раз выдают корелляции и экстраполяции из огромного объема данных

Re: откуда вы знаете что мозг понимает?

[nature_wonder]

"Мы" - это кто?

"Мы" - это кто?

[dmagin]

Дак это и есть самый загадочный вопрос.
Сам же процесс поиска ответа на вопрос, думаю, действительно аналогичен - мы пытаемся ответ сначала "угадать" на основании возбуждений сетки понятий, которая в каждой голове своя. А уже потом протестировать найденные варианты ответов на логику.

[misha_b]

Не уверен, что понимание можно противопоставить экстраполяции. Понимание -- это просто модель устройства мира.

Конечно, можно утверждать, что модель, базирующаяся только на корреляции слишком примитивна. Но ведь (как и говорит freedom_of_sea) мы не знаем, как устроено человеческое понимание.

Мне кажется, более важное (и верное) наблюдение автора в том, что Watson создает обманчивое впечатление о качестве модели, т.к. его "понимание" тестируются только в узких рамках игры.

[nature_wonder]

Я бы противопоставил. Понимание - это модель, где обозначены, как правило, причинные взаимосвязи между вещами. А корреляции - это всего лишь корреляции. Ими можно успешно оперировать, совсем не зная содержания сообщений.

[misha_b]

Но ведь я могу отлично играть в баскетбол абсолютно не понимая, как работает тяготение просто исходя из "корреляции" параметров броска и попадания в корзину.

Для стороннего наблюдателя такую игру трудно отличить от игры по "глубокой" модели, где обозначены силы действующие на мяч и производится полный расчет траектории.

[nature_wonder]

Как-то резко вы перешли от интеллектуальных задач к баскетболу. Конечно, отлично можете играть, не зная работы тяготения. Также я полностью согласен с вами, что результат понимания может быть неотличим для наблюдателя от результата, достигнутого через просчет корреляций.

[misha_b]

Ну, вопрос тогда в том, есть ли разница между глубинным "пониманием" и поверхностным расчетом (условно говоря) "корреляций", если она не отражается на внешнем поведении системы? Тьюринг считал, что нет и я склонен с ним согласиться. Думаю, что Вы не согласитесь.

Лично для меня в успехах искуственного интеллекта, вроде Ватсона, Альфы или даже просто Гугла, огорчительно то, что они не добавлют научного понимания к вопросу о принципах естественног интеллекта.

Это напоминает то, как Deep Blue, другой продукт IBM, победил Каспарова в шахматы, но оставил открытым более глубокий вопрос о том, как медленный мозг Каспарова соревновался более или менее на равных с машиной, превосходящей его по скорости в миллионы раз.

[nature_wonder]

Полагаю, что как раз засчет умения понимать.

Если одна и та же задача может быть решена более чем одним способом, то внешний результат не даст нам представления об устройстве системы. Надо знать о ней что-то еще.
Но есть, конечно, позиция, которую вы обозначили: нам это не важно. Я ее не поддерживаю.