Призрак бродит по инету, призрак ИИ (и всех пугает)

[wampus_999]

Из комментариев к полемике о возможности создания искусственного интеллекта, подобного человеческому, в блоге imperor-id (обновленный и расширенный вариант).

Я понимаю, что статья imperor-id полемическая, и создана она в ответ на не совсем адекватные высказывания известного сайенс-фрика, у которого есть свои причины так говорить, не имеющие никакого отношения к науке

Comments

[wampus_999]

Мышление, ум, разум, интеллект, рассудок, сознание, самосознание - столько терминов и еще больше значений, охватываемых ими, и все пересекаются. Как тут разобраться? Что общее есть среди всего этого, - то, что мы можем назвать только человеческим, напрочь отсутствующим у животных? И что имеется в виду, когда говорится об ИИ, близком к человеческому?

В особенности определение интеллекта в вики удивляет невероятной упрощенностью, его вполне можно применить ко многим животным, особенно обезьянам, обученным языку жестов (безусловно, человеческий шовинизм тут же назовет эти сходства "квазипризнаками"):

Интелле́кт (от лат. intellectus «ощущение», «восприятие»; «разумение», «понимание»; «понятие», «рассудок»[1]) или ум[2][3] - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой[4]. Общая способность к познанию и решению проблем, которая объединяет все познавательные способности: ощущение, восприятие, память, представление, мышление, воображение[5], а также внимание, волю и рефлексию.

Эта универсальность восприятия и понимания, присущая не только человеку, говорит прежде всего о том, что человеческий интеллект не возник на пустом месте (и вдунул Бог...), но постепенно развился в течение миллионов лет. Да, если брать сразу философские абстракции и проникновение в тайны материи, то невозможно даже представить, что они выросли из простейших реакций бактерий на свет и тепло. И тем не менее, не было разрывов между питекантропом, неандертальцем и человеком, все происходило пусть и скачками (превращение количества в качество), но преемственно (нынешние дикие племена, например, пираха, тому подтверждение). Но если это так, то почему и "мозг", основанный на других принципах, не может постепенно приобрести нужные качества?

Понимание смысла действительно является одной из важнейших характеристик разума, недаром в церковно-славянском языке слову "разум" соответствует "смыслъ". Но разве обученные языку жестов обезьяны не понимают смысла передаваемых им фраз? Вполне понимают. То есть эта способность зародилась раньше человека, и следовательно нет никаких препятствий, чтобы совершенствование компьютерной нейронной сети не привело к такому пониманию.

Вот вы сами говорите, что у многих людей интеллект не развит, то есть дело не в мозге, который у всех примерно одинаков, а в обучении, в том числе и мышлению. А уж ИИ может учиться в круглосуточном режиме. Так что то, что сейчас ИИ "глуп" вовсе не означает, что он будет глуп всегда, поэтому говорить, что машина никогда не сможет понимать смысл, по меньшей мере опрометчиво.

основы пессимизма

[wampus_999]

Способности т. н. ИИ не подходят под определение интеллекта даже из википедии, поэтому эту машину не следовало называть ИИ. Согласитесь, что компьютер - это машина, робот, исполняющий некоторые технические функции мозга, быстрее и несравнимо в большем количестве за единицу времени. Обычные роботы исполняют механические функции тела и тоже тоже быстрее, точнее, мощнее, чем естественная часть тела.
Эту машину, согласно её функциям, следовало бы назвать «помощником интеллекта», как скажем, манипулятор - это помощник руки. Человек управляет своей рукой, когда осознанно, когда автоматически, предварительно натренировав её (что начинается прямо после рождения). Человек может натренировать руку на любое движение или сознательно определять её движение, например, альпинист взбирается на скалу, для чего ему постоянно надо управлять своими руками.
Поэтому даже самым универсальным манипулятором человек управляет, как своей рукой, хотя, наверное, часть движений может осуществляться в автоматическом режиме, который определяет человек, а не манипулятор.
Не может человек, родившийся без рук, управлять манипулятором. Поэтому и манипулятор нельзя называть искусственной рукой, т. к. некоторые не очень интеллектуальные существа, поймут так, что теперь руки не нужны, т. к. ИР - «сверхрука», пусть она заменит наши хилые ручонки. Можно даже сразу ампутировать руки и ставить протезы, и хорошо было бы, если бы мы стали «киборгами».
Название ИИ как раз вызывает такую массовую ассоциацию, что машина лучше естественного интеллекта, стало быть, его не надо развивать (все манипуляции сознанием как раз убивают интеллект, заглушая его последний писк), т. к. уже скоро будет создан «протез».
Не соображают, что как безрукий от рождения не может управлять манипулятором (разве только произвольно, хаотично, как если бы нам, бесхвостым, сделали протез хвоста), так и безинтеллектуальный не сможет управлять помощником интеллекта.
Повторю, что имеющаяся машина берёт на себя только некоторые функции интеллекта, автоматизация которых освобождает время и энергию для работы самого интеллекта. По идее эти машины могли бы способствовать развитию интеллекта в каждом человеке, но как показывает опыт калькулятора, когда люди стали разучиваться выполнять арифметические действия, решать задачи больше и лучше не стали, то и т. н. ИИ будет способствовать безинтеллектуальности. Как калькулятор не стал помощником решения задач у тех, кто их и не решал и не научился решать и тем более - ставить, и только единицам он стал помощником, увеличив их естественные возможности, так и ИИ мог бы «осчастливить» человечество только в том случае, если бы он стал помощником людей с интеллектом. У других же он его полностью заглушит.
Наверняка вы читали рассказы А. Конан-Дойля о Шерлоке Холмсе, где сюжет нужен лишь для того, чтобы оценить прелесть интеллекта, воплощением которого являлся Ш. Холмс. Люди, имеющие интеллект, несомненно испытывали удовольствие созерцая его, интеллекта, работу, но для других был интересен только сюжет, само преступление. Теперь таких большинство, поэтому рассказы потеряли читателей, жаждущих лихо закрученных сюжетов. Для контраста автор дал образ инспектора Лейстреда, у которого почти не было интеллекта. Интеллект Холмса подсказывал ему, что и где ему искать, поскольку Холмс был сосредоточен на реальности (интеллект, устами Холмса, рассказывал о своей работе д-ру Ватсону, поэтому подумайте, можно ли запрограммировать машину таким образом, чтобы сделать искусственного сыщика, а не инспектора), а Лейстред действовал, как его «учили в школе и по инструкции» реальность - вторична, поэтому реальность ему ничего не подсказывала, точнее - его интеллекту, который так и не развился. Такие люди часто совершают следственные ошибки, но не замечают их, считая, что раскрыли преступление. Интеллект передаётся от человека к человеку, поэтому нельзя передать то, чего нет. Лейстред не породит второго Холмса, только Холмс может создать своё продолжение. Поэтому нам надо подумать, откуда брать интеллект «на развод».