Призрак бродит по инету, призрак ИИ (и всех пугает)

[wampus_999]

Из комментариев к полемике о возможности создания искусственного интеллекта, подобного человеческому, в блоге imperor-id (обновленный и расширенный вариант).

Я понимаю, что статья imperor-id полемическая, и создана она в ответ на не совсем адекватные высказывания известного сайенс-фрика, у которого есть свои причины так говорить, не имеющие никакого отношения к науке

Comments

основы пессимизма (окончание)

[anonymous]

Спрашивается, если бы инспектору дали в распоряжение компьютер с базой данных и прочие современные средства расследования, повысился бы его интеллект, превратился бы он в Холмса? Нет, он стал бы ещё менее профессиональным, т. к. уделял бы внимание реальности ещё меньше. Та же машина увеличила бы мощь интеллекта Ш. Холмса, который бы совершенствовал её функции помощника. Как говорится, имеющему дано будет, а у неимеющего отберётся и что имел. Нам говорится, как бывает всегда. Слушают, да не слышат, а ведь это сформулированное свойство реальности, к которой относится наша психология. Закон её психологии, такой же неотвратимый, как всемирное тяготение.
Насколько я знаю, рекламируют «ИИ» обещая, что он и врачам даст возможность лучше лечить, и учителям - учить, и т. п. Но ведь всё может выйти совсем наоборот, - что умели перестанут уметь. Если диагноз врача не совпадёт с диагнозом машины, тем хуже диагнозу. Под каждый диагноз составлен список действий. Тут и у интеллекттуала интеллек заржавеет без употребления.
Хотя многие врачи теперь таковы, что машина, наверное, будет уже лучше, как неработающие часы, которые хотя бы 2 раза в сутки показывают верное время. Развитие интеллекта просто прекратится, лечебное дело не будет питать науку, а машина, пока не умеет питать науку.
Поэтому повторю, что я считаю, что надо бы озаботиться падением естественного интеллекта и научится «создавать» ЕИ (естественный интеллект), чтобы пользоваться им, т. к. интеллект интеллектуальных ощущается, когда работает, а остальное всё приложится. Холмс брался за любое дело, в т.ч. бесплатно, потому, что работа интеллекта доставляет наслаждение и совершенствует его. А кто от дела лытает, тот сам себя девальвирует и делает инвалидом. Такому и нужен протез «ИИ».
Но в целом ментальная деградация ускорится так, что скоро и протез не спасёт "человечество". Напоминает "двоих из ларца одинаковых с лица" из м/ф "Вовка в тридевятом царстве". Сегодня по радио передали, что мин. образования Израиля запретило наказывать учеников за несделанное домашнее задание. Дурной пример заразителен. Скоро мы будем жить в "стране невыученных уроков" и станем жертвами своих химер типа 1,5 землекопа.

Re: основы пессимизма (окончание)

[wampus_999]

Вы ориентируетесь исключительно на текущий момент, точнее даже на то состояние ИИ, которое было десяток лет назад. Ваше рассуждение про "действия по инструкции" - это вчерашний день. Нейронные сети уже сейчас сами учатся и сами создают алгоритмы решения задач, остается только научить их эти задачи ставить. Так что сейчас уже есть возможность экстраполировать развитие ИИ в будущее и понять его перспективы. Никто не говорит, что нынешний ИИ это реальный интеллект, но он его прообраз, как мозг динозавра был прообразом мозга человека. Впрочем, может быть вы считаете, что между мозгом динозавра и человека нет преемственности? Что человеческий мозг создан на совсем иных принципах (вдунул Бог...)? Или все-таки путем постепенного совершенствования? Если последнее, то создание ИИ лишь дело времени.

Про опасность ИИ вы все правильно написали, все эти опасности давно обдуманы и описаны великими писателями-фантастами. Но тут уж человек сам должен решить, кого он создает - помощника или конкурента. Судя по безумным проектам в разных областях, особенно в генетике, второй вариант весьма реален. Правильно и то, что только человек может научить ИИ мыслить, и явная деградация человечества может остановить этот процесс, и тогда наполовину обученный ИИ начнет учиться сам, совсем не так, как нам это может понравиться.

В общем, что касается последствий, то вы во всем правы, и реальное нынешнее состояние человеческого общества правильно экстраполируете на будущее. Недооцениваете только дурную настойчивость человеческого разума - если он за что-то взялся, он доведет это до логического конца, даже ценой жизни человечества.

Re: основы пессимизма (окончание)

[anonymous]

Это Лейстред действовал по инструкции, которая для машины называется программой. Он старался, чтобы его действия соответствовали инструкции, чтобы они выглядели профессионально правильными. Все действия инспектора предсказуемы и «понятны». Как у животных. А Холмс действовал так, как подсказывала и требовала от него реальность, поэтому внешне его действия выглядели непрофессионально и непредсказуемо. Его метод нельзя копировать. Он стал и был следователем , а Лейстред - работал им, а работать научить можно кого угодно. Даже «священник» теперь - профессия! Зато, когда интеллект Холмса пояснял, чем он руководствовался, т. е. чем были обусловлены действия Холмса, это оказывалось «элементарно». Почему же реальность ничего не говорила Лейстреду, а та же самая реальность помогала Холмсу из тайной стать явной? Реальность не молчит, она всем подсказывают, но её не слышат те, кто слушает инструкцию. Получается, что цель Лейстреда была - соблюсти инструкцию, порядок расследования, и он добивался своей цели. Поэтому, о чём он её спрашивал, тому реальность и «учила» , а с установлением истины - как получится, хотя Лейстред искренне самообманывался, думая, что его интересует установление истины. Но мозг не обманешь, точнее - интеллект, он работает по заказу: что человек на самом деле хочет получить, над тем он и работает. Целью Холмса было установление истины - что произошло и почему. Кто чего хотел, тот то и получал.
Если бы Холмс устроился на работу в Скотленд-Ярд, ему пришлось бы уподобится Лейстреду - ставить на первое место инструкцию, чтобы его не уволили или не наказали. Тем самым он просто испортил бы свой интеллект. Нельзя гнаться за двумя зайцами. Поэтому его или выгнали бы, если бы он своевольничал, или он ушёл бы сам.
Со стороны Холмс выглядит полным произвольщиком - делает, что хочет, а Лейстред - наглядный образ образцового «грамотного» следователя. Это наше субъективное впечатление (коль мы считаем, что можно научится «родительскому поведению», и для этого организуют курсы, как и профессиональному поведению). С точки зрения реальности, или самого дела, которое делают оба эти человека, действия Холмса строго определены делом, он делает только то, что оно от него требует, прямо как раб. А действия Лейстреда выглядят как полный произвол, пусть даже это произвол составителя инструкции, учебной программы и т. п., в общем, по большей части - бюрократов. Поэтому и сказано, что заставь дурака Богу молиться, он лоб расшибёт (хорошо если только себе), а также Лейстреда надо называть «профессиональным идиотом», или как К. Прутков - «флюсом». Интеллект - это умение руководствоваться требованием дела, которое ты делаешь. Поэтому и сказано, что «дело мастера боится». Если представить обоих сыщиков, то в глазах людей инспектор был олицетворением полезного обществу человека, исполняющего честно и прекрасно «служебные обязанности», а Холмс выглядел бы странным, ненадёжным человеком. Что будет, если над каждым не будет давлеть закон и порядок? Ведь все дела пойдут прахом, воцарится произвол!
Понятно, что лишённый «закона и порядка» Лейстред, мигом из полезного стал бы вредным или беспомощным, ведь всем нужна польза дела, а не то, как человек исполняет законы, правила и хорошо себя ведёт. Человек вообще-то не рождается исполнять правила и законы, если кто-то думает, что Бог только для этого его создал, поэтому такой - весь богоугодный. И самим-то не смешно?
Холмс, наоборот, обузданный «законом и порядком», перестал бы быть мастером. Поэтому, пока мы не научимся развивать личный интеллект, мы обречены на «закон и порядок», который убивает интеллект. Замкнутый круг. Поэтому и т. н. ИИ - будет прежде всего исполнять функцию бюрократа и «законодателя», остальное - вторично и "как получится".

Re: основы пессимизма (окончание)

[wampus_999]

Насчет Лестрейда вы все перепутали, он действовал не по инструкции, а как раз в соответствии с "реальностью", которая была у него перед глазами, упуская массу мелких деталей вне его поля зрения. Поэтому уже сейчас компьютерные экспертные системы в самых разных областях часто гораздо эффективнее, чем человек с его убогой памятью и ограниченными способностями к ассоциативному мышлению и анализу больших массивов информации.

Вы придумали новое определение интеллекта, да еще добавили "инструкцию", как некое программирование. В части программирования вы далеки от сегодняшнего положения вещей, нейронные сети постепенно учатся сами программировать свои алгоритмы и свое поведение, а дальше достаточно будет разделить электронный мозг на функциональные иерархически выстроенные блоки, как разделен мозг человеческий, и дальше - дело техники, обучения, и времени конечно. Формально, у ИИ большой потенциал.

Однако существует более фундаментальная проблема. Вот Ли Смолин о ней говорит в своей книге "Неприятности с физикой...". Есть мейнстримная струнная теория, которая очевидно зашла в тупик, вот уже 50 лет как. Тем не менее, именно на ее развитие и выделяются практически все деньги, которые радостно осваивают ученые-ремесленники, весьма талантливые, но не способные выйти за рамки общепринятой парадигмы. Смолин говорит, что нужны ученые-пророки, но, во-первых, их мало, а во-вторых, как раз их-то и не подпускают ни к занятию серьезных должностей, ни к финансированию, т.к. в науке господствует все та же групповая психология, что и в других областях, от политики до религии. То есть ваш Холмс так и останется одиноким чудиком, расследующим по несколько дел в год, а все остальное будут делать Лестрейды. Так что компьютеры останутся учетчиками и управленцами, но не потому, что не способны на большее (еще как способны), а потому что их будут создавать и обучать все те же Лестрейды, которые все-таки обладают интеллектом, но не имеют понятия о нестандартном творческом мышлении (хотя, отчасти и ему можно обучить, возьмите ТРИЗ).