Призрак бродит по инету, призрак ИИ (и всех пугает)

[wampus_999]

Из комментариев к полемике о возможности создания искусственного интеллекта, подобного человеческому, в блоге imperor-id (обновленный и расширенный вариант).

Я понимаю, что статья imperor-id полемическая, и создана она в ответ на не совсем адекватные высказывания известного сайенс-фрика, у которого есть свои причины так говорить, не имеющие никакого отношения к науке

Comments

[anonymous]

что такое "интеллект"? Он проявляется по-разному, и у животных есть многие его признаки, точнее - квазипризнаки, т.к. это признаки, по которым нельзя судить, имеет ли живое существо интеллект или нет.
Не собираюсь давать определение интеллекту, но предлагаю такой критерий, как понимание смысла. Если посмотреть на электронные переводчики, то они выдают бессмысленность. Машина может более-менее хорошо передавать информацию типа "идёт дождь", человек спит и т.д., но передать смысл литературного произведения, басни, стихотворения, сказки они никогда не смогут.
Многие знают иностранные языки, но не многие из них могут быть переводчиками, даже если понимают смысл, т.к. не все могут выразить словами родного языка ту же мысль, что в оригинале. Это интеллектуальный труд, почти сродни писательскому, т.к. переводчик должен мыслить как автор, иначе он даст в переводе свою мысль, а оригинал так и останется непереведённым.
Понимание смысла - тоже свойство интеллекта, не менее полноценного, чем интеллект переводчика, т.к. перевод - это только способность, как и способность писателя. Если с этой меркой наличия интеллекта подойти к людям, то неспособность понимания смысла, впрочем, как и неспособность выявлять бессмысленные тексты, будет верным признаком отсутствия интеллекта. Можно вспомнить, что Буратино проявлял признак отсутствия интеллекта, который или развивается постоянной тренировкой понимания, или хиреет, заменяемый постоянным чтением бессмысленного чтива, не требующего понимания, поглощением текущей информации. Многие так и не развили интеллект.
Как говорится "о чём молчит "Анна Каренина"?" Вот поэтому замечательные произведения, от которых прибавляется ума, для большинства как бы не существуют. Все знают, о чём там сказано, но не что.
Машина никогда не сможет понимать смысл, поэтому она не заменит переводчика, хотя она может заменить "толкователя", который переводит так, как понимает, точнее - не понимает. Машина ни за кого понимать никогда не будет. Она будет переводить так, как запрограммированна.
Машина не может наблюдать за природой. Поскольку наблюдения рождают понимание или непонимание того, что наблюдаешь, то наблюдение - признак интеллекта. Машина может лишь отражать реальность, имея датчики. Но сколько бы времени эти датчики не передавали информацию, вывод не последует до скончания века.А как говаривал Козьма Прутков, что бросая камушки в воду, смотри на круги ими образуемые. И вот, все вроде и видят круги, но пытаются осмыслить это явление немногие.
Понятие волны до сих пор не достаточно полное. Но ни одна машина никогда не будет "смотреть на круги" так сказать внимательно. Это тоже способность интеллекта. Тысячи людей до Архимеда купались в ванне, да что там ванна, строили лодки, учитывая водоизмещение, т.е. сталкивались с проявлением действия закона природы, но открыт он был Архимедом. Разве Архимед открыл нечто новое? Все это видели и пользовались, все, включая детишек. Интеллект Архимеда был подготовлен наблюдениями своими и обширным опытом многих. Но он один захотел выявить нечто общее в разных его появлениях. Он искал сам не зная - что. Когда нашёл, узнал, и как гласит предание, закричал "Эврика!" Так что такое открытие? Разве может машина сделать открытие? Машина может лишь облегчить работу интеллекта по осмыслению, взяв на себя рутинную работу, например, тот же расчёт водоизмещения в зависимости от разных параметров.
Смысл совета Пруткова в том, чтобы мы сами не обессмысливали всё то, с чем имеем дело, что нас касается. "Когда моешь чашку, думай о чашке". Тогда всё тайное будет делаться явным. Поймёт ли машина этот смысл? Нет. И совету этому не последует. Что же тогда "самообучение"? Не всё самообучение - признак интеллекта. Многие люди, не пытающиеся понять потому, что не имеют такой привычки, даже если последуют совету - будут смотреть, но не будут способны получить пользу. Интеллект не развит.
Поэтому лучше бы нам озадачится созданием собственного интеллекта, а то большинство даже не подозревает, что это такое.
Животные часто выглядят умными, догадливыми, так что говорить о человеке, лишённом, как и они интеллекта?

[wampus_999]

Серьезный разбор, не формально-схоластический, как это часто бывает. С чем-то согласен, с чем-то - нет. Надо подумать. Спасибо.

[wampus_999]

Мышление, ум, разум, интеллект, рассудок, сознание, самосознание - столько терминов и еще больше значений, охватываемых ими, и все пересекаются. Как тут разобраться? Что общее есть среди всего этого, - то, что мы можем назвать только человеческим, напрочь отсутствующим у животных? И что имеется в виду, когда говорится об ИИ, близком к человеческому?

В особенности определение интеллекта в вики удивляет невероятной упрощенностью, его вполне можно применить ко многим животным, особенно обезьянам, обученным языку жестов (безусловно, человеческий шовинизм тут же назовет эти сходства "квазипризнаками"):

Интелле́кт (от лат. intellectus «ощущение», «восприятие»; «разумение», «понимание»; «понятие», «рассудок»[1]) или ум[2][3] - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой[4]. Общая способность к познанию и решению проблем, которая объединяет все познавательные способности: ощущение, восприятие, память, представление, мышление, воображение[5], а также внимание, волю и рефлексию.

Эта универсальность восприятия и понимания, присущая не только человеку, говорит прежде всего о том, что человеческий интеллект не возник на пустом месте (и вдунул Бог...), но постепенно развился в течение миллионов лет. Да, если брать сразу философские абстракции и проникновение в тайны материи, то невозможно даже представить, что они выросли из простейших реакций бактерий на свет и тепло. И тем не менее, не было разрывов между питекантропом, неандертальцем и человеком, все происходило пусть и скачками (превращение количества в качество), но преемственно (нынешние дикие племена, например, пираха, тому подтверждение). Но если это так, то почему и "мозг", основанный на других принципах, не может постепенно приобрести нужные качества?

Понимание смысла действительно является одной из важнейших характеристик разума, недаром в церковно-славянском языке слову "разум" соответствует "смыслъ". Но разве обученные языку жестов обезьяны не понимают смысла передаваемых им фраз? Вполне понимают. То есть эта способность зародилась раньше человека, и следовательно нет никаких препятствий, чтобы совершенствование компьютерной нейронной сети не привело к такому пониманию.

Вот вы сами говорите, что у многих людей интеллект не развит, то есть дело не в мозге, который у всех примерно одинаков, а в обучении, в том числе и мышлению. А уж ИИ может учиться в круглосуточном режиме. Так что то, что сейчас ИИ "глуп" вовсе не означает, что он будет глуп всегда, поэтому говорить, что машина никогда не сможет понимать смысл, по меньшей мере опрометчиво.

основы пессимизма

[anonymous]

Способности т. н. ИИ не подходят под определение интеллекта даже из википедии, поэтому эту машину не следовало называть ИИ. Согласитесь, что компьютер - это машина, робот, исполняющий некоторые технические функции мозга, быстрее и несравнимо в большем количестве за единицу времени. Обычные роботы исполняют механические функции тела и тоже тоже быстрее, точнее, мощнее, чем естественная часть тела.
Эту машину, согласно её функциям, следовало бы назвать «помощником интеллекта», как скажем, манипулятор - это помощник руки. Человек управляет своей рукой, когда осознанно, когда автоматически, предварительно натренировав её (что начинается прямо после рождения). Человек может натренировать руку на любое движение или сознательно определять её движение, например, альпинист взбирается на скалу, для чего ему постоянно надо управлять своими руками.
Поэтому даже самым универсальным манипулятором человек управляет, как своей рукой, хотя, наверное, часть движений может осуществляться в автоматическом режиме, который определяет человек, а не манипулятор.
Не может человек, родившийся без рук, управлять манипулятором. Поэтому и манипулятор нельзя называть искусственной рукой, т. к. некоторые не очень интеллектуальные существа, поймут так, что теперь руки не нужны, т. к. ИР - «сверхрука», пусть она заменит наши хилые ручонки. Можно даже сразу ампутировать руки и ставить протезы, и хорошо было бы, если бы мы стали «киборгами».
Название ИИ как раз вызывает такую массовую ассоциацию, что машина лучше естественного интеллекта, стало быть, его не надо развивать (все манипуляции сознанием как раз убивают интеллект, заглушая его последний писк), т. к. уже скоро будет создан «протез».
Не соображают, что как безрукий от рождения не может управлять манипулятором (разве только произвольно, хаотично, как если бы нам, бесхвостым, сделали протез хвоста), так и безинтеллектуальный не сможет управлять помощником интеллекта.
Повторю, что имеющаяся машина берёт на себя только некоторые функции интеллекта, автоматизация которых освобождает время и энергию для работы самого интеллекта. По идее эти машины могли бы способствовать развитию интеллекта в каждом человеке, но как показывает опыт калькулятора, когда люди стали разучиваться выполнять арифметические действия, решать задачи больше и лучше не стали, то и т. н. ИИ будет способствовать безинтеллектуальности. Как калькулятор не стал помощником решения задач у тех, кто их и не решал и не научился решать и тем более - ставить, и только единицам он стал помощником, увеличив их естественные возможности, так и ИИ мог бы «осчастливить» человечество только в том случае, если бы он стал помощником людей с интеллектом. У других же он его полностью заглушит.
Наверняка вы читали рассказы А. Конан-Дойля о Шерлоке Холмсе, где сюжет нужен лишь для того, чтобы оценить прелесть интеллекта, воплощением которого являлся Ш. Холмс. Люди, имеющие интеллект, несомненно испытывали удовольствие созерцая его, интеллекта, работу, но для других был интересен только сюжет, само преступление. Теперь таких большинство, поэтому рассказы потеряли читателей, жаждущих лихо закрученных сюжетов. Для контраста автор дал образ инспектора Лейстреда, у которого почти не было интеллекта. Интеллект Холмса подсказывал ему, что и где ему искать, поскольку Холмс был сосредоточен на реальности (интеллект, устами Холмса, рассказывал о своей работе д-ру Ватсону, поэтому подумайте, можно ли запрограммировать машину таким образом, чтобы сделать искусственного сыщика, а не инспектора), а Лейстред действовал, как его «учили в школе и по инструкции» реальность - вторична, поэтому реальность ему ничего не подсказывала, точнее - его интеллекту, который так и не развился. Такие люди часто совершают следственные ошибки, но не замечают их, считая, что раскрыли преступление. Интеллект передаётся от человека к человеку, поэтому нельзя передать то, чего нет. Лейстред не породит второго Холмса, только Холмс может создать своё продолжение. Поэтому нам надо подумать, откуда брать интеллект «на развод».