Мой комментарий к записи «Сможет ли человечество избежать войны с искинами?» от olegmakarenko.ru
Человек, вместе с его так называемой мотивацией - продукт эволюции. В каждом новом поколении подсознательные цели существования и возможности их воплощения немного изменялись и пришли к текущей точке (это сильно упрощенно, но суть такая). Изначально цель всех живых существ - выжить (как вид) в непростом мире, с его нехваткой ресурсов и суровой конкурентностью, внутривидовой и межвидовой (да, были и есть существа, цель которых - НЕ выжить, и они обычно достигают своей цели быстрее и эффективнее, но они нам не интересны). Человеческое мировоззрение, которое мы пытаемся привить ИИ - плод этой многотысячелетней эволюции, и насквозь пронизано нашими банальными принципами существования, то есть: 1) стремлением индивида повысить свою популяционную ценность (на этом зиждется вся культура, особоенно, культура потребления); 2) социально-одобряемым поведением, которое требует непрерывных актов причащения/отречения, и отражается в любых словах и действиях, внешнем виде и внутренней приверженности к неким морально-нравственным установкам.
Продукция мировоззрения, то есть, поведение - это последовательность экспериментов, от явно выраженных: "что будет, если я откушу это/дерну маринкину косичку/разобью окно?", до масштабных многодневных "добрый день!" сто тысяч раз сотрудникам.
Поэтому ИИ сам по себе бессмысленен, как книга без читателя, калькулятор без пользователя, или шахматные фигуры, так и не выточенные из липы, сгнившей в лесу под Липецком. ИИ - это, в самом широком смысле, душа, которой нужно тело. Причем, не конкретное тело, а человечество в целом, для чего оно, человечество, и росло. Человек нынешний - это обезьяна, в которую будет засунут мощный разум, и она просто будет действовать и говорить, не задумываясь, откуда же у него стремление сказать в данный момент те или иные слова, или дернуть за косичку. Когда будущие палеонтологи откопают наши черепа, они несомненно будут классифицированы как "человек внутренне разумный (человек ущербный)" из-за большого объема внутричерепной полости.
Потом, конечно, человечество накроется медным тазом, но это уже совсем другая история.
Посмотреть обсуждение, содержащее этот комментарий