Про интеллект
Фрагменты обсуждения в ЖЖ
serge_gorshkov в записях Логика, искусственный интеллект и договороспособность умных людей и Искусственный интеллект на OWL
«Дайте ваше определение искусственного интеллекта?»
Ну, наверное, просто интеллекта? А искусственный - это уже производное? И конечно, лучше говорить о понятиях, а не терминах. То есть перед нами стоит задача зафиксировать понятие, которое отличается от биологической жизни (мы ведь не про искусственную жизнь), от адаптационной функции систем (мы же хотим моделировать нечто сугубо человеческое), и не сводящееся к выполнению однозначно воспроизводимых операций/действий (иначе все разговоры об ИИ закончились бы при появлении калькулятора, ну или современного компьютера). Итак, нас интересует понятие, которое не только отличает человека от животных, но и указывает на определенный вид человеческой деятельности, не заключающейся в воспроизведении заранее известных алгоритмов. И такой вид деятельности хорошо известен и называется он творчеством. И если говорить об интересующей нас теме, то речь идет о творчестве связанном с мышлением. То есть можно выделить особую исключительно человеческую, высше-человеческую деятельность, которая заключается в производстве (выдумывании) нечто принципиально нового. И если задачу воспроизводства уже описанного, сформулированного, алгоритмизированного уже можно считать решенной, то в качестве следующего шага в этом направлении следует признать моделирование человеческой деятельности по генерации новаций.
Если подбирать термин для обозначения этой деятельности, то наиболее подходящим, на мой взгляд, является "интеллектуальная". И это очевидно, поскольку деятельности, которые заключаются лишь в воспроизводстве некоторых алгоритмов мы не называем интеллектуальными. А интеллектуалами профессиями и интеллектуальными представителями этих профессий считаем тех, кто был в состоянии произвести хотя бы одну мыслительную новацию - защитить диссертацию.
В итоге имеем: интеллект - это "инструмент" деятельности по производству новаций. Интеллектуальный человек - это тот, кто способен генерировать (а не выводить по алгоритму) новые мысли, идеи. Однако, повторяю - речь идет не о словах, а о понятиях, о разделении двух из них: (1) воспроизводство операций (пусть и сколь угодно сложных, но лишь воспроизводство) и (2) производство/генерация новаций. И ставя задачу моделирования высшей человеческой деятельности (а не адаптации животных или способности человека воспроизводить сложные операции) мы естественно имеем в виду именно второе понятие, которое я бы назвал "производство интеллектуальных новаций" в отличие от воспроизводства рассудочных операций (за пределы которых не выходит логика).
Итак, независимо от той или иной терминологии нам надо строго фиксировать предметную область моделирования: мы про обучение машины тому, что воспроизводит/повторяет каждый человек, или про создание аналога того, что делает из человека творца, способного генерировать новации? Понятно, что реализовывать надо и то, и то. Но при этом надо понимать, что распознание картинок и речи, логический вывод - это про одно, а творческое мышление - это нечто другое. И только это другое я бы назвал словом "интеллект". (Ну не называть же интеллектуальной деятельностью узнавание на рисунке собаки или логический вывод, мол, если вино произведено в Шомпани, то оно французское ?))).
Подробнее в текстах Восхождение к интеллекту. Опыт эволюционно-иерархической классификации и Интеллектуальные новации и адаптации
«Мы до сих пор так и не знаем подробностей работы нашего разума»
Так ведь это безразлично для темы обсуждения - ваш вопрос касался не механизма, а различения/определения, которое можно провести феноменологически - по анализу деятельности и ее результатам.
«Утверждения о качественном отличии человеческого сознания от сознания высших животных - не более, чем результат нашего слишком высокого самомнения.»
Вы продолжаете смешивать механизм и функциональность. Отличается ли нечто в головах у собаки и человека - это отдельный вопрос. Но независимо от него мы можем строго различить: (1) адаптивную деятельность животных, реализуемую только в поколениях, (2) перманентную (по текущей ситуации) адаптацию человека путем смены алгоритмов поведения с использованием элементов культуры (пошел дождь взял зонт, надо в Лондон - полетел самолетом), и (3) деятельность по локальному (а не в поколениях) производству новых элементов культуры и алгоритмов оперирования с ними. Это вполне формально различимые деятельности не требующие для их фиксации каких-то пространных рассуждений о "качественном отличии человеческого сознания" и пр. И предполагающие различные подходы к их описанию и моделированию. Согласитесь, как программист, что выполнить алгоритм и придумать принципиально новый - это две большие разницы.
«Из этого напрашивается вывод, что то, что мы не можем так же детерминировать деятельность более высокоразвитых животных - проблема наших методов исследования и уровня развития науки, а не свидетельство качественного отличия этой деятельности.»
Это верное, если бы мы обсуждали однозначно воспроизводимое, да еще генетически закрепленное поведение (результат адаптации). Но ведь я выделил две принципиально разных деятельности: воспроизводство неких алгоритмов (муравьями или человеками) и творение нового (локально доступное только человеку). И понятно, что здесь апелляция к муравьям не покатит.
«Логически развивая такие рассуждения, я прихожу к мысли, что творчество - это не некая алхимия (так легко дойти до обоснования его божественной природы), а просто крайне сложная деятельность, которую мы не можем понять и объяснить, но которая тем не менее точно также может быть разложена на составные части и детерминирована.»
Так где же здесь логика? Исходно дано: есть однозначно воспроизводимая деятельность муравьев, есть недоступная никому, кроме человека творческая деятельность. И какой вы делаете из этого вывод? Вторая сводится к первой. На основании чего вы сделали такое заключение? Хотя тут вообще не следует обращаться к какой-то экстраполяции - достаточно понимания факта, что появление нового принципиально не может быть описано в рамках какой-либо логики. Новация алогична по своей сути.
«С этой точки зрения, нет качественной разницы между мыслительным процессами, происходящими при выборе йогурта на полке в супермаркете и при сочинении стихотворения.»
С какой "этой"? Вы высказали нелогичное и ничем не подтвержденное предположение. Ну и к тому же опять стали рассуждать на уровне реализации (мыслительных процессов). Хотя на уровне деятельности - дворника и лауреата Нобелвской премии - разница принципиальна и очевидна.
«Так что искусственный интеллект для меня - это любая не живая система, имитирующая мыслительные функции живой.»
Это распространенная позиция. С моей точки зрения она выглядит как нежелание строго сформулировать проблему, провести анализ различных видов деятельности. В любом случае видение и понимание отличий лучше, чем желание все свалить в одну корзину. Для того, чтобы утверждать сводимость задач надо прежде всего их сформулировать.
«ее нашел первый муравей, съел, не умер, и другие муравьи тоже стали есть конфеты. Это новое? :)»
Муравей съевший конфету, конечно же не новация. А вот первая конфета и первый муравей - это новое. Ведь было же время, когда не было конфет? Как и было время, когда не было муравьев. Вы можете себе представить логику, алгоритм, при просчете которых появилось нечто новое? Скажем, новое понятие?
И на мой (и не только мой) взгляд проблема появления нового - это центральная проблема современной науки в частности биологии и уж точно наук о человеческом мышлении. И тут понятие "новое" нагружает само себя по самое не могу, поскольку на сегодня нет теории, объясняющей механизм формирования новаций (большинство довольствуются формулой "так случайно вышло").
«С другой стороны, способность человека генерировать новизну крайне сомнительна. Это легко доказывается экспериментами по придумыванию несуществующих животных: люди будут придумывать каких угодно монстров»
Вы попали пальцем в небо. Да, подавляющее большинство людей неспособно придумать нечто новое. Но есть ньютоны, эйнштейны, маркони-поповы... Да, их единицы. Так и новации появляются не каждый понедельник. Возможность человека генерить новизну подтверждена всей историей человечества. Ну и понятно, что электрический двигатель не есть комбинация деталек парового.
И тут мы опять сталкиваемся с разными видами деятельности, про которые я же раз пятый пишу: миллиарды людей действительно перебирают комбинации, а чаще просто выполняют известный алгоритм, а единицы творят новое. Вам кто интересен? Что вы конкретно и люди в массе ожидаете получить в качестве ИИ? Калькулятор или устройство способное к генерации новизны?
«Степень гениальности (способности к созданию "нового") определяется тем, насколько далеко человек...»
Опять же "степень гениальности" конкретного человека нас должно мало волновать. Проблема в самой возможности нового и способности его генерить.
«Просто логика - получение новых знаний на основе уже известных.»
Вы точно уверены, что из античных знаний можно сугубо логическим путем вывести все современные научные достижения? Или даже что из классической механики логически вывести уравнение Шреденгера? Даже какие-то прорывные (новые) решения в свой собственной деятельности вы не выводите из вычитанных знаний. И проблема не в том, что мы как-то скрыто проскакиваем логическую цепочку вывода нового, а просто ее - это цепочки - нет. Новое не получается модификацией, комбинацией, логическим выводом из старого. Мне казалось, что это очевидно для любого человека знакомого с логикой, понимающего природу логического вывода, который (вывод) однозначно предопределяет то, что может получиться в итоге, который не подразумевает появления в "итого" нечто, что никогда не получалось при прежних выводах. На то она и логика, что в ней недопустимо нарушение правил. А любое новое - это нарушение правил.
«В калькуляторе этого нет, а в OWL, нейросетях и машинном обучении - есть.»
В OWL однозначно - нет. Ситуацию с выводом в онтологии можно представить как заполнение узлов графа, которые изначально подразумеваются, но не были заполнены руками. По сути, резонер просто устанавливает связи между имеющимися в онтологии сущностями (которые есть и до вывода), но он принципиально не может логически вывести новую сущность. Аналогичная ситуация и с современными нейронными сетками - их обучают распознавать и воспроизводить то, что уже есть. Это заложено в самом понятии "обучение". Нельзя научить генерировать новое. Этому нельзя научить даже человека.
Подвиду итог. Я ничуть не хочу принизить, показать незначимость работы в областях, которые ныне представляются как имеющие отношение к ИИ. Хотя с моей точки зрения разработки идут лишь на уровне воспроизведения неинтеллектуальной, лишь адаптивной, а то и просто строго алгоритмической деятельности основной массы людей (распознать лицо, найти в справочнике информацию, заказать пиццу). Но предполагаю, что теория новационогенеза вполне возможна (чем я и занимаюсь уже десяток лет с определенным успехом). Но для того, чтобы добиться практического результата в моделировании интеллектуальной (новационной) деятельности надо прежде всего видеть и формулировать проблему, а не надеяться на то, что если мы сделали программируемый калькулятор, то наращивая его память и скорость процессора творческая деятельность получится сама собой. Она лежит на другом уровне - иначе не было бы такой пропасти между интеллектуалами (гениями) и общей массой.
*
Но на мой взгляд, вернее, с моей позиции, предполагающей различение адаптации, разумного поведения и интеллектуальной деятельности, все что касается теста Тьюринга не имеет отношения к интеллекту. Тесть Тьюринга ориентирован на выявление разумного речевого поведения, то есть на умение пользоваться социумными алгоритмами и умело сменять их при изменении условий (с чем современные боты уже вполне справляются). Естественным тестом на интеллектуальность (как для человека, так и для любого устройства) можно признать написание и защиту диссертации, а или попросту, создание интеллектуальной новации.
«Наверное, как что-то вроде игры программных агентов в «Что? Где? Когда?» с Сергеем в роли ведущего.»
Для меня очевидно, что успех в играх подобных «Что? Где? Когда?» не подразумевает наличие интеллекта, а только большую эрудицию. Что ярко продемонстрировал Вассерман, да и вообще факт, что никогда победители эти игр не отличались в научных и других сферах, где требуется достижения новационых результатов, решения задач без известного ответа.
Итак, ваши пояснения предельно понятны и действительно касаются позиции и направления мысли Сергея. Но не являются ответом на мои вопросы: что такое интеллект? должны ли мы различать интеллект мыши, ребенка и нобелевского лауреата? возможно ли решая задачу адаптации в рамках заданной логики получить новационный результат? По мне так, если различать деятельность ученого и мыши (а различать все же надо - это разные предметные области), то термин "интеллект" следует закрепить для обозначения именно первой. Хотя, как уже много раз писал, проблема не в терминологии, а в различении понятий и точном формулировании задач - не на уровне, мол, решим что полегче, а сложное само получится.
В современной ИТ отрасли термином "ИИ" называют все, что не сводится к простому алгоритму. И тогда, да, экспертные системы можно отнести к ИИ. Но обсуждается же не терминология, а принципиальный вопрос: компьютерное моделирование работы дворника или даже игры в "Что? Где? Когда?" относится к одной задаче с моделированием, скажем, научного творчества или к разным? Многие считают, что мы имеем дело с разными уровнями сложности одной задачи. Я же утверждаю, что это принципиально разные задачи. Это ясно даже с позиции оценки результата: в первом случае речь идет о выполнении стандартных операций, поиске уже известного результата, а во втором о нахождении нечто принципиально нового.