Сброшенный с пьедестала Человек гордо уже не звучит
В новостях стали мелькать высказывания не последних в науке и технике людей (Хокинг, Маск) об опасности разработок в сфере ИИ, читаю их со смешанными чувствами. С одной стороны, нет никаких оснований не доверять мнению столь уважаемых и компетентных товарищей. С другой стороны, я абсолютно не разделяю их опасений
( Read more... )
Целиком и полностью согласен, именно поэтому решил не участвовать в обсуждении его поста, а тиснуть свой.
Однако, ваши утверждения об истинном ИИ я не вполне разделяю. Хотя я и использовал слово "машина", я не считаю, что ИИ будет непременно построен на базе современных вычислительных систем. Однако моих познаний не хватает и для того, чтобы полностью исключить такую возможность, как это сделали вы. Такие темы всегда упираются в вопросы скорее философские, нежели научные.
Вы говорите о личности, а нужна ли она? Личность, воля, самосознание - понятия, выдуманные человеком, чтобы описать человека. Следует ли применять их к иному, пусть и гипотетическому пока, субъекту? Возможно, принцип выбора целей и средств, которым будет руководствоваться эффективная машина познания, для нас пока непредставим, т.к. в корне отличается от всего нам привычного и понятного. Пусть для человека ИИ будет "бездушной" и безличной машиной, механизмом, но если это действующий, способный к автономному существованию механизм, то мнение человека тут уже не так важно.
Кроме того, является ли субъектом тот, кто ведет себя как субъект? Т.е. полагает цели и предпринимает действия для их достижения. Даже если в основе машины лежат написанные человеком алгоритмы, но они настолько сложны и действенны, что активность машины превосходит человеческую по всем значимым параметрам - это ИИ. Насколько я понимаю, на этом и построен тест Тьюринга.
И ещё большой вопрос, обладает ли наше собственное сознание чем-то, что нельзя назвать алгоритмом, заложенным в нас физической реальностью в ходе эволюции.
Моих познаний едва ли хватит для предметного обсуждения природы как искусственного, так и человеческого интеллекта. На данный момент я склонен к позиции "тайна сия велика есть". При этом не сомневаюсь, что нечто такое грядет на смену нам, и я вовсе не склонен к плачу о вымирании человечества.
Reply
...
Даже если в основе машины лежат написанные человеком алгоритмы, но они настолько сложны и действенны, что активность машины превосходит человеческую по всем значимым параметрам - это ИИ. Насколько я понимаю, на этом и построен тест Тьюринга.
...
И ещё большой вопрос, обладает ли наше собственное сознание чем-то, что нельзя назвать алгоритмом, заложенным в нас физической реальностью в ходе эволюции."
Не-не-не. Это не мои утверждения, а Пенроуза. И ничего там нет философского, голая математика, опирающаяся, кстати, на теорему о неполноте Гёделя. Вы бы нашли время, почитали. Пенроуз ловко доказывает несостоятельность связывания разумной деятельности с любыми алгоритмами. И именно он начисто исключает путь к настоящему интеллекту со стороны машин, как их понимаем мы. Ещё раз говорю: никакой философии, никаких размазываний словесной каши. Голая логика научного доказательства.
Кстати, много кто понимает суровые следствия этой самой теоремы Гёделя, головастых математиков хватает. Только вот они, дойдя до запрета на свободу воли с точки зрения тотальной вычислимости известной нам физической модели мироздания, поспешили провозгласить страшное: объективное отсутствие свободы воли. Даже применительно к нашим черепушкам. Пенроуз отметает этот абсурдный пессимизм. "Просто мы многого не знаем о настоящей физике реального мира, а наша модель его пока слишком примитивна," - говорит он.
А тест Тьюринга просто эффектный фокус. Ничего он на самом деле не решает в силу своей априорной ограниченности.
"Вы говорите о личности, а нужна ли она? Личность, воля, самосознание - понятия, выдуманные человеком, чтобы описать человека. Следует ли применять их к иному, пусть и гипотетическому пока, субъекту? Возможно, принцип выбора целей и средств, которым будет руководствоваться эффективная машина познания, для нас пока непредставим, т.к. в корне отличается от всего нам привычного и понятного. Пусть для человека ИИ будет "бездушной" и безличной машиной, механизмом, но если это действующий, способный к автономному существованию механизм, то мнение человека тут уже не так важно.
Кроме того, является ли субъектом тот, кто ведет себя как субъект? Т.е. полагает цели и предпринимает действия для их достижения."
О, зловещие тени концепции о рассудочности без разума, интеллекте без самосознания, так ярко представленной Питером Уоттсом в романе "Ложная слепота"! Там он ещё отвешивает пинок Пенроузу, совершенно не заморачиваясь обоснованием, по принципу "да дурак он".
Видите ли. Как раз основная канва математических построений Пенроуза проходит в русле креативной способности любой алгоритмически действующей системы. Опираясь на ту самую теорему Гёделя, Пенроуз доказывает принципиальную творческую ограниченность такой системы, неспособность выпрыгнуть из рамок, заранее обусловленных её конструкцией. Какой уж там новый разумный вид вселенского масштаба, гы.
Reply
А пока в обсуждаемой теме для меня слишком много неясных моментов.
Черт с ним, с тестом Тьюринга, хотя там не все так просто, как может показаться.
> Пенроуз ловко доказывает несостоятельность связывания разумной деятельности с любыми алгоритмами.
Справедливо ли это для эволюционного программирования, нейронных сетей?
А если RNG будет работать на квантовых эффектах, а не на костылях, как теперь?
Не будет ли оптимизированный слепой поиск решения (настоящий RNG + эволюционная отбраковка неверных/неподходящих решений) эффективнее человеческого мыслительного процесса?
Нет, все же мне не хватает знания предмета. Надеюсь, мой гуманитарный ум одолеет Пенроуза и тогда, при желании, мы можем вернуться к этой дискуссии.
Reply
А вот в "Тени разума" уже приводится подробное доказательство ограниченности любых алгоритмических систем, высказываются смелые предположения о возможном источнике искомого фундамента для разумной деятельности - коллапс волновой функции квантовой системы. Вкусная штука, до сих пор относительно сути данного явления у физиков полное несогласие и полярность мнений.
В этих книгах и про "китайскую комнату" (Уоттс слишком самонадеянно перетащил этот мысленный эксперимент в лагерь своей концепции), и про тест Тьюринга, и про интересный взгляд на теорию квантовой гравитации применительно к рассматриваемой проблеме и многое другое.
P.S. Чтобы не создавалось путаницы: Уоттс не учёный, а научно-ориентированный писатель фантаст, выступающий в своих произведениях популяризатором смелых идей.
Reply
Reply
Leave a comment