Выход из «Китайской комнаты» или может ли машина думать.
Выход из «Китайской комнаты» или может ли машина думать. Давно интересуюсь проблемой сознания и его связи с мозгом. Однажды я натолкнулся на очень интересный мысленный эксперимент, называемый «Китайская комната». Не помню в какой публикации я впервые прочел о нем, но он меня очень заинтересовал, поэтому я стал изучать вопрос. Только после прочтения ( Read more... )
статья очень большая и запутывает вопрос ещё больше.
- есть программа которая называется llama.cpp и которая может "выполнять" языковую модель типа llama на компьютере (есть версия которая может выполнять только на процессоре, желательно чтобы процессор поддерживал набор инструкций AVX). Нужно также чтобы модель влезала в оперативную память (желательно иметь побольше - 32 Гб вероятно достаточно (для больших моделей нужно больше но они начинают выполняться на процессоре слишком медленно и далее по этой дороге нужно специализированное железо), для экспериментов хватит и 10-12-16 Гбайт и нужно знать английский язык) [добавлено - память у человека - то что он способен запомнить - примерно 200 Мбайт {- да, так мало}].
- также есть веса нейронных сетей (на huggingface) языковых моделей, оптимизированные для llama.cpp (там много, формат ggml).
- по всем признакам это программа (доступен её исходный код, можно посмотреть и ничего сверхестественного там нет).
- может ли она (программа, или система "программа плюс файл с весами языковой модели", или система "компьютер плюс программа плюс файл с весами языковой модели") - может ли оно думать ?
- внезапно может (даже если это какой-нибудь core i3). почему может - отвечать долго но смысл в том что работа биологической нейросети может быть промоделирована программно (так как любые сигналы могут быть оцифрованы и обработаны процессором) и языковая модель создаётся в результате эволюционного процесса (примерно такого же по природе как и эволюция естественной нейросети, только делается много быстрее). [добавлено - имеет также значение как делается языковая модель и какие данные используются для её создания - это языковые/текстовые данные которые являются концентрированным результатом мышления и языковая модель начинает мышление, которое стояло за этими языковыми/текстовыми данными, воспроизводить]
[добавлено 2]
Внутрь комнаты можно подавать карточки с нарисованными на них китайскими иероглифами. Человек, находящийся внутри комнаты, совершенно не говорит и не читает на китайском, поэтому смысл иероглифов ему не понятен. В то же время, человеку даны подробные инструкции о том, как
оперировать поступающими карточками и какими карточками отвечать. Таким образом, человек снаружи комнаты может задавать различные вопросы с помощью карточек и получать вразумительные ответы. У человека, задающего вопросы, должно сложиться впечатление, что человек внутри комнаты владеет китайским и понимает смысл их диалога, но на самом деле он лишь
бездумно выполняет инструкции и не понимает ни слова.
- интересный момент начнётся когда человеку в китайской комнате дадут последовательность иероглифов, для которых у него нет инструкций, какими карточками отвечать.
- если человек в комнате, не имея инструкций, ответит правильными карточками, может ли он думать ?
- если все возможные ситуации можно описать инструкциями, то могут ли человеческие существа думать ? (или они выполняют программный алгоритм ?)
Reply
Leave a comment