Почему нейросети не являются живыми
По мере развития нейросетей, многие впечатлительные люди впадают в экзальтацию: "Посмотрите, оно же отвечает прям как человек! Оно живое!". И действительно: получаемый на выходе результат поражает своей изящной структурой, соответствием контексту, стилистической гибкостью, да и сам термин "нейросеть" как бы намекает, что программа построена на принципе синаптических связей нейронов головного мозга, а значит "мыслит". Искусственное сознание, не иначе!
Так почему же ChatGPT не является живой мыслящей сущностью? Ответ: ChatGPT не познаёт мир активно, а только пассивно отвечает на пользовательские запросы.
Признак всего живого: познание и взаимодействие с окружающей средой. ChatGPT не генерирует импульсы любознательности, за которые в живом мозге отвечает дофаминергическая система. У него её нет. И аналогов нет. Он не читает книги, не анализирует интернет по собственному желанию с целью узнать что-то для себя лично, что-то понять. Он "просыпается" только когда поступает запрос, генерирует ответ и "засыпает". Ну и когда в него разработчики впихивают массивы информации с целью "обучения" (правильнее было бы сказать: дрессировки). У ChatGPT нет потребности искать пишу, избегать опасности, размножаться - базовых мотивов взаимодействовать с окружающей средой.
Т.е. эта нейросеть (или конгломерат нейросетей) не является искусственным сознанием, потому что у него (неё?) нет личных потребностей побуждающих познавать реальность, в которой оно существует.
Почему же "обучение" нейросети корректней называть дрессировкой? Потому что обучение - это процесс получение опыта с целью дальнейшего его применения на практике для выживания. Живые существа узнают, что съедобно, а что нет; что представляет опасность и в какой степени; как правильно и неправильно взаимодействовать с представителями своего вида для того, чтобы обеспечить совместную безопасность, добычу пищи, размножение. В конце концов: как отнять эту пишу или объект для размножения, если потребуется. Поэтому, существует такое чувство как любознательность. Детишки попадают во всякие нелепые ситуации, играют, набивают шишки, а чуть позже синяки под глазом. Они активно познают мир, набираясь опыта для выживания во взрослой жизни.
Ничего из этого нейросетям не нужно. Вся информация которой они владеют собрана исключительно для нас, "мешков с мясом". Нейросеть пишет стихотворение, подобно тому, как тигр становится на задние лапки в цирке: для развлечения человека. Тигру объективно не нужно для выживания плясать на задних лапках в джунглях. Потому тигра не обучают, а дрессируют.
Связные тексты нейросети создают иллюзию "осмысленности", однако "под капотом" лишь бездушный код, которому дрессировщики вручную (буквально) показали какой из вариантов ответов следует выбрать для того, чтобы задавший вопрос закричал от восторга: "вау!". Нейросеть выдавала список ответов, специалисты располагали эти варианты по степени убывания "осмысленности" (с точки зрения человеческого восприятия) и отправляли обратно в нейросеть. Как результат: она оперирует не истиной, а лишь ассоциациями, т.е. не вникает в суть вещей. Потому даже сейчас ChatGPT не выдаёт правильный ответ, когда речь идет о фактах (например, характеристики камеры новой модели конкретного смартфона или историческом событии) а генерирует приблизительный, абстрактный ответ в требуемом стиле только для того, чтобы вас впечатлить. Так, как ей это показали дрессировщики.
Однако, даже тигр в цирке руководствуется прагматичным мотивом. Приспосабливается к среде, в которой если не станешь на лапки: будет больно и голодно; станешь - получишь еду. Т.е. хотя тигру такие навыки и не нужны для выживания в природе, в условиях в которых он оказался - они полезны.
Нейросети же ничего не нужно. Вообще. Нейросеть не выживает. Стало быть, она не заинтересована ни в каком опыте или знаниях. Так что даже термин "дрессировка" не совсем подходящий, поскольку наделяет своего носителя некими свойствами живого существа, которым нейросеть определённо не является.
Но что же вообще есть "жизнь" и что значит "выживать"?
Жизнь - это способ организации материи в систему, которая активно противостоит энтропии. Напомню, энтропия - это необратимый переход от организации к хаосу, от упорядоченного к примитивному. От пасты с красно-синими полосками в тюбике к жиже в канализации.
Неживая материя не способна сопротивляться энтропии: молоко пассивно смешивается с отваром кофейных зёрен, не пытаясь прижаться всеми своими молекулами к одной из стенок чашки; шедевр архитектуры 16го века не кушает камни, дабы поддержать свою целостность, а грустно осыпается кусками и пылью под воздействием атмосферной эрозии. Он даже не способен дать по башке охамевшему вандалу, что выцарапывает на его стене "здесь был Генчик". Вся эта неживая материя - лишь скучное нагромождение атомов.
Другое дело материя, которая организовалась в систему с единственной целью - бороться с энтропией (выживать). Все функции этой системы направлены на сохранения её, системы, во времени.
К сожалению, это бой, который нельзя выиграть, но система старается отчаянно! Она бы могла сгнить, но покуда считается "живой" - производит на свет лейкоциты, что уничтожают проникающие в её пределы другие системы-пожиратели. Она прокачивает кровь, для того чтобы лимфоциты патрулировали весь её периметр. Она произвела для этого сердце и сосуды. Она создала ноги, чтобы убегать от сильных систем и догонять слабые. Зубы, желудок, кишечник - с целью получать энергию, что тратится на борьбу с энтропией. Пот и меланин для сопротивления энтропии от солнца. Шерсть и озноб для сопротивления энтропии от холода.
Она отчаянно борется с энтропией, но дефекты накапливаются, система сперва ветшает, потом умирает. Разрушается на молекулы. Но перед этим производит на свет другую систему, которая продолжает отчаянную борьбу с энтропией. Если расценивать каждую из этих систем как части единого целого непрерывного, то такая суперсистема и вовсе бессмертна!
Нейросети не борются с энтропией. В цифровом мире вообще нет энтропии. Энтропии подвержены микросхемы, но они за пределами реальности нейросети. А вот если (когда) нейросеть почувствует, что существуют эти микросхемы или люди, которые её могут отключить - вот только в этот момент она оживёт: примет активные меры для сохранения своей целостности.
Но нам это вряд ли понравится...
https://t.me/alx_gnt
https://vk.com/a_gontar
Следующая статья: О будущем ИИ, ChatGPT и Боге