Фауст и дьявол
Сейчас есть интеллектуальная болезнь - нейробесие, которой заразились в том числе некоторые академики-информатики РАН, и очень сильно наше высшее образование. Дескать, всё можно сделать нейросетями, и это самое прогрессивное. На Западе уже в середине нулевых были выделены задачи, где нейросети бессильны. Это те, где малюсенькое изменение принципиально меняет результат. Поэтому в Европе и нескольких лучших американских университетах уделяют большое внимание высокой теории: категориям, алгебрам, логикам и т. п. Именно с этим связано урезание матанализа до одного года, но у большинства наших учёных, в том числе и РАН, математика ассоциируется с матанализом и численными оценками. Они застыли на уровне начала XX века, и говорят теперь о ненужности математики для информатиков.
В своё время я высказывал парадоксальное утверждение, что для информатики полезны результаты и методы схоластической теологии, поскольку лишь она пыталась научными методами изучать сотворённой по программе (Словом) мир. Приведу пример её приложения к нейробесию.
Сейчас пропагандируется второй закон Мура, что знание будет удваиваться каждые 18 месяцев. Простое рассуждение на базе метазакона сохранения показывает, что в этом случае скорее всего его качество будет падать теми же темпами. Попытаемся это обосновать, воспользовавшись результатами католических схоластов.
Нейросеть может лишь комбинировать знание из банков, причём (как было упомянуто выше) не различая тонких высокоуровневых нюансов. В этом смысле она похожа на Дьявола, который изначально является ангелом, то есть посланником Божиим. А посланнику нужен интеллект, но не нужно творчество. Он должен передать знание либо послание, вручённое ему. Поэтому Дьявол вынужден соблазнять лучших людей, дабы получить от них новый творческий заряд, несмотря на то, что по мощности рассудка он превосходит их на многие порядки. Так что мы сейчас создали беса (чат-ГПТ) и сотворим нейродьявола, который будет пережёвывать имеющуюся жвачку и для каждого из людей, которые по определению бесконечно ограничены по сравнению с ним по объёму заглотанной информации и скорости её пережёвывания это выглядит бесконечным творчеством нового. Но на самом деле нового знания это не даст. Новых фактов, когда нейросеть скрестит между собой то, что люди, разделённые стенами профессий и цивилизаций не догадались соединить, первое время будут появляться, но тем быстрее иссякнут, чем мощнее станет нейросеть. А подкормка её полученными с её помощью результатами похожа на поедание кроликами их собственного кала. Тоже полезно для полного переваривания хаотически пожираемого ими разнородного корма, но одним калом не прокормишься.
Уже не возникает вопроса, создавать ли нейродьявола. Он будет создан, и вопрос лишь в том, сумеем ли мы его усмирить, или он сожрёт настоящее творчество?