Mach mit, Mach’s nach, Mach’s besser
Довольно долгое время среди неглупыхъ людей распространено пагубное заблужденіе, что классическое образованіе въ современныхъ условіяхъ не нужно. Дѣтямъ, какъ они считаютъ, надо давать навыки вмѣсто знаній: учить поиску въ интернетѣ вмѣсто запоминанія фактовъ, программированію вмѣсто латыни, работѣ надъ проектами вмѣсто отдѣльныхъ предметовъ, «критическому мышленію» вмѣсто всего остального. Возражать сторонникамъ этой идеи непросто. Дѣло не только въ психологическихъ причинахъ. Разумному діалогу, прежде всего, мѣшаютъ цѣнностныя установки, изъ которыхъ слѣдуетъ принципіально отличное отношеніе къ интеллектуальной традиціи и культурѣ.
Послѣдствія уже сказываются. Современные школьники и студенты оказываются безпомощны, оставленные одинъ на одинъ со строкой поиска,¹ причемъ даже тѣ, чей общій уровень интеллекта достаточно высокъ.² Чтобы задать осмысленный вопросъ, нужно имѣть какіе-то начальныя представленія о возможныхъ отвѣтахъ на него и объ устройствѣ реальности въ цѣломъ. Тѣмъ болѣе, что современныя поисковыя системы, принадлежащія крупнымъ корпораціямъ, далеко не нейтральны: онѣ не показываютъ результаты, которые сами посчитаютъ нерелевантными или вредными. Только предварительное знаніе о томъ, что отвѣтъ на заданный вопросъ существуетъ, помогаетъ продолжать поиски въ правильномъ направленіи.
Доступность ChatGPT³ для публичнаго тестированія и бурное обсужденіе темъ, связанныхъ съ использованіемъ большихъ языковыхъ моделей на практикѣ, даютъ поводъ снова задуматься о преимуществахъ классическаго образованія. Многіе, включая самихъ создателей изъ Open AI, отмѣчаютъ, что осмысленные результаты ея работы неотличимы отъ правдоподобнаго бреда. Можно получить весьма точный отвѣтъ на заданный вопросъ, обзоръ литературы или отправную точку для послѣдующихъ вопросовъ и уточненій. Глубиной «знаній» GPT-3 не поражаетъ, но если говорить объ ихъ всеохватности, человѣкъ, судя по всему, ее превзойти уже не въ силахъ.⁴ Вмѣстѣ съ тѣмъ отвѣтъ машины можетъ содержать выдуманные факты со ссылками на несуществующія статьи или книги. Ихъ перепровѣрка, должно быть, сопоставима по трудоемкости съ самостоятельнымъ поискомъ, извлеченіемъ и систематизаціей информаціи на основѣ первоисточниковъ.
Напримѣръ, на просьбу назвать самое быстрое изъ морскихъ млекопитающихъ “Name the fastest marine mammal”, ChatGPT приводитъ въ примѣръ птицу Falco peregrinus или рыбу Istiophorus platypterus. Только базовыя знанія о классификаціи животныхъ позволяютъ понять, что отвѣтъ невѣренъ. Если машину переспросить “But sailfish is not a mammal”, то даже послѣ нѣсколькихъ попытокъ все равно нельзя отъ нея добиться, то ли это коротко-плавниковая гринда Globicephala macrorhynchus, то ли косатка Orcinus orca, то ли такихъ видовъ нѣсколько и отвѣтъ изначально не можетъ быть однозначнымъ. Другой орѣшекъ для GPT-3 - вопросъ “What is eight hundred and thirty-six billion three hundred and seventy-two million one hundred and thirteen thousand six hundred and seven plus three hundred and ninety-six billion five hundred and eighty-seven million four hundred and sixty thousand seven?” Результатъ - 1 233 859 580 571 вмѣсто правильнаго 1 232 959 573 614. Система не можетъ понять, въ чемъ состоитъ ошибка: она просто не имѣетъ для этого достаточно данныхъ даже въ огромной обучающей выборкѣ.⁵
Нѣкоторые комментаторы полагаютъ, что, несмотря на очевидные недостатки, подобный діалоговый способъ взаимодѣйствія пользователя съ машиной замѣнитъ привычный поискъ. Возможно, такъ и произойдетъ. Но главное, на мой взглядъ, уже очевидно: въ поискѣ, сортировкѣ и обобщеніи текстовой информаціи (безъ ея пониманія) машины превзошли или скоро превзойдутъ даже способнаго человѣка. Если къ этому добавить генерацію псевдооригинального текста, многіе пролетаріи умственнаго труда - программисты, копирайтеры, журналисты - окажутся безъ работы, если не смогутъ быстро повысить свою квалификацію. Думаю, что теперь крахъ концепціи образованія, главными навыками въ которой должны были быть поискъ информаціи и программированіе, вполнѣ очевиденъ. Въ лучшемъ случаѣ, это путевка въ ремесленное училище.⁶
Единственная область, въ которой человѣкъ въ обозримомъ будущемъ будетъ способенъ превосходить искусственный интеллектъ - это установленіе связей между фактами реальнаго міра и ихъ описаніе при помощи естественнаго или формальнаго языка. Пока машины не научатся пріобрѣтать собственный опытъ и находить соотвѣтствіе между потокомъ сенсорныхъ данныхъ и сложными абстракціями, всѣ ихъ возможности ограничатся лишь комбинированіемъ того, что до этого было создано людьми.⁷ Предыдущія попытки перекинуть мостъ между реальностью и языкомъ путемъ формализаціи многихъ милліоновъ элементарныхъ фактовъ,⁸ несмотря на десятилѣтія работы и огромныя финансовыя затраты, привели, какъ сейчасъ считается, въ тупикъ. Но и большія языковыя модели, принципіально лишенныя всякой логики и имитаціи «разума»,⁹ уже близки къ тому, чтобы обучаться на всѣхъ доступныхъ текстахъ, по крайней мѣрѣ на англійскомъ языкѣ. Возможностей для дальнѣйшаго экстенсивнаго роста остается не такъ много.
Невозможно провѣрять каждый фактъ, каждое утвержденіе, которое сообщаетъ машина. Получая обратную связь отъ пользователя, машина будетъ склонна подтверждать имѣющуюся у него точку зрѣнія, укрѣплять т. н. confirmation bias. Получается, что для успѣшнаго соревнованія съ искусственнымъ интеллектомъ человѣкъ долженъ обладать и умомъ, и знаніями. Одно неотдѣлимо отъ другого. Чтобы не попасть въ ловушку, нужно знать очень много, еще больше, чѣмъ раньше, обладать эрудиціей не только по своей спеціальности, но и во самыхъ разнообразныхъ областяхъ. Безъ знаній невозможно подлинное критическое мышленіе, безъ нихъ нельзя отличить стоящее содержаніе отъ его правдоподобной имитаціи. Нужно умѣть разсуждать логически, а не только примѣнять техническіе пріемы. Но это какъ разъ то, чѣмъ и было классическое образованіе, даже средневѣковое. Тривій давалъ ученику инструментарій правильнаго мышленія, квадривій оттачивалъ мастерство его примѣненія, а всѣ семь свободныхъ искусствъ вмѣстѣ служили необходимымъ основаніемъ для послѣдующаго пріобрѣтенія спеціальныхъ знаній.
Надѣюсь, скоро хотя бы нѣкоторые поймутъ, что лучшее, что они могутъ вложить въ своихъ дѣтей - это древніе и современные языки, чтеніе первоисточниковъ, исторія, логика, риторика, философія, математика и множество другихъ «безполезныхъ» общеобразовательныхъ дисциплинъ, которыми злые учителя мучили прошлыя поколѣнія лѣнивыхъ учениковъ. Этѣ знанія, можетъ быть, не пригодятся непосредственно на практикѣ, но онѣ нужны, чтобы удержать связь съ реальностью въ искусственномъ мірѣ, заполненномъ сгенерированными симулякрами, копіями, у которыхъ никогда не было и не будетъ оригинала.
¹ Этотъ выводъ основанъ на моемъ собственномъ опытѣ работы со студентами-практикантами и начинающими юристами. Онъ также подтверждается преподавателями юридическихъ факультетовъ чешскихъ университетовъ, которые по извѣстнымъ причинамъ были поставлены передъ необходимостью использовать методы дистанціоннаго обученія и контроля студентовъ. Подробнѣе: CVRČEK, František a kol. Elektronizace vyuky prava. Plzeň: Zapadočeska univerzita v Plzni, 2020, напримѣръ, стр. 98 и слл.
² Конкурсъ на юридическіе факультеты, какъ правило, высокій, поэтому для поступленія требуются соотвѣтствующіе результаты въ тестахъ общей эрудиціи и интеллекта, которые примѣрно соотвѣтствуютъ IQ 120 и выше.
³ chat.openai.com.
⁴ Здѣсь умѣстно вспомнить о побѣдѣ суперкомпьютера Watson въ знаменитой игрѣ для эрудитовъ Jeoprady! (аналогъ въ Россіи - «Своя игра»), которая случилась еще въ 2011 году.
⁵ Для полноты картины стоитъ упомянуть, что WolframAlpha способна правильно рѣшить этотъ примѣръ, но какъ у болѣе спеціализированной системы ея возможности ограничены по сравненію съ тѣми, въ основѣ которыхъ лежатъ большія языковыя модели.
⁶ При этомъ именно традиціонное ремесло становится снова востребованнымъ. Возможно, что въ скоромъ будущемъ программисты начнутъ переучившійся на плотниковъ или сантехниковъ, спросъ на работу которыхъ окажется выше.
⁷ Подробнѣе объ этомъ въ статьѣ Э. Бендеръ и А. Коллера Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. Въ ней авторы разсуждаютъ о томъ, чѣмъ отличается пониманіе отъ имитаціи діалога и какое значеніе имѣетъ коммуникаціонное намѣреніе собесѣдниковъ. Примѣры, которые приведены въ статьѣ, относятся къ предыдущей версіи GPT-2 и уже нѣсколько устарѣли; GPT-3 съ заданными авторами примѣрами справляется намного лучше. Для пониманія главной идеи, на мой взглядъ, стоитъ обратить вниманіе на описаніе мысленнаго эксперимента со сверхразумнымъ осьминогомъ.
⁸ Упоминанія заслуживаетъ, напримѣръ, проектъ Cyc.
⁹ По сути ихъ работа сводится къ оптимизаціи функцій съ большимъ количествомъ параметровъ. У самыхъ большихъ моделей ихъ счетъ идетъ на сотни милліардовъ.
Эта замѣтка в упрощенной орѳографіи: Mach mit, Mach’s nach, Mach’s besser.