Про искусственный интеллект и готические соборы
Как вы, возможно, знаете, искусственный интеллект - больная тема, вроде управления государством. У всех, кто о нём задумывается, появляются какие-то мысли на эту тему - умные или не очень. Мысли одеваются в слова, и возникают споры. В спорах, в частности, высказывается следующий аргумент: мысли дилетанта обладают такой же ценностью, что и мысли специалистов. В самом деле, например, специалист по табуреткам может сделать табуретку и тем самым доказать своё высокое звание. А что может предъявить специалист по ИИ?
Положим, современный специалист по табуреткам их, конечно, вручную не делает, а если сделает, то табуретка получится плохая. Но это естественное замечание тут, на самом деле, не главное. Аналогия не такая уж плохая, и ответить можно попытаться в тех же терминах.
Представьте, что мы живём в V веке, и мечтаем построить огромный кафедральный собор, такой, один из тех самых, вы понимаете, о чём я. Первый в мире, раньше таких не было. В обсуждении участвуют строители, имеющие опыт возведения одноэтажных зданий - деревянных и каменных, есть мечтатели-визионеры, есть духовные лидеры. Также среди нас есть специалисты по природным мегаструктурам: коралловым рифам и производящим их полипам (ну, тут аналогия как-то немного хромает, но что делать).
Нам известно, как растут природные мегаструктуры, и почему нам этот способ не подходит: и долго, и результат все равно наших задач не решит. Мы (прямо сейчас, во всяком случае) не умеем использовать те же механизмы в тех же масштабах, и не вполне понятно, возможно ли их разумное применение в данной задаче вообще.
Нам уже известно, что построить собор в точности так же, как мы строим одноэтажные здания, нельзя: пробовали, разваливается. Многие из нас умеют оценить, на каком этапе закончится крахом строительство по тому или иному проекту (но никакой строгой теории на сей счет нет, и потому доказать это горе-строителям и их инвесторам не получается). Нам известно, что доверить руководство этим проектом человеку, не имеющему опыт строительства каменных зданий, нельзя точно (причем опыт работы с деревом тоже понадобится). Нам обычно в точности известно, по какой конкретной причине неосуществим каждый прожект любого мечтателя-визионера, неспособного сделать даже табуретку. У нас появились кое-какие новые материалы и есть зачатки теории устойчивости и сопромата.
Со всем этим новым знанием кафедральный собор мы всерьез строить ещё даже не начинали. В основном потому что на прошлых неудачах слишком многие обожглись, да и экономически это бессмысленное занятие - это дело веры и сотен лет труда.