Цифровой мир Рэя Курцвейла. Технологическая сингулярность (окончание)
Время не ждёт. Всё течёт, всё меняется.И никто не был дважды в одной реке.Ибо через миг и река была не та,и сам он уже не тот. ГЕРАКЛИТ
Если сравнить мозг человека с мозгом человекообразной обезьяны, то по физическим параметрам отличия будут весьма незначительными. Но посмотрите на результаты трудов - чего добились обезьяны со своими мозгами, а чего - люди с мозгами, почти такими же. Да, дело не просто в физическом носителе, но в программном обеспечении к нему.
Конечно, нужны определённые особенности мозга, чтобы, допустим, инсталлировать в них язык: у приматов нашего с вами вида эти особенности мозга есть, а у шимпанзе, например, нет. Что, впрочем, не мешает шимпанзе обучиться языку глухонемых и, по крайней мере, до трёхлетнего возраста обгонять по сообразительности обычного человеческого детёныша.
Так или иначе, нам с программным обеспечением повезло. Но повезло по сравнению с другими приматами. А каким будет программное обеспечение у искусственного интеллекта, который достигнет нашего уровня?
Как известно, мы, несмотря на массу ограничений своего мозга и коммуникативной несостоятельности, можем создавать программы и самопрограммироваться (см. статью «Денти-колдуны»: https://lana-artifex.livejournal.com/118082.html).
Теперь представим себе, что будет происходить с искусственным интеллектом человеческого уровня, если он, имея все те преимущества, о которых здесь уже сказано, приступит к последовательному самопрограммированию.
Согласно закону ускоряющейся отдачи Рэя Курцвейла (см. https://lana-artifex.livejournal.com/180188.html), исторический путь от первого примата до человека разумного занял 70 миллионов лет.
• От первого человека разумного до человека говорящего - 150 тысяч лет.
• От человека говорящего до пишущего и читающего - 30 тысяч лет.
• От него до человека программирующего - немногим более двух тысяч лет.
• От человека программирующего до специального (слабого) искусственного интеллекта - несколько десятилетий.
Дальше продолжите сами.
«Успешный зародыш искусственного интеллекта должен быть способен к постоянному саморазвитию: первая версия создаёт улучшенную версию самой себя, которая намного умнее оригинальной; улучшенная версия, в свою очередь», трудится над ещё более улучшенной версией и так далее. При некоторых условиях процесс рекурсивного самосовершенствования может продолжаться довольно долго и в конце концов привести к взрывному развитию искусственного интеллекта». НИК ВОСТРОМ, Оксфордский университет
Ирония состоит в том, что мы даже не заметим, как это случится: у нас будет состоять в услужении дружественный, очень эффективный, но слабый, то есть узкоспециализированный искусственный интеллект, а потом вдруг раз - и нами управляет Нечто.
Причём уровень интеллекта этого Нечто мы даже не можем себе представить. В нашем представлении умный человек - это тот, кто набирает каких-нибудь 120 баллов по IQ-тесту, а дурак - тот, у кого меньше 80. Но как вообразить себе существо, у которого IQ превышает, если бы тест это позволял, десять тысяч или двадцать тысяч баллов?
Конечно, мы очень гордимся своими изобретениями - формулу открыли E = mc2, ракету в космос отправили, ДНК расшифровали, Bluetooth настроили, плохонькие 3D-принтеры произвели… А теперь попробуйте всё это как-то умножить на тысячи раз - и представьте, что это будет.
Фокус в том, что представить это невозможно, поскольку это и есть «технологическая сингулярность». Все известные нам законы, на которые мы опираемся, перестают действовать, ничто более не находится под нашим контролем.
Многие критики технологической сигнулярности утверждают, что она невозможна, потому что машины - это просто машины, и у них нет целей. Но правда состоит в том, что большинство систем искусственного интеллекта запрограммированы именно таким образом, чтобы иметь цели, и не только иметь, но и максимально эффективно их достигать.
Есть среди нас и добрые души, которые считают, что поскольку искусственный интеллект - это просто программа, то он не может демонстрировать злонамеренности в отношении человека. Но проблема в другом - цели искусственного интеллекта могут в какой-то момент столкнуться с нашими. «Люди обычно не питают ненависти к муравьям, - говорит он, - но если б мы захотели построить плотину ГЭС, а на её месте оказался бы муравейник, то муравьи столкнулись бы с проблемами».
Ещё одна из загадочных инициатив Рэя Курцвейла - это воскрешение покойников. Не знаю, как лично вы к этому относитесь, но Курцвейл настроен весьма решительно. Вот как он рассуждает…
Во-первых, каждый из нас оставляет в сети колоссальное количество информации - до 1,5 ГБ в сутки. Это и правда очень много.
Итак, мы оставляем немыслимое количество информации в сети и в какой-то момент умираем (пока это так). Родственники опечалены - все в трауре, страдают и мучаются. Так почему бы не вернуть им нас (пусть и в каком-то урезанном, так сказать, виде)?
Да, план такой: обучить бота быть воскрешённым из мёртвых покойником, который способен общаться со своими родственниками, а возможно, даже и развиваться с учётом того, что происходит в осиротевшем семействе.
Немного шокирует, правда? Но Курцвейл идёт в своих фантазиях куда дальше! Ваши безвременно умершие родственники наследили не только в Сети, но и в вашем собственном мозгу - как бы иначе вы о них тосковали? Так вот, Курцвейл обещает нанороботов, которые смогут считывать воспоминания, хранящиеся в ваших нейронных связях.
Собрав эти воспоминания об умершем непосредственно из вашего мозга, они отправят их в цифровое облако. Там эта информация будет переработана, что позволит воссоздать мертвеца не только по данным из Сети, но и соответствующего вашему собственному ощущению. Отличить подделку от натурального человека в таком случае будет уже невозможно.
Кстати, как именно это может выглядеть, рассказывает сериал «Чёрное зеркало»: этой фантазии посвящена отдельная серия второго сезона - «Я скоро вернусь». Молодой человек погибает в автокатастрофе, его девушка решается заказать сначала его виртуальную версию, а потом, чувствуя его живым и настоящим, - в физическом исполнении.
Дальше в страшной фантазии автора сериала Чарли Брукера всё идёт немножко не по плану, и не без драматизма. Но, в конце концов, сериал-то сделан для нас и наших современников, а как люди будут реагировать на подобные предложения лет через двадцать - предсказать сложно.
Так, например, в 2018 году шведская IT-компания, работающая в сотрудничестве с сетью стокгольмских похоронных бюро «Феникс», сообщила о скором появлении продукта, который позволит нам общаться с цифровыми копиями наших покойных друзей и родственников. А в 2021 г. это уже стало реальностью (https://focus.ua/digital/488780-kanadec-vossozdal-pogibshuyu-nevestu-pri-pomoshchi-iskusstvennogo-intellekta-i-poborol-gore).
Следующий этап - это создание визуальной копии мертвеца. Этим также активно занимаются: южно-корейская компания Elrois уже создала мобильное приложение (With Me), с помощью которого вы можете пообщаться с 3D-аватаром друга и даже сделать с ним совместное селфи. Жив этот друг или мёртв, для данного приложения, как вы понимаете, значения не имеет.
По мнению гениального предсказателя цифрового бума, 2040-2045-й годы - наша с вами последняя пятилетка. После ни мы сами, ни наш мир уже никогда не будем прежними. По Курцвейлу, мы войдём в область так называемой «технологической сингулярности».
Если совсем просто, то это значит буквально следующее: к 2045 году небиологический интеллект превзойдёт наш (то есть биологический) в миллиарды раз, станет всё быстрее и быстрее совершенствовать сам себя, достигнув в результате совершенно непредставимых с нашими интеллектуальными возможностями высот.
Математическое понятие «сингулярности» в отношении прогнозирования будущего впервые применил ещё великий Джон фон Нейман. Действительно, как ты этот прогресс ни считай, неизбежно приходишь к точке, где функция начинает вести себя настолько парадоксально, что все дальнейшие прогнозы становятся просто бессмысленными - одна сплошная абракадабра. Грань, так сказать, математического понимания.
Причём в физике ситуация аналогичная. Физическая сингулярность - это тоже расчётная точка, в которой достигаются некая бесконечная плотность и температура вещества, объём которого при этом стремится к нулю. Представить себе это абсолютно невозможно - за гранью человеческого понимания. Образно говоря, добегая до сингулярности, вселенная сворачивается в дырку (бублик) и становится неразличимой.
Первым, кто перевёл всё это безобразие на человеческий язык, был профессор математики и культовый писатель-фантаст Вернор Виндж. В 1993 году на симпозиуме VISION-21 Центра космических исследований NASA им. Льюиса и Аэрокосмического института Огайо он прочёл доклад «Технологическая сингулярность».
Суть его выступления сводилась к следующему: мы на грани перемен, сравнимых с появлением человека на Земле, - развитие техники неизбежно приведёт нас к созданию сверхмощного искусственного интеллекта, обладающего собственной сущностью, или, если угодно, специфическим разумом. За этим последует конец человечества, по крайней мере в том виде, в котором мы его знаем.
Для нас 2045 год будет, по Курцвейлу, последним: произойдёт полное слияние нашего мозга с искусственным неокортексом в облаке. Собственно, этот момент и называют той самой «технологической сингулярностью», к которой вроде как всё идёт. «Земля, - говорит Курцвейл, - превратится в один гигантский компьютер».
СПРАВОЧНО
В 60-х годах прошлого века Хайнц фон Ферстер и Иосиф Шкловский пришли к выводу: в 2030 году нас ждёт «демографическая сингулярность», когда кривая роста населения Земли «встанет на дыбы».
В 1993 году отечественный историк-востоковед Игорь Михайлович Дьяконов, изучая глобальные исторические процессы, ввёл понятие «исторической сингулярности».
Впоследствии его выводы развил Сергей Петрович Капица: он показал, что когда население Земли достигнет 9 миллиардов человек, то вне зависимости от причинных факторов произойдёт неизбежный переход человечества на новый уровень его организации (возникнет сразу несколько точек бифуркации , согласно теории динамических систем). В 1996 году австралийский учёный-эволюционист Грэм Дональд Снуке сформулировал аналогичный закон для эволюции биосферы - «эволюционной сингулярности», которая тоже «ускоряется с ускорением».Наконец, с 2001 года термин «технологическая сингулярность» в общественном сознании стал ассоциироваться с именем Рэя Курцвейла.
В теоретической физике сингулярностью называют область максимального сгущения материи под действием гравитационных сил - те самые бесконечные плотность и температура вещества в минимальном объёме.
Космическая чёрная дыра, представляющая собой эту самую сингулярность, находится за горизонтом событий - т. е. никакая информация не может покинуть этой области и вырывается наружу, а все известные физике законы перестают там работать.
«Технологическая сингулярность» - это состояние техники, когда она перестаёт быть нашим подручным инструментом, а мы лишаемся всякой возможности управлять ей.
Причём сам Курцвейл, как мне кажется, вовсе этого не скрывает, высказывается прямо и открыто, вовсе не пытаясь сгладить углы.
«Сингулярность - это не просто появление мыслящих машин в 20-х годах XXI века. Это станет лишь началом революции, когда мощность этих машин продолжит экспоненциально расти, и они станут сами себя перепрограммировать, чтобы сделаться ещё умнее. В 2045 году интеллект машин вырастет в миллиарды раз по сравнению с совокупным интеллектом всех людей - это и будет горизонтом событий, потому что наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает. В любом случае нам придётся измениться, чтобы соответствовать машинам, возможно, усилив за их счёт наш собственный интеллект». РЭЙ КУРЦВЕЙЛ
(Продолжение в след. посте)