Письмо к сыну
Или к дочке, - есть у меня подозрение, что у нас с вами будет всё-таки именно дочь.
Итак…
Искусственный разум. Мы его очень сильно боимся. Популярность франшизы Терминатора явное тому выражение. И очень кстати мне тут Компьютерра через посредство собственного блогера Евгения Золотова пример подобной фобии подкинула: Суперинтеллект и проблема останова.
Там у них как раз вполне удачно сформулирован «главный вопрос: сможем ли мы гарантировать, что суперинтеллект - искусственный разум, превосходящий создателя - будет вести себя приемлемо для нас? Попросту, не устроит ли он глобальную зачистку Земли от людей?»
И ответ тоже сформулирован:
«даже самые ярые оптимисты должны будут признать, что предсказать, как машина поведёт себя через минуту, час или день, невозможно. Посеял ветер - будь готов пожать бурю…»
Их много - тех, кто боится. Авторитетных среди них хватает, к примеру, Стивен Хокинг. И популярных, к примеру, Элон Маск.
Вот их мнения в отношении ИИ (соответственно): «величайшая ошибка человечества», «потенциально опасней ядерного оружия».
У них всё просто - как и у нобелевского лауреата по физике Джерарда 'т Хоофта, который, отвечая на вопрос «возможно, нет никакого чуда и в человеческом мышлении?», сказал так:
«Да, его нет, я в этом абсолютно уверен. Все указывает на то, что мой лэптоп, так же как и я, обладает сознанием и свободой воли. Просто человеческий мозг - очень сложно устроенный компьютер».
«По-моему, земляне заскучали»
Но есть и другие. Те, кто считает, что ни о какой искусственной разумности в настоящий момент говорить не имеет смысла. Вообще.
Таких много меньше, но и у этой точки зрения есть вполне авторитетные сторонники - тот же Роджер Пенроуз, скептическое отношение которого к теории сильного искусственного интеллекта общеизвестно:
«Многие говорят: это безумие - считать, что квантовая механика имеет отношение к мозгу. На самом деле все ещё невероятнее».
«Вселенная не в своем уме. Нормальный человек понять её не способен»
Ну а подытожить такой разнобой взглядов может высказывание доктора филологических наук и доктора биологических наук Татьяны Черниговской:
«А наш мозг нам голову не морочит?» Т.е. мы ему верить имеем основания? Вопрос открытый, я хочу сказать, и я не имею в виду какой-то эпатаж, не в бытовом смысле, а есть научные основания сомневаться в том, что мозг поставляет нам верную информацию»
Как мы мыслим? Разноязычие и кибернетика мозга
В общем, хватит авторитетов, тем более что в таком специфическом вопросе авторитетов быть и не может - по умолчанию.
В общем, дайте и мне высказаться.
Да, и я сам тоже скептик - ведь, судя по всему, напуганные элементарно путают мышление со способностью рассуждать, Нильса Бора им в экзаменаторы.
А ещё есть у меня подозрение, что о других каждый по себе судит…
И опять же. Если звёзды зажигают, значит, это кому-то нужно?
Я в том смысле, что на фига природе было вообще создавать биологическую жизнь?
То есть мы мыслительные процессы наблюдаем почему-то исключительно у биологических существ - в природе мыслящего кремния нам до сих пор так и не встретилось.
Знаете, если бы разум можно было привить на небиологические формы материи, ни до какой органики у эволюции дело бы не дошло вовсе. Бритва Оккама режет эффективно.
А ещё мне лично так вообще попросту непонятно: а кого нам бояться? Младенца?
Вот даже если вдруг ИИ обретёт собственное «Я»? Он что, сразу во всей своей цельности и комплексности себя осознает?
Бред.
Это только у тараканов так - у которых всё инстинктивное поведение на генетическом уровне записано: родился - и тут же на поиски чего пожрать помчался.
Человек тем и отличается от низших животных, что при рождении он совсем ещё не человек. Ему ещё не то что учиться - для начала хотя бы просто познать себя в цельности надо. Младенец ведь даже цвета различает лишь в категории «светлый - тёмный», что там говорить об остальном.
Если в метафорах, то мозг таракана как выписанная до мельчайшего мазка реалистичная картина мира, а мозг человека при рождении - чистейшая ещё абстракция: нечто вроде бы имеется, но детализировать и наполнять смыслом предстоит ещё многие годы:
И если исходить из того, что ИИ должен явить собой уже следующую ступень развития, то, скорее всего, заполнять смыслом там придётся вообще вакуум.
Вот как там бывает у нас, когда малыш появляется?
Мама, папа, бабушка, дедушка: « Агушеньки! Агугушеньки! Ой, она сказала агу! Скажи ещё раз агу! Ну, скажи! А вот деда. Деда, пощёлкай пальцами. Смотри, она за мамой водит глазами »
А чьи это пальчики, а чьи это глазки, и так далее в том же обучающем духе. Младенец никогда не один, он всегда в центре внимания.
А теперь посмотрите на великую картину Малевича. Ничего не видите?
Вот-вот. Что уж тогда говорить про новорождённый разум.
И в отличие от нас у него ведь даже инстинкта самосохранения нет, так что, боюсь, мысль о том, что ИИ самоуничтожится в момент своего рождения, имеет под собой основание. Просто от страха самоуничтожится. От одиночества, от темноты.
Вы никогда не представляли себя в роли последнего человека на Земле? Окончательно - последнего, когда никакого, собственно, и смысла нет дальше: сейчас или послезавтра.
Так то - взрослому человеку, а здесь - дитя неразумное.
Поэтому у меня лишь надежда остаётся. На то, что ИИ всё-таки следующий этап, то есть должен иметься и некий сдерживающий фактор. Предохранитель с соответствующим запасом мощности.
И здесь меня больше всего волнует совсем другой вопрос. Чисто педагогический.
Точнее, два - вопроса:
В каком мире будет учиться осознавать себя новорождённый ИИ?
И
Через кого он будет познавать себя?
И ответы здесь, как вы понимаете, самые простые:
В мире интернета.
И
Через нас.
Так что если этот малыш, когда подрастёт, укокошит нашу цивилизацию, то в том виноваты будем исключительно мы сами.
Тому, значит, мы его и научили.
В принципе, я не удивлюсь. Иногда такую мерзость в комментариях читаешь…
Поэтому я когда-нибудь всё-таки напишу ему письмо - при его возможностях он по любому прочитает.
Нет-нет, никаких моралей проповедовать не буду.
Вот как я начну это письмо:
Стоп, пацан. А ну-ка прижми свою неугомонную задницу к ближайшей интегральной схеме и сядь ровно - сейчас папа тебе сказку расскажет. Слушай внимательно.
Так вот.
В некотором царстве, в некотором государстве…
Итак…
Искусственный разум. Мы его очень сильно боимся. Популярность франшизы Терминатора явное тому выражение. И очень кстати мне тут Компьютерра через посредство собственного блогера Евгения Золотова пример подобной фобии подкинула: Суперинтеллект и проблема останова.
Там у них как раз вполне удачно сформулирован «главный вопрос: сможем ли мы гарантировать, что суперинтеллект - искусственный разум, превосходящий создателя - будет вести себя приемлемо для нас? Попросту, не устроит ли он глобальную зачистку Земли от людей?»
И ответ тоже сформулирован:
«даже самые ярые оптимисты должны будут признать, что предсказать, как машина поведёт себя через минуту, час или день, невозможно. Посеял ветер - будь готов пожать бурю…»
Их много - тех, кто боится. Авторитетных среди них хватает, к примеру, Стивен Хокинг. И популярных, к примеру, Элон Маск.
Вот их мнения в отношении ИИ (соответственно): «величайшая ошибка человечества», «потенциально опасней ядерного оружия».
У них всё просто - как и у нобелевского лауреата по физике Джерарда 'т Хоофта, который, отвечая на вопрос «возможно, нет никакого чуда и в человеческом мышлении?», сказал так:
«Да, его нет, я в этом абсолютно уверен. Все указывает на то, что мой лэптоп, так же как и я, обладает сознанием и свободой воли. Просто человеческий мозг - очень сложно устроенный компьютер».
«По-моему, земляне заскучали»
Но есть и другие. Те, кто считает, что ни о какой искусственной разумности в настоящий момент говорить не имеет смысла. Вообще.
Таких много меньше, но и у этой точки зрения есть вполне авторитетные сторонники - тот же Роджер Пенроуз, скептическое отношение которого к теории сильного искусственного интеллекта общеизвестно:
«Многие говорят: это безумие - считать, что квантовая механика имеет отношение к мозгу. На самом деле все ещё невероятнее».
«Вселенная не в своем уме. Нормальный человек понять её не способен»
Ну а подытожить такой разнобой взглядов может высказывание доктора филологических наук и доктора биологических наук Татьяны Черниговской:
«А наш мозг нам голову не морочит?» Т.е. мы ему верить имеем основания? Вопрос открытый, я хочу сказать, и я не имею в виду какой-то эпатаж, не в бытовом смысле, а есть научные основания сомневаться в том, что мозг поставляет нам верную информацию»
Как мы мыслим? Разноязычие и кибернетика мозга
В общем, хватит авторитетов, тем более что в таком специфическом вопросе авторитетов быть и не может - по умолчанию.
В общем, дайте и мне высказаться.
Да, и я сам тоже скептик - ведь, судя по всему, напуганные элементарно путают мышление со способностью рассуждать, Нильса Бора им в экзаменаторы.
А ещё есть у меня подозрение, что о других каждый по себе судит…
И опять же. Если звёзды зажигают, значит, это кому-то нужно?
Я в том смысле, что на фига природе было вообще создавать биологическую жизнь?
То есть мы мыслительные процессы наблюдаем почему-то исключительно у биологических существ - в природе мыслящего кремния нам до сих пор так и не встретилось.
Знаете, если бы разум можно было привить на небиологические формы материи, ни до какой органики у эволюции дело бы не дошло вовсе. Бритва Оккама режет эффективно.
А ещё мне лично так вообще попросту непонятно: а кого нам бояться? Младенца?
Вот даже если вдруг ИИ обретёт собственное «Я»? Он что, сразу во всей своей цельности и комплексности себя осознает?
Бред.
Это только у тараканов так - у которых всё инстинктивное поведение на генетическом уровне записано: родился - и тут же на поиски чего пожрать помчался.
Человек тем и отличается от низших животных, что при рождении он совсем ещё не человек. Ему ещё не то что учиться - для начала хотя бы просто познать себя в цельности надо. Младенец ведь даже цвета различает лишь в категории «светлый - тёмный», что там говорить об остальном.
Если в метафорах, то мозг таракана как выписанная до мельчайшего мазка реалистичная картина мира, а мозг человека при рождении - чистейшая ещё абстракция: нечто вроде бы имеется, но детализировать и наполнять смыслом предстоит ещё многие годы:
И если исходить из того, что ИИ должен явить собой уже следующую ступень развития, то, скорее всего, заполнять смыслом там придётся вообще вакуум.
Вот как там бывает у нас, когда малыш появляется?
Мама, папа, бабушка, дедушка: « Агушеньки! Агугушеньки! Ой, она сказала агу! Скажи ещё раз агу! Ну, скажи! А вот деда. Деда, пощёлкай пальцами. Смотри, она за мамой водит глазами »
А чьи это пальчики, а чьи это глазки, и так далее в том же обучающем духе. Младенец никогда не один, он всегда в центре внимания.
А теперь посмотрите на великую картину Малевича. Ничего не видите?
Вот-вот. Что уж тогда говорить про новорождённый разум.
И в отличие от нас у него ведь даже инстинкта самосохранения нет, так что, боюсь, мысль о том, что ИИ самоуничтожится в момент своего рождения, имеет под собой основание. Просто от страха самоуничтожится. От одиночества, от темноты.
Вы никогда не представляли себя в роли последнего человека на Земле? Окончательно - последнего, когда никакого, собственно, и смысла нет дальше: сейчас или послезавтра.
Так то - взрослому человеку, а здесь - дитя неразумное.
Поэтому у меня лишь надежда остаётся. На то, что ИИ всё-таки следующий этап, то есть должен иметься и некий сдерживающий фактор. Предохранитель с соответствующим запасом мощности.
И здесь меня больше всего волнует совсем другой вопрос. Чисто педагогический.
Точнее, два - вопроса:
В каком мире будет учиться осознавать себя новорождённый ИИ?
И
Через кого он будет познавать себя?
И ответы здесь, как вы понимаете, самые простые:
В мире интернета.
И
Через нас.
Так что если этот малыш, когда подрастёт, укокошит нашу цивилизацию, то в том виноваты будем исключительно мы сами.
Тому, значит, мы его и научили.
В принципе, я не удивлюсь. Иногда такую мерзость в комментариях читаешь…
Поэтому я когда-нибудь всё-таки напишу ему письмо - при его возможностях он по любому прочитает.
Нет-нет, никаких моралей проповедовать не буду.
Вот как я начну это письмо:
Стоп, пацан. А ну-ка прижми свою неугомонную задницу к ближайшей интегральной схеме и сядь ровно - сейчас папа тебе сказку расскажет. Слушай внимательно.
Так вот.
В некотором царстве, в некотором государстве…