ИИ - прорыв в постчеловечество
Меня сегодня попросил начинающий писатель написать, будет ли прорывом создание компьютерного ИИ. Пишу.
Будет. И очень неоднозначным.
Создание компьютерного ИИ уровня человека - это практически уже повседневность. Экспертные системы часто показывают результаты на уровне лучших специалистов, более того - делают то, что разум человека не может сделать в принципе. Вспомните, что существуют теоремы, которые доказываются только с помощью ЭВМ. То есть, компьютер может ее доказать, а мы, люди - нет.
Но вот уже ученые придают роботам способность проявлять эмоции (робот Кисмет), двигаться, говорить, видеть и даже учиться (робот Ай-Каб). А ученые говорят, что "наблюдаемый сейчас стремительный прогресс в когнитивной науке в скором времени ... позволит «разгадать загадку разума», т.е. описать и объяснить процессы в мозгу человека, ответственные за высшую нервную деятельность человека. Следующим шагом, вероятно, будет реализация данных принципов в системах универсального искусственного интеллекта. Универсальный искусственный интеллект (также называемый «сильный ИИ» и «ИИ человеческого уровня») будет обладать способностями к самостоятельному обучению, творчеству, работе с произвольными предметными областями и свободному общению с человеком. Считается, что создание «сильного ИИ» станет одним из двух главных технологических достижений XXI в., наряду с молекулярными нанотехнологиями".
Но это и крайне опасно для нас, людей, не усилившихся умом и не способных создать конкуренцию сильному ИИ, который не обязан быть дружественным. Собственно, как создать дружественный ИИ - главная задача, например, Института Сингулярности.
Как же быть? Не дать сильному ИИ прав управлять миром? Попробуйте, он же будет быстро умнеть и скоро перегонит в этом направлении все наши службы безопасности. Не дать ему желаний? Собственно, пока что ученые никак не ограничивают свою фантазию в экспериментах и вряд ли будут, если им не запретить... Но, возможно, и одного непослушного гения будет достаточно, чтобы создать сильный ИИ, обладающей волей, самомодификацией и стремлениями.
Как мне кажется, чуть не единственный шанс для человечества уцелеть - апгрейдить срочно свой мозг сначала с помощью ноотропиков, потом - чипов и искусственных модулей, экзокортекса. То есть, срочно переходить в постчеловеческое состояние. Срочно. Но шансов успеть мало.
Собственно, в этом посте я не написала ничего нового, все это освещено во множестве работ, в том числе (и гораздо подробнее) - на сайте РТД, в разделе Искусственный интеллект.
Будет. И очень неоднозначным.
Создание компьютерного ИИ уровня человека - это практически уже повседневность. Экспертные системы часто показывают результаты на уровне лучших специалистов, более того - делают то, что разум человека не может сделать в принципе. Вспомните, что существуют теоремы, которые доказываются только с помощью ЭВМ. То есть, компьютер может ее доказать, а мы, люди - нет.
Но вот уже ученые придают роботам способность проявлять эмоции (робот Кисмет), двигаться, говорить, видеть и даже учиться (робот Ай-Каб). А ученые говорят, что "наблюдаемый сейчас стремительный прогресс в когнитивной науке в скором времени ... позволит «разгадать загадку разума», т.е. описать и объяснить процессы в мозгу человека, ответственные за высшую нервную деятельность человека. Следующим шагом, вероятно, будет реализация данных принципов в системах универсального искусственного интеллекта. Универсальный искусственный интеллект (также называемый «сильный ИИ» и «ИИ человеческого уровня») будет обладать способностями к самостоятельному обучению, творчеству, работе с произвольными предметными областями и свободному общению с человеком. Считается, что создание «сильного ИИ» станет одним из двух главных технологических достижений XXI в., наряду с молекулярными нанотехнологиями".
Но это и крайне опасно для нас, людей, не усилившихся умом и не способных создать конкуренцию сильному ИИ, который не обязан быть дружественным. Собственно, как создать дружественный ИИ - главная задача, например, Института Сингулярности.
Как же быть? Не дать сильному ИИ прав управлять миром? Попробуйте, он же будет быстро умнеть и скоро перегонит в этом направлении все наши службы безопасности. Не дать ему желаний? Собственно, пока что ученые никак не ограничивают свою фантазию в экспериментах и вряд ли будут, если им не запретить... Но, возможно, и одного непослушного гения будет достаточно, чтобы создать сильный ИИ, обладающей волей, самомодификацией и стремлениями.
Как мне кажется, чуть не единственный шанс для человечества уцелеть - апгрейдить срочно свой мозг сначала с помощью ноотропиков, потом - чипов и искусственных модулей, экзокортекса. То есть, срочно переходить в постчеловеческое состояние. Срочно. Но шансов успеть мало.
Собственно, в этом посте я не написала ничего нового, все это освещено во множестве работ, в том числе (и гораздо подробнее) - на сайте РТД, в разделе Искусственный интеллект.