Угроза человечеству: в течение века разум покинет пределы биологической природы...
...однажды компьютеры начнут распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям...
Эксперты Центра по изучению экзистенциальных рисков (CSER) Кембриджа, проанализировав опасность, которую представляют искусственный интеллект, нанотехнологии, ядерная война и климатические изменения, пришли к выводу, что современные технологии, развитие которых идет семимильными шагами (в то время как сам человек не совершенствуется), могут уничтожить человеческую цивилизацию уже в самом ближайшем будущем.
Сооснователь Skype Яаан Таллин и ученый Хью Прайс уверены, что главная угроза выживанию человеческой цивилизации таится в увеличении вычислительных мощностей компьютеров. Рано или поздно этот процесс приведет к созданию «Единого искусственного интеллекта», который будет способен писать программы самостоятельно и без вмешательства человека производить роботов - свое «потомство».
«Времена холодной войны прошли, риск ядерной катастрофы стал намного ниже. Однако теперь выживанию человечества угрожают компьютеры и искусственный интеллект, - предупреждает Таллин. - Когда они обгонят по уровню интеллекта людей, то неизвестно, чего захочется машинам, не знающим усталости и не наделенным какими-либо эмоциями. Люди рискуют потерять контроль над планетой, поскольку роботы равнодушны к нам и к тому, что мы считаем ценным».
«В течение этого века разум покинет пределы биологической природы. Интеллект обретут и электронные системы, мы станем не единственным разумным видом на Земле, - продолжает Прайс. - Мы должны серьезно подходить к вероятности, что изобретение искусственного интеллекта может стать новым ящиком Пандоры. При неправильном обращении с ним последствия могут оказаться катастрофическими».
По мнению Прайса, основная опасность заключается в том, что однажды компьютеры начнут распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям.
«Возможно, человечеству придется сражаться за ресурсы с доминирующим видом», - говорит Прайс. - Возьмем, к примеру, горилл. Они вымирают не потому, что люди враждебны к ним, а потому что мы изменяем окружающую их среду в соответствии с нашими желаниями».
Главное, не перепутать: где противник, а где свой…
Подтверждения тому, что роботы рано или поздно могут оказаться угрозой для человечества, есть уже сегодня. И их немало. В частности, сотрудники Института машиностроения и автоматики им. Фраунгофера (ФРГ) придумали машины, которые способны разрабатывать и производить себя автоматически, то есть абсолютно без участия человека.
Их можно перепутать с грудой канцелярских товаров или модной инсталляцией: всего лишь трубки на шарнирах. Но в этом-то и заключается прелесть модели: она способна принимать любую форму для определённой цели!
Дело в том, что создание робота под конкретную производственную задачу - это всегда серьёзная головная боль. Смоделировать его таким, чтобы он двигался тем или иным образом, брал предметы и прочее - всё это теперь могут сделать алгоритмы. Достаточно ввести, к примеру, требование двигаться по ровной плоскости настолько эффективно, насколько возможно.
«Генетические алгоритмы» разработаны американскими учёными Ходом Липсоном и Джорданом Поллаком в рамках проекта под устрашающим названием GOLEM.
В свою очередь роботы, активно используемые в последнее время в военных целях, уже сейчас могут принимать решения без участия человека. И даже более того. Ученые из Технологического университета Джорджии заявили в декабре прошлого года, что провели по заказу Управления военно-морских исследований ВМС США успешную работу по обучению машин, наделенных «разумом», обману! Так что теперь они умеют вводить противника в заблуждение. Главное, не перепутать: где противник, а где свой…
По мнению психолога Фрэнка Поллика, участвующего в разработке социально интерактивных машин, единственным препятствием для вхождения искусственного интеллекта в общество является отношение к нему людей.
«Люди примут машины, когда начнут расти бок о бок с ними, причём степень адаптации сейчас практически непредсказуема», - считает Поллик.
Известный британский астрофизик Стивен Хокинг добавляет к сказанному, что, если не принять уже сейчас срочных мер, человечество окажется на грани выживания!
«В отличие от нас, компьютеры удваивают свои возможности каждые 18 месяцев, так что опасность, что они смогут разработать искусственный интеллект и захватить мир, - реальна», - предупреждает Хокинг.
Ученый видит выход в генной инженерии. Он предлагает активнее развивать человеко-машинные интерфейсы и «киборгизацию», чтобы с их помощью создать сверхчеловека - расу с большим объемом мозга и более высоким интеллектом.
Но для этого нужно сначала разработать системы, позволяющие напрямую связать человеческий мозг с компьютером, «чтобы искусственный интеллект служил человеку, а не противопоставлял себя ему».
Опасения Хокинга разделяет и один из основателей и главный разработчик корпорации «Сан Майкросистем» Билл Джой. По его мнению, уже к 2030 году будут созданы компьютеры, наделенные человеческим сознанием.
...И что станет с нами, добровольно отдавшими свою судьбу в руки компьютерных существ с живой кремниевой системой, это очень большой вопрос…
Источник
Эксперты Центра по изучению экзистенциальных рисков (CSER) Кембриджа, проанализировав опасность, которую представляют искусственный интеллект, нанотехнологии, ядерная война и климатические изменения, пришли к выводу, что современные технологии, развитие которых идет семимильными шагами (в то время как сам человек не совершенствуется), могут уничтожить человеческую цивилизацию уже в самом ближайшем будущем.
Сооснователь Skype Яаан Таллин и ученый Хью Прайс уверены, что главная угроза выживанию человеческой цивилизации таится в увеличении вычислительных мощностей компьютеров. Рано или поздно этот процесс приведет к созданию «Единого искусственного интеллекта», который будет способен писать программы самостоятельно и без вмешательства человека производить роботов - свое «потомство».
«Времена холодной войны прошли, риск ядерной катастрофы стал намного ниже. Однако теперь выживанию человечества угрожают компьютеры и искусственный интеллект, - предупреждает Таллин. - Когда они обгонят по уровню интеллекта людей, то неизвестно, чего захочется машинам, не знающим усталости и не наделенным какими-либо эмоциями. Люди рискуют потерять контроль над планетой, поскольку роботы равнодушны к нам и к тому, что мы считаем ценным».
«В течение этого века разум покинет пределы биологической природы. Интеллект обретут и электронные системы, мы станем не единственным разумным видом на Земле, - продолжает Прайс. - Мы должны серьезно подходить к вероятности, что изобретение искусственного интеллекта может стать новым ящиком Пандоры. При неправильном обращении с ним последствия могут оказаться катастрофическими».
По мнению Прайса, основная опасность заключается в том, что однажды компьютеры начнут распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям.
«Возможно, человечеству придется сражаться за ресурсы с доминирующим видом», - говорит Прайс. - Возьмем, к примеру, горилл. Они вымирают не потому, что люди враждебны к ним, а потому что мы изменяем окружающую их среду в соответствии с нашими желаниями».
Главное, не перепутать: где противник, а где свой…
Подтверждения тому, что роботы рано или поздно могут оказаться угрозой для человечества, есть уже сегодня. И их немало. В частности, сотрудники Института машиностроения и автоматики им. Фраунгофера (ФРГ) придумали машины, которые способны разрабатывать и производить себя автоматически, то есть абсолютно без участия человека.
Их можно перепутать с грудой канцелярских товаров или модной инсталляцией: всего лишь трубки на шарнирах. Но в этом-то и заключается прелесть модели: она способна принимать любую форму для определённой цели!
Дело в том, что создание робота под конкретную производственную задачу - это всегда серьёзная головная боль. Смоделировать его таким, чтобы он двигался тем или иным образом, брал предметы и прочее - всё это теперь могут сделать алгоритмы. Достаточно ввести, к примеру, требование двигаться по ровной плоскости настолько эффективно, насколько возможно.
«Генетические алгоритмы» разработаны американскими учёными Ходом Липсоном и Джорданом Поллаком в рамках проекта под устрашающим названием GOLEM.
В свою очередь роботы, активно используемые в последнее время в военных целях, уже сейчас могут принимать решения без участия человека. И даже более того. Ученые из Технологического университета Джорджии заявили в декабре прошлого года, что провели по заказу Управления военно-морских исследований ВМС США успешную работу по обучению машин, наделенных «разумом», обману! Так что теперь они умеют вводить противника в заблуждение. Главное, не перепутать: где противник, а где свой…
По мнению психолога Фрэнка Поллика, участвующего в разработке социально интерактивных машин, единственным препятствием для вхождения искусственного интеллекта в общество является отношение к нему людей.
«Люди примут машины, когда начнут расти бок о бок с ними, причём степень адаптации сейчас практически непредсказуема», - считает Поллик.
Известный британский астрофизик Стивен Хокинг добавляет к сказанному, что, если не принять уже сейчас срочных мер, человечество окажется на грани выживания!
«В отличие от нас, компьютеры удваивают свои возможности каждые 18 месяцев, так что опасность, что они смогут разработать искусственный интеллект и захватить мир, - реальна», - предупреждает Хокинг.
Ученый видит выход в генной инженерии. Он предлагает активнее развивать человеко-машинные интерфейсы и «киборгизацию», чтобы с их помощью создать сверхчеловека - расу с большим объемом мозга и более высоким интеллектом.
Но для этого нужно сначала разработать системы, позволяющие напрямую связать человеческий мозг с компьютером, «чтобы искусственный интеллект служил человеку, а не противопоставлял себя ему».
Опасения Хокинга разделяет и один из основателей и главный разработчик корпорации «Сан Майкросистем» Билл Джой. По его мнению, уже к 2030 году будут созданы компьютеры, наделенные человеческим сознанием.
...И что станет с нами, добровольно отдавшими свою судьбу в руки компьютерных существ с живой кремниевой системой, это очень большой вопрос…
Источник