Обратная сторона медали
Сопровождающая врезка-2 к статье "Наше ультрафиолетовое будущее".
Обратная сторона медали
Нет сомнений, наше будущее поражает калейдоскопом возможностей. Но столь радужные перспективы могут и не осуществиться, если произойдет какая-либо катастрофа, в результате которой человечество погибнет или будет отброшено назад. Некоторые эксперты считают, что вероятность глобальной катастрофы в XXI веке достигает 50%. Нам угрожают астероиды и глобальное изменение климата, новая крупномасштабная война и те... опасности, которые несут с собой новые технологии.
Все они без исключения могут иметь негативные последствия. Нанотехнологии могут принести так называемую серую слизь (grey goo) - быстрое неуправляемое распространение наноботов-ассемблеров (точнее - дизассемблеров), разбирающих всю органику на составные части. Правда, сейчас уже понятно, что на каждую серую слизь найдется синяя (полицейская) или зеленая (военная).
Безусловно, опасны и биотехнологии. И хотя здесь неплохо проработаны вопросы безопасности, ряд угроз игнорировать, конечно, нельзя. Например, злонамеренное или случайное создание опасных синтетических организмов и вирусов, появление биологического оружия индивидуального действия и, наконец, новые супернаркотики.
Также ученые опасаются возникновения недружественного сильного искусственного интеллекта. Это может превратиться в серьезную проблему. Поэтому уже сейчас функционируют специальные институты, которые изучают вопрос, как же сделать сильный ИИ дружественным. Ответа пока нет. Законы робототехники Айзека Азимова, гласящие что, робот не может причинить вред человеку и обязан выполнить его команды, на самом деле не работают.
Валерия Прайд. 2009. Наше ультрафиолетовое будущее. Discovery 4(4): 18-23.
Обратная сторона медали
Нет сомнений, наше будущее поражает калейдоскопом возможностей. Но столь радужные перспективы могут и не осуществиться, если произойдет какая-либо катастрофа, в результате которой человечество погибнет или будет отброшено назад. Некоторые эксперты считают, что вероятность глобальной катастрофы в XXI веке достигает 50%. Нам угрожают астероиды и глобальное изменение климата, новая крупномасштабная война и те... опасности, которые несут с собой новые технологии.
Все они без исключения могут иметь негативные последствия. Нанотехнологии могут принести так называемую серую слизь (grey goo) - быстрое неуправляемое распространение наноботов-ассемблеров (точнее - дизассемблеров), разбирающих всю органику на составные части. Правда, сейчас уже понятно, что на каждую серую слизь найдется синяя (полицейская) или зеленая (военная).
Безусловно, опасны и биотехнологии. И хотя здесь неплохо проработаны вопросы безопасности, ряд угроз игнорировать, конечно, нельзя. Например, злонамеренное или случайное создание опасных синтетических организмов и вирусов, появление биологического оружия индивидуального действия и, наконец, новые супернаркотики.
Также ученые опасаются возникновения недружественного сильного искусственного интеллекта. Это может превратиться в серьезную проблему. Поэтому уже сейчас функционируют специальные институты, которые изучают вопрос, как же сделать сильный ИИ дружественным. Ответа пока нет. Законы робототехники Айзека Азимова, гласящие что, робот не может причинить вред человеку и обязан выполнить его команды, на самом деле не работают.
Валерия Прайд. 2009. Наше ультрафиолетовое будущее. Discovery 4(4): 18-23.