Степаныч лечил себя сам...
...по справочнику терапевта. Умер из-за опечатки. Не станет ли гибель человечества следствием бага в программе?
Наша современная реальность все больше походит на описанный фантастами электронный мир будущего. Однако наши представления об искусственном интеллекте внутри говорящего компьютера, подобного жуткому HAL 9000 из «Космической Одиссеи» Артура Кларка - всего лишь детская страшилка по сравнению с тем, что может ожидать мир на самом деле, если нами же созданные умные машины получат возможность обходиться без человека.
В действительности «электронные повелители» уже берут на себя управление, и делают это намного более тонким способом, чем описано в научной фантастике. Их излюбленное оружие - алгоритм и секретные программные коды, сообщает BBC.
Британские журналисты предлагают задуматься: практически в каждой сфере современной жизни теперь царят умные веб-сервисы. Они умеют определять, какие книги и фильмы мы хотели бы купить, умеют отыскивать в Сети наших друзей и знакомых, и давать ответы практически на любые интересующие нас вопросы.
За всем этим стоят невидимые сложнейшие вычисления, и совершающие их умнейшие компьютерные «мозги« все больше превращаются в наших проводников в электронный мир, без которых мы вскоре вовсе не сможем обойтись. И это не просто рассуждения, а мнение экспертов: на июльской конференции TEDGlobal специалист по алгоритмам Кевин Слэвин произнес об этом одну из самых впечатляющих речей.
Для наглядности он привел конкретные примеры - робота-уборщика, математически определяющего оптимальный способ сделать всю работу по дому, а также онлайн-алгоритмы, которые уже вовсю управляют торгами на Уолл-стрит. «Мы пишем вещи, которые не можем самостоятельно прочитать, - так охарактеризовал ситуацию Слэвин. - От нас уже ускользает смысл того, что происходит в нами же созданном мире».
Книга за 23 миллиона долларов
И тут возникает первая и, пожалуй, главная опасность. Алгоритмы могут быть «умнее« людей, но они пока не обладают многими другими нашими качествами, и это может привести к серьезным, а порой и чудовищным просчетам. К примеру, ранее в этом году на торговом портале Amazon случился сбой, в результате которого на какое-то время самой дорогостоящей книгой в мире оказалось научное сочинение современного британского ученого Питера Лоуренса о биологии развития мухи. «Возможно, этот труд и является захватывающим чтивом, но при любом раскладе никак не стоит 23.6 миллиона долларов», - отмечают журналисты.
Такой суммы стоимость книги достигла после того, как алгоритмы установления и обновления цены начали «перебивать» друг друга. «Это - всего лишь малюсенькая крупинка того хаоса, который может случиться, если программа станет достаточно умной, чтобы работать без человеческого вмешательства», - убежден Слэвин.
Программные коды становятся все сложнее и простирают щупальца во все аспекты нашей жизни, даже постепенно начинают руководить нашими культурными предпочтениями. Так, сервис проката видеофильмов в интернете Netflix, благодаря используемым в нем алгоритмам, ныне контролирует 60% этой сферы. Мы же все меньше и меньше полагаемся на наши собственные критические способности и «сарафанное радио» и все больше на то, что продиктуют нам компьютерные расчеты.
Кинопредпочтения машин
Британская компания Epagogix быстро разглядела в этом выгоду и стала с помощью программных алгоритмов «предсказывать», станет ли хитом тот или иной кинофильм. Для этого берутся основные данные - сценарий, сюжет, занятые звезды, место, подбираются максимально «похожие» фильмы, и на основе того, какие у них были кассовые сборы, просчитывается, сколько денег принесет картина.
Как утверждает исполнительный директор компании Ник Мини, это помогает киностудиям решить, браться или нет за те или иные съемки. От одного проекта производственной стоимостью 180 миллионов фунтов кинопроизводители однажды отказались, выяснив с помощью алгоритма, что он принесет в кассу лишь 30 миллионов фунтов. В другом случае на главную роль вместо дорогостоящей актрисы взяли менее «затратную», когда система сделала радостный вывод, что фильм и так и эдак будет одинаково успешным.
Этот по сути «клинический» подход к кинопроизводству вызвал раздражение у сторонников более творческого, органического способа создания кинолент, однако находится все больше тех, кто предпочитает уповать на суждения машины, а не живых зрителей, в том числе и в Голливуде.
Как компьютеры меняют наш мозг
Если бы у алгоритмов была своя «Аллея славы», как в Голливуде, то первая звезда досталась бы Google, полагают журналисты BBC. Знаменитый секретный программный код помог этой поисковой системе стать одной из самых влиятельных и мощных в мире. Несомненно, что с Google навигация в Сети стала несравнимо легче, но критики и сейчас задаются вопросом «цены». К примеру, как далеко заходит перемалывающий данные алгоритм Google при сборе наших анкетных данных и формировании сети, которую мы видим?
Тем временем психологи Колумбийского университета в ходе недавнего исследования выяснили, что, полагаясь на поисковые системы, которые могут дать ответ практически на любой вопрос, человек теряет привычный способ мышления.
«С появлением поисковых систем мы, пытаясь что-то вспомнить, теперь полагаемся на интернет почти так же, как на друга, родственника или коллегу», - пояснила автор исследования Бетси Спарроу. По ее словам, человек теперь все чаще запоминает место, где может найти информацию, а не саму информацию.
Как машины управляют мировыми финансами и меняют пространство вокруг себя
На финансовых рынках тоже начинают всем заправлять компьютерные коды, а сложные алгоритмы решают, что купить и что продать. До 70% торгов на Уолл-стрит теперь осуществляются через так называемые «черные ящики». «Это означает, что помимо умных парней-трейдеров, банки и брокеры теперь нанимают тысячи других умных парней - физиков и математиков», - говорится в статье.
Но никакая математическая точность машин, поддержанная человеческим гением, не гарантирует, что все всегда будет гладко. Доказательством может служить мощнейший обвал 6 мая 2010 года, который мгновенно вызвал хаос на биржах. В 10-процентном падении индекса Доу-Джонса тогда обвинили торговца-жулика, но в действительности он просто пользовался компьютерной программой, которую и следует винить.
Случившееся вынудило внедрить в биржевую электронную систему Уолл-стрит специальные выключатели, чтобы мгновенно остановить торги, как только компьютеры начнут «плохо себя вести».
По мнению журналистов, алгоритмы, используемые на биржах, можно было бы считать кибер-эквивалентом яппи 1980-х, к тому же, в отличие от людей, они не требуют дорогих машин, сигар и шампанского. Все, что им нужно - это скоростные пути приема и передачи сигналов. По таким всего за три микросекунды сигнал преодолеет 1327 километров между Нью-Йорком и Чикаго, а новая трансатлантическая сеть позволит обмениваться информацией между Нью-Йорком и Лондоном всего за 60 миллисекунд.
Таким образом получается, что программные алгоритмы уже распространяют свое влияние за пределы машин, меняя пространство вокруг них, подстраивая его под свои нужды. Возможно, сейчас как раз самое время окончательно выяснить, насколько они поумнели по сравнению с нами и не упустили ли мы возможность их «приручить»
Наша современная реальность все больше походит на описанный фантастами электронный мир будущего. Однако наши представления об искусственном интеллекте внутри говорящего компьютера, подобного жуткому HAL 9000 из «Космической Одиссеи» Артура Кларка - всего лишь детская страшилка по сравнению с тем, что может ожидать мир на самом деле, если нами же созданные умные машины получат возможность обходиться без человека.
В действительности «электронные повелители» уже берут на себя управление, и делают это намного более тонким способом, чем описано в научной фантастике. Их излюбленное оружие - алгоритм и секретные программные коды, сообщает BBC.
Британские журналисты предлагают задуматься: практически в каждой сфере современной жизни теперь царят умные веб-сервисы. Они умеют определять, какие книги и фильмы мы хотели бы купить, умеют отыскивать в Сети наших друзей и знакомых, и давать ответы практически на любые интересующие нас вопросы.
За всем этим стоят невидимые сложнейшие вычисления, и совершающие их умнейшие компьютерные «мозги« все больше превращаются в наших проводников в электронный мир, без которых мы вскоре вовсе не сможем обойтись. И это не просто рассуждения, а мнение экспертов: на июльской конференции TEDGlobal специалист по алгоритмам Кевин Слэвин произнес об этом одну из самых впечатляющих речей.
Для наглядности он привел конкретные примеры - робота-уборщика, математически определяющего оптимальный способ сделать всю работу по дому, а также онлайн-алгоритмы, которые уже вовсю управляют торгами на Уолл-стрит. «Мы пишем вещи, которые не можем самостоятельно прочитать, - так охарактеризовал ситуацию Слэвин. - От нас уже ускользает смысл того, что происходит в нами же созданном мире».
Книга за 23 миллиона долларов
И тут возникает первая и, пожалуй, главная опасность. Алгоритмы могут быть «умнее« людей, но они пока не обладают многими другими нашими качествами, и это может привести к серьезным, а порой и чудовищным просчетам. К примеру, ранее в этом году на торговом портале Amazon случился сбой, в результате которого на какое-то время самой дорогостоящей книгой в мире оказалось научное сочинение современного британского ученого Питера Лоуренса о биологии развития мухи. «Возможно, этот труд и является захватывающим чтивом, но при любом раскладе никак не стоит 23.6 миллиона долларов», - отмечают журналисты.
Такой суммы стоимость книги достигла после того, как алгоритмы установления и обновления цены начали «перебивать» друг друга. «Это - всего лишь малюсенькая крупинка того хаоса, который может случиться, если программа станет достаточно умной, чтобы работать без человеческого вмешательства», - убежден Слэвин.
Программные коды становятся все сложнее и простирают щупальца во все аспекты нашей жизни, даже постепенно начинают руководить нашими культурными предпочтениями. Так, сервис проката видеофильмов в интернете Netflix, благодаря используемым в нем алгоритмам, ныне контролирует 60% этой сферы. Мы же все меньше и меньше полагаемся на наши собственные критические способности и «сарафанное радио» и все больше на то, что продиктуют нам компьютерные расчеты.
Кинопредпочтения машин
Британская компания Epagogix быстро разглядела в этом выгоду и стала с помощью программных алгоритмов «предсказывать», станет ли хитом тот или иной кинофильм. Для этого берутся основные данные - сценарий, сюжет, занятые звезды, место, подбираются максимально «похожие» фильмы, и на основе того, какие у них были кассовые сборы, просчитывается, сколько денег принесет картина.
Как утверждает исполнительный директор компании Ник Мини, это помогает киностудиям решить, браться или нет за те или иные съемки. От одного проекта производственной стоимостью 180 миллионов фунтов кинопроизводители однажды отказались, выяснив с помощью алгоритма, что он принесет в кассу лишь 30 миллионов фунтов. В другом случае на главную роль вместо дорогостоящей актрисы взяли менее «затратную», когда система сделала радостный вывод, что фильм и так и эдак будет одинаково успешным.
Этот по сути «клинический» подход к кинопроизводству вызвал раздражение у сторонников более творческого, органического способа создания кинолент, однако находится все больше тех, кто предпочитает уповать на суждения машины, а не живых зрителей, в том числе и в Голливуде.
Как компьютеры меняют наш мозг
Если бы у алгоритмов была своя «Аллея славы», как в Голливуде, то первая звезда досталась бы Google, полагают журналисты BBC. Знаменитый секретный программный код помог этой поисковой системе стать одной из самых влиятельных и мощных в мире. Несомненно, что с Google навигация в Сети стала несравнимо легче, но критики и сейчас задаются вопросом «цены». К примеру, как далеко заходит перемалывающий данные алгоритм Google при сборе наших анкетных данных и формировании сети, которую мы видим?
Тем временем психологи Колумбийского университета в ходе недавнего исследования выяснили, что, полагаясь на поисковые системы, которые могут дать ответ практически на любой вопрос, человек теряет привычный способ мышления.
«С появлением поисковых систем мы, пытаясь что-то вспомнить, теперь полагаемся на интернет почти так же, как на друга, родственника или коллегу», - пояснила автор исследования Бетси Спарроу. По ее словам, человек теперь все чаще запоминает место, где может найти информацию, а не саму информацию.
Как машины управляют мировыми финансами и меняют пространство вокруг себя
На финансовых рынках тоже начинают всем заправлять компьютерные коды, а сложные алгоритмы решают, что купить и что продать. До 70% торгов на Уолл-стрит теперь осуществляются через так называемые «черные ящики». «Это означает, что помимо умных парней-трейдеров, банки и брокеры теперь нанимают тысячи других умных парней - физиков и математиков», - говорится в статье.
Но никакая математическая точность машин, поддержанная человеческим гением, не гарантирует, что все всегда будет гладко. Доказательством может служить мощнейший обвал 6 мая 2010 года, который мгновенно вызвал хаос на биржах. В 10-процентном падении индекса Доу-Джонса тогда обвинили торговца-жулика, но в действительности он просто пользовался компьютерной программой, которую и следует винить.
Случившееся вынудило внедрить в биржевую электронную систему Уолл-стрит специальные выключатели, чтобы мгновенно остановить торги, как только компьютеры начнут «плохо себя вести».
По мнению журналистов, алгоритмы, используемые на биржах, можно было бы считать кибер-эквивалентом яппи 1980-х, к тому же, в отличие от людей, они не требуют дорогих машин, сигар и шампанского. Все, что им нужно - это скоростные пути приема и передачи сигналов. По таким всего за три микросекунды сигнал преодолеет 1327 километров между Нью-Йорком и Чикаго, а новая трансатлантическая сеть позволит обмениваться информацией между Нью-Йорком и Лондоном всего за 60 миллисекунд.
Таким образом получается, что программные алгоритмы уже распространяют свое влияние за пределы машин, меняя пространство вокруг них, подстраивая его под свои нужды. Возможно, сейчас как раз самое время окончательно выяснить, насколько они поумнели по сравнению с нами и не упустили ли мы возможность их «приручить»