Про развитие технологических систем и влияние этого на человека и общество
Кевин Келли о проблемах двух видов и новых технологиях
Это также похоже и на то, о чем мы периодически говорим: новейшие технологии сами по себе, как и новости о прорывах и открытиях, по сути, не вызывают особого интереса, а интересно то, как они повлияют на общество и по каким нормам будут работать, а это означает, что самая интересная профессия будущего - это юриспруденция в сфере новых технологий ))) Завидую юристам будущего.
Но что именно говорит Келли?
«... Существует два класса проблем, вызываемых новыми технологиями. Проблемы класса 1 связаны с тем, что технологии не работают идеально. Проблемы класса 2 связаны с тем, что технологии работают идеально.
Один пример: многие из существующих проблем с распознаванием лиц связаны с тем, что эта технология далека от совершенства. Она может испытывать трудности с распознаванием темных оттенков кожи; ее можно обмануть простой маскировкой; она может быть необъективна в определении пола. Все это - проблемы класса 1, поскольку технология находится в зачаточном состоянии. Во многом сопротивление широкому внедрению системы распознавания лиц объясняется ее несовершенством. Но что, если бы технология работала идеально? Что если бы система безошибочно распознавала человека только по его лицу? Возникает новый набор проблем: проблемы класса 2. Если бы система распознавания лиц работала идеально, то от нее невозможно было бы скрыться, невозможно было бы спрятаться от посторонних глаз. Вас можно было бы идеально отслеживать на публике, причем не только общественностью, но и рекламодателями и правительствами. Понятие «быть на людях» стало бы иметь совсем другое значение, чем сейчас. Совершенное распознавание лиц, вероятно, потребует новых видов общественного достояния, общих благ, с различными уровнями раскрытия информации. Более того, если кто-то сможет взломать систему, то доверие к ней будет подорвано. С поддельным удостоверением личности можно далеко зайти. Мы не подвергаем сомнению совершенные технологии; когда в последний раз вы сомневались в результатах калькулятора?
Другой пример: беспилотные автомобили. Беспилотные автомобили ездят не очень хорошо. Они становятся лучше, но в течение следующих нескольких десятилетий их проблемы будут проблемами класса 1, связанными с несовершенством функций. Мы будем требовать от роботов-водителей почти идеальных результатов (это более высокий стандарт, чем мы требуем от водителей-людей), поэтому все трудные проблемы, связанные с выявлением нестандартных ситуаций, божьих происков и странного поведения водителей-людей, будут безусловно обкатываться. В конце концов, технология будет доведена до совершенства, и тогда мы столкнемся с ее проблемами класса 2. В режиме класса 2 вождение автомобиля людьми может быть объявлено вне закона как слишком опасное. Несовершенство водителей-людей может оказаться несовместимым с совершенными водителями-роботами. Когда система выйдет из строя (например, в результате солнечной бури), ее совершенство может не позволить ей плавно деградировать, чтобы приспособиться к менее совершенным водителям. Хорошо функционирующая инфраструктура робомобилей может привести к увеличению количества пешеходных перекрестков; нам будет удобнее ходить рядом с бесшумными автомобилями, которые никогда не разбивались - пока не разбились.
Проблемы класса 1 возникают рано, и их легко представить. Обычно их решают рыночные силы. Можно сказать, что большинство проблем класса 1 решаются по пути, пока они спешат стать проблемами класса 2. Проблемы класса 2 решить гораздо труднее, потому что для их преодоления требуется нечто большее, чем просто невидимая рука рынка.
Возьмем сотовые телефоны. Первые версии потребительских сотовых телефонов были слишком большими, они работали только в некоторых местах, у них было удручающе малое время автономной работы, а их звонки и разговоры по ним нарушали нормальную работу. И самое главное - в условиях нового неравенства их могли позволить себе только богатые. В то время многие считали эти проблемы неотъемлемой частью технологии. Однако годы интенсивной работы рыночных сил устранили большинство этих проблем, создав смартфоны с тихой вибрацией и бесшумным текстом, которые стали настолько дешевыми и вездесущими, что их имеет каждый взрослый человек на планете. В отличие от компьютеров, они редко ломаются, просты в управлении и чрезвычайно надежны. Они просто работают. Сотовый телефон быстро перешел в разряд проблем второго класса.
Если раньше проблема была в том, что "не у всех есть эта технология, которая не очень хорошо работает", то теперь проблема в том, что "у всех есть эта технология, которая очень хорошо работает". Теперь мы имеем дело с технологией, которая присутствует везде и всегда. Миллиарды людей по всему миру подключены к сети 24 часа в сутки 7 дней в неделю, что позволяет любой информации, идеям, а также слухам и дезинформации рикошетить и касаться самым сокровенным образом. Технология может подсказывать, рекомендовать и "вести" нас сквозь какофонию миллиардов людей, когда все говорят одновременно. Страхи и убеждения толпы могут взять верх. Шепот сплетен усиливается и искажается, передаваясь через друзей друзей.
Разница между проблемами класса 1 и класса 2 заключается в том, что проблемы класса 2 не могут быть решены только рынком. Предпринимательский дух и режим жажды прибыли вполне способны решить большинство проблем класса 1. Но технология класса 2 уже доведена до совершенства и является повсеместной - она работает, и она есть у каждого. Что может сделать рынок в этом случае? Делать лучше и продавать больше - это уже не варианты, это насыщение. Что может сделать рынок, если распознавание лиц будет работать идеально и будет повсеместно? Если роботы-водители будут по умолчанию? Если все будут постоянно подключены ко всему и вся? Подобные системные вызовы требуют набора внерыночных рычагов, таких как формирующиеся культурные нормы, разумное регулирование, широкое образование и переосмысление проблемы. Это мягкие, медленно движущиеся силы, которым в настоящее время не уделяется должного внимания.
Чтобы справиться с повсеместным точным распознаванием лиц, когда оно придет (а оно придет), необходимо достичь общественного консенсуса относительно того, что значит иметь лицо, которое является одновременно личным и публичным, пересмотреть значение публичного или частного, обеспечить симметрию между наблюдателями и наблюдаемыми, а также поощрять экспансивные идеи относительно самих понятий идентичности любого типа. Большая часть этой работы лежит за пределами долларовой сферы и будет происходить в школах, судах, форумах, сообществах, твитах, конгрессах, книгах и поздно ночью. Когда технологии достигают состояния, когда они работают чрезвычайно хорошо и становятся повсеместными, их проблемная область переходит из сферы быстрых циклов, обеспечиваемых деньгами, в более медленные циклы культурного воображения. Для решения проблемы идеального распознавания лиц требуется расширенное воображение всего общества с новыми и разными идеями о нашем лице и идентичности.
Последняя модная технология - криптовалюта. Хотя математика, лежащая в основе блокчейна, абсолютно надежна, ее реализация на сегодняшний день имеет множество проблем класса 1. Криптовалюту сложно использовать, легко запутаться, она ориентирована на ранних последователей, потребляет много энергии и имеет предельную полезность, так как пригодна по сути только для зарабатывания денег. Но все эти проблемы будут преодолены предпринимателями. Когда-нибудь блокчейн станет вездесущим и скучным. Он будет доведен до совершенства, и его широкое распространение позволит создать многие тысячи новых типов организаций и отношений, которые мы сегодня даже не можем себе представить. Технология блокчейн может создать коллаборации из нескольких миллионов участников, работающих над одним проектом в режиме реального времени, или организации, в которых гораздо больше лидеров, чем сегодня. Когда криптовалюта добьется такого успеха, она перейдет к проблемам класса 2. На этом этапе одни предприниматели их не решат. Эти новые проблемы потребуют социального воображения для пересмотра того, что делают организации и для чего они нужны, для переосмысления того, что означает прозрачность в группе, для переоценки роли денег или даже смысла денег. Это, в свою очередь, приведет к появлению новых социальных ожиданий и норм поведения, а по мере формирования консенсуса - к появлению нового законодательства, кодифицирующего эти нормы.
Проблемы класса 1 вызваны несовершенной технологией и решаются на рынке. Проблемы класса 2 вызваны технологией, которая совершенна, и должны решаться внерыночными силами, такими как культурные нормы, регулирование и социальное воображение...»
От Ильи Плеханова
Это также похоже и на то, о чем мы периодически говорим: новейшие технологии сами по себе, как и новости о прорывах и открытиях, по сути, не вызывают особого интереса, а интересно то, как они повлияют на общество и по каким нормам будут работать, а это означает, что самая интересная профессия будущего - это юриспруденция в сфере новых технологий ))) Завидую юристам будущего.
Но что именно говорит Келли?
«... Существует два класса проблем, вызываемых новыми технологиями. Проблемы класса 1 связаны с тем, что технологии не работают идеально. Проблемы класса 2 связаны с тем, что технологии работают идеально.
Один пример: многие из существующих проблем с распознаванием лиц связаны с тем, что эта технология далека от совершенства. Она может испытывать трудности с распознаванием темных оттенков кожи; ее можно обмануть простой маскировкой; она может быть необъективна в определении пола. Все это - проблемы класса 1, поскольку технология находится в зачаточном состоянии. Во многом сопротивление широкому внедрению системы распознавания лиц объясняется ее несовершенством. Но что, если бы технология работала идеально? Что если бы система безошибочно распознавала человека только по его лицу? Возникает новый набор проблем: проблемы класса 2. Если бы система распознавания лиц работала идеально, то от нее невозможно было бы скрыться, невозможно было бы спрятаться от посторонних глаз. Вас можно было бы идеально отслеживать на публике, причем не только общественностью, но и рекламодателями и правительствами. Понятие «быть на людях» стало бы иметь совсем другое значение, чем сейчас. Совершенное распознавание лиц, вероятно, потребует новых видов общественного достояния, общих благ, с различными уровнями раскрытия информации. Более того, если кто-то сможет взломать систему, то доверие к ней будет подорвано. С поддельным удостоверением личности можно далеко зайти. Мы не подвергаем сомнению совершенные технологии; когда в последний раз вы сомневались в результатах калькулятора?
Другой пример: беспилотные автомобили. Беспилотные автомобили ездят не очень хорошо. Они становятся лучше, но в течение следующих нескольких десятилетий их проблемы будут проблемами класса 1, связанными с несовершенством функций. Мы будем требовать от роботов-водителей почти идеальных результатов (это более высокий стандарт, чем мы требуем от водителей-людей), поэтому все трудные проблемы, связанные с выявлением нестандартных ситуаций, божьих происков и странного поведения водителей-людей, будут безусловно обкатываться. В конце концов, технология будет доведена до совершенства, и тогда мы столкнемся с ее проблемами класса 2. В режиме класса 2 вождение автомобиля людьми может быть объявлено вне закона как слишком опасное. Несовершенство водителей-людей может оказаться несовместимым с совершенными водителями-роботами. Когда система выйдет из строя (например, в результате солнечной бури), ее совершенство может не позволить ей плавно деградировать, чтобы приспособиться к менее совершенным водителям. Хорошо функционирующая инфраструктура робомобилей может привести к увеличению количества пешеходных перекрестков; нам будет удобнее ходить рядом с бесшумными автомобилями, которые никогда не разбивались - пока не разбились.
Проблемы класса 1 возникают рано, и их легко представить. Обычно их решают рыночные силы. Можно сказать, что большинство проблем класса 1 решаются по пути, пока они спешат стать проблемами класса 2. Проблемы класса 2 решить гораздо труднее, потому что для их преодоления требуется нечто большее, чем просто невидимая рука рынка.
Возьмем сотовые телефоны. Первые версии потребительских сотовых телефонов были слишком большими, они работали только в некоторых местах, у них было удручающе малое время автономной работы, а их звонки и разговоры по ним нарушали нормальную работу. И самое главное - в условиях нового неравенства их могли позволить себе только богатые. В то время многие считали эти проблемы неотъемлемой частью технологии. Однако годы интенсивной работы рыночных сил устранили большинство этих проблем, создав смартфоны с тихой вибрацией и бесшумным текстом, которые стали настолько дешевыми и вездесущими, что их имеет каждый взрослый человек на планете. В отличие от компьютеров, они редко ломаются, просты в управлении и чрезвычайно надежны. Они просто работают. Сотовый телефон быстро перешел в разряд проблем второго класса.
Если раньше проблема была в том, что "не у всех есть эта технология, которая не очень хорошо работает", то теперь проблема в том, что "у всех есть эта технология, которая очень хорошо работает". Теперь мы имеем дело с технологией, которая присутствует везде и всегда. Миллиарды людей по всему миру подключены к сети 24 часа в сутки 7 дней в неделю, что позволяет любой информации, идеям, а также слухам и дезинформации рикошетить и касаться самым сокровенным образом. Технология может подсказывать, рекомендовать и "вести" нас сквозь какофонию миллиардов людей, когда все говорят одновременно. Страхи и убеждения толпы могут взять верх. Шепот сплетен усиливается и искажается, передаваясь через друзей друзей.
Разница между проблемами класса 1 и класса 2 заключается в том, что проблемы класса 2 не могут быть решены только рынком. Предпринимательский дух и режим жажды прибыли вполне способны решить большинство проблем класса 1. Но технология класса 2 уже доведена до совершенства и является повсеместной - она работает, и она есть у каждого. Что может сделать рынок в этом случае? Делать лучше и продавать больше - это уже не варианты, это насыщение. Что может сделать рынок, если распознавание лиц будет работать идеально и будет повсеместно? Если роботы-водители будут по умолчанию? Если все будут постоянно подключены ко всему и вся? Подобные системные вызовы требуют набора внерыночных рычагов, таких как формирующиеся культурные нормы, разумное регулирование, широкое образование и переосмысление проблемы. Это мягкие, медленно движущиеся силы, которым в настоящее время не уделяется должного внимания.
Чтобы справиться с повсеместным точным распознаванием лиц, когда оно придет (а оно придет), необходимо достичь общественного консенсуса относительно того, что значит иметь лицо, которое является одновременно личным и публичным, пересмотреть значение публичного или частного, обеспечить симметрию между наблюдателями и наблюдаемыми, а также поощрять экспансивные идеи относительно самих понятий идентичности любого типа. Большая часть этой работы лежит за пределами долларовой сферы и будет происходить в школах, судах, форумах, сообществах, твитах, конгрессах, книгах и поздно ночью. Когда технологии достигают состояния, когда они работают чрезвычайно хорошо и становятся повсеместными, их проблемная область переходит из сферы быстрых циклов, обеспечиваемых деньгами, в более медленные циклы культурного воображения. Для решения проблемы идеального распознавания лиц требуется расширенное воображение всего общества с новыми и разными идеями о нашем лице и идентичности.
Последняя модная технология - криптовалюта. Хотя математика, лежащая в основе блокчейна, абсолютно надежна, ее реализация на сегодняшний день имеет множество проблем класса 1. Криптовалюту сложно использовать, легко запутаться, она ориентирована на ранних последователей, потребляет много энергии и имеет предельную полезность, так как пригодна по сути только для зарабатывания денег. Но все эти проблемы будут преодолены предпринимателями. Когда-нибудь блокчейн станет вездесущим и скучным. Он будет доведен до совершенства, и его широкое распространение позволит создать многие тысячи новых типов организаций и отношений, которые мы сегодня даже не можем себе представить. Технология блокчейн может создать коллаборации из нескольких миллионов участников, работающих над одним проектом в режиме реального времени, или организации, в которых гораздо больше лидеров, чем сегодня. Когда криптовалюта добьется такого успеха, она перейдет к проблемам класса 2. На этом этапе одни предприниматели их не решат. Эти новые проблемы потребуют социального воображения для пересмотра того, что делают организации и для чего они нужны, для переосмысления того, что означает прозрачность в группе, для переоценки роли денег или даже смысла денег. Это, в свою очередь, приведет к появлению новых социальных ожиданий и норм поведения, а по мере формирования консенсуса - к появлению нового законодательства, кодифицирующего эти нормы.
Проблемы класса 1 вызваны несовершенной технологией и решаются на рынке. Проблемы класса 2 вызваны технологией, которая совершенна, и должны решаться внерыночными силами, такими как культурные нормы, регулирование и социальное воображение...»
От Ильи Плеханова