Об ужасах "прекрасного человечества будущего".
Вот имеются страхи наступающего "мягкого 1984 года", общества тотального контроля за индивидами. С важной поправкой, что большую часть инфы о себе индивид теперь предоставляет сам и добровольно (чего только не выкидывая в социальных сетях, но дело не только в этом - считываются и обсчитываются, например, запросы в поисковичках и т.п.), и важной поправкой, что анализировать данные слежки будет искусственный интеллект.
Как верно заметил помянутый мною несколько дней назад Харари, ни в каком Сталинском СССР не хватило бы спецслужбистской бюрократии для того, чтобы проанализировать объемы инфы о гражданах, сопоставимые с нынешними, а вот искусственный интеллектик все обсчитает на раз-двас.
В общем, нам тревожно, что за нами, следят и будут следить еще больше. Но есть вопросы, которые имеет смысл задать, преодолев первичный страх перед таким вот наступившее-наступающим прелестным обществом.
Например, ради чего этот контроль? Понятно, когда такой контроль для блага правящих - сохранения их власти, их обогащения - а другое дело, когда контроль для того, чтобы вовремя изловить какого-нибудь террориста или сифилитика, коварно прокалывающего презервативы, когда партнерша отвернулась, чтобы сделать селфи для инстаграмчика. Ну или контроль для того, чтобы быстро предлагать товары и услуги, не дожидаясь, когда потребитель рот откроет. То есть тотальный контроль как бы для блага самих контролируемых. Такое ведь тоже возможно.
Успокоит ли это? Не факт. И тому есть несколько причин.
Во-первых, в нас (в большинство или в некоторых?) встроены представления о самоценности свободы и приватности. Сколько ни убеждай, что этим всем или частями этого надо жертвовать ради нашего же блага, нехороший осадок все равно остается. Более того, допускаю, что против аргументов в пользу тезиса, что общество контроля выгодно самим гражданам, есть только один контраргумент: нет, свобода и приватность самоценны, поэтому жертвовать ими недопустимо.
Во-вторых, и это уже мысль Харари - опасна ситуация, когда искусственный интеллект будет знать про нас больше, чем мы сами про себя знаем. Это неприятно, я согласен, но тезис об опасности такой ситуации по определению все-таки требует аргументов, я их Харари не предоставляет. Просто заявляет, что это плохо, когда мы себя знаем хуже, чем нас знает какая-то "сила". Не уверен, что эта ситуация пришла только вместе с социальными сетями и искусственным интеллектом. Может, так оно всегда было в каком-то смысле? На манер, например, того, что взрослые могут в каком-то смысле лучше знать ребенка, чем он сам.
Кстати, знаменитый случай про то, как искусственный интеллект знал, что юная дамочка беременна до того, как она сама об этом узнала - я узнал про этот случай от Путина (смайл) - оказывается, является любимым сюжетиком Харари.
Ну и, в-третьих. Общество тотального контроля противоречит демократическому ("англосаксонскому", если угодно) ценностному представлению о том, что власть должна контролироваться теми, кем она управляет. Напомню общую структуру дискурса: источник власти в народе; у народа есть право на смещение (смену) власти; и у народа есть право (и даже обязанность) контроля за властью. Любая власть, которая не подпадает под контроль тех, на кого она распространяется - даже если все выглядит так, что это во благо "простых граждан" - должна восприниматься либо как неприемлемая, либо как просто опасная. Про пугающее нас общество много говорят в том смысле, как про нас будут знать все, но ничего не говорится о том, как и что мы будем знать про тех, кто все будет знать о нас. Как мы их будем контролировать? И это важный источник опасений. Наверное, основной.
Как верно заметил помянутый мною несколько дней назад Харари, ни в каком Сталинском СССР не хватило бы спецслужбистской бюрократии для того, чтобы проанализировать объемы инфы о гражданах, сопоставимые с нынешними, а вот искусственный интеллектик все обсчитает на раз-двас.
В общем, нам тревожно, что за нами, следят и будут следить еще больше. Но есть вопросы, которые имеет смысл задать, преодолев первичный страх перед таким вот наступившее-наступающим прелестным обществом.
Например, ради чего этот контроль? Понятно, когда такой контроль для блага правящих - сохранения их власти, их обогащения - а другое дело, когда контроль для того, чтобы вовремя изловить какого-нибудь террориста или сифилитика, коварно прокалывающего презервативы, когда партнерша отвернулась, чтобы сделать селфи для инстаграмчика. Ну или контроль для того, чтобы быстро предлагать товары и услуги, не дожидаясь, когда потребитель рот откроет. То есть тотальный контроль как бы для блага самих контролируемых. Такое ведь тоже возможно.
Успокоит ли это? Не факт. И тому есть несколько причин.
Во-первых, в нас (в большинство или в некоторых?) встроены представления о самоценности свободы и приватности. Сколько ни убеждай, что этим всем или частями этого надо жертвовать ради нашего же блага, нехороший осадок все равно остается. Более того, допускаю, что против аргументов в пользу тезиса, что общество контроля выгодно самим гражданам, есть только один контраргумент: нет, свобода и приватность самоценны, поэтому жертвовать ими недопустимо.
Во-вторых, и это уже мысль Харари - опасна ситуация, когда искусственный интеллект будет знать про нас больше, чем мы сами про себя знаем. Это неприятно, я согласен, но тезис об опасности такой ситуации по определению все-таки требует аргументов, я их Харари не предоставляет. Просто заявляет, что это плохо, когда мы себя знаем хуже, чем нас знает какая-то "сила". Не уверен, что эта ситуация пришла только вместе с социальными сетями и искусственным интеллектом. Может, так оно всегда было в каком-то смысле? На манер, например, того, что взрослые могут в каком-то смысле лучше знать ребенка, чем он сам.
Кстати, знаменитый случай про то, как искусственный интеллект знал, что юная дамочка беременна до того, как она сама об этом узнала - я узнал про этот случай от Путина (смайл) - оказывается, является любимым сюжетиком Харари.
Ну и, в-третьих. Общество тотального контроля противоречит демократическому ("англосаксонскому", если угодно) ценностному представлению о том, что власть должна контролироваться теми, кем она управляет. Напомню общую структуру дискурса: источник власти в народе; у народа есть право на смещение (смену) власти; и у народа есть право (и даже обязанность) контроля за властью. Любая власть, которая не подпадает под контроль тех, на кого она распространяется - даже если все выглядит так, что это во благо "простых граждан" - должна восприниматься либо как неприемлемая, либо как просто опасная. Про пугающее нас общество много говорят в том смысле, как про нас будут знать все, но ничего не говорится о том, как и что мы будем знать про тех, кто все будет знать о нас. Как мы их будем контролировать? И это важный источник опасений. Наверное, основной.